チュートリアル

登録済み全ドメインのリストをダウンロードする方法

共有

インターネット上の登録済み全ドメインを1つのファイルに、それこそが本当に求めているものであり、それを手に入れる実践的な方法はただ1つです。 サンプルではなく、単一の拡張子でもなく、最初のレート制限で止まってしまうスクレイピングでもありません。求めているのは、あらゆるTLDにまたがるドメインの完全なセットです。クリーンで最新、すぐにクエリできる状態のものです。ここではその入手方法と、自分で構築することがなぜ罠なのかを解説します。

登録済み全ドメインのリストはどれほどの規模か

多くの人が想像するよりもはるかに大規模です。世界中のTLDには現在、数億件のドメインが登録されており、新しいドメイン名が生まれ、古いものが失効するたびに、その数は毎日変動します。これはスプレッドシートで管理できるようなファイルではなく、本格的なデータセットです。

.com だけで1.6億ドメインを超えており、単独で名前空間全体のおよそ40%を占めています。.net.org、新しい拡張子(.io.ai.xyz.shop)、そして数百のカントリーコードを加えると、全体像は、個々のドメイン名で数億件に及びます。この規模こそが、全ドメインの完全なセットがインターネット上で最も価値あるデータセットの1つである理由です。セールスパイプライン、ブランド保護、セキュリティ研究、市場インテリジェンスの土台になっています。そして、それが無料で手に入らない理由でもあります。

誰もがまず気になる .com の疑問

「全ドメイン」を求める人のほとんどは、実際には.comから出発します。.comこそが市場そのものであり、1.6億件を超えるドメイン数は他のあらゆる拡張子を圧倒しているため、本気の計画であればまず.comを扱う必要があります。朗報なのは、完全なセットさえ手元にあれば、そこから.comだけを取り出すのは1行のフィルターで済むという点です。すべての.comドメインは、すべての.net.org、カントリーコードのドメイン名と同じファイルに収められているため、必要な瞬間に切り出し、ロングテールは後回しにできます。

これが、.com限定のエクスポートと完全なデータセットの違いです。全セットが手元にあれば、.comは単なるビューであり、別プロジェクトではありません。最初のファイルが1つの拡張子しかカバーしていなかったからといって、来四半期に.netを買い直す必要は一切ありません。

なぜ自分で組み立てることができないのか

すべてを網羅するマスターレジストリは存在しません。各TLDはそれぞれの運営者のインフラ上で、それぞれ独自のルールと独自のフォーマットで動いており、大多数は使えるフィードを一切公開していません。そのすべてをつなぎ合わせて完全で重複のない最新の全体像を作ることは、週末で書けるスクリプトではありません。ほとんどのチームが着手し、規模を大きく見誤り、3か月後には静かに諦めてしまうような、継続的なデータ運用です。それでも押し切ったチームは、壊れやすいスクレイパーの保守に追われ、数十ものレジストリにわたるフォーマット変更を追いかけ続け、なぜまたドメインリストが1週間遅れているのかをチームに説明する羽目になります。

これはwebatlaがすでに解決した課題です。何百もの互換性のないソースを追いかけて1四半期を費やし、それでも欠落が残るような苦労をする代わりに、私たちが追跡しているすべてのドメインをすでに収めた1つのファイルを、毎日更新された状態で手に入れられます。

完全で使えるセットにするもの

生のレジストリダンプの山はデータセットではなく、宿題です。価値があるのは、何百もの断片的なソースを実際にクエリできる1つのファイルへと変換する作業そのものであり、あなたが購入しているのはまさにその作業です。

  • カバレッジ.com.netから最小のカントリーコードまで、あらゆるTLDが1つのセットに収まっています。あるレジストリへのアクセスが難しかったせいで抜け落ちるものはありません。
  • 重複排除:ドメインごとにクリーンな行が1つで、複数ソースの重複による衝突はありません。
  • 正規化:すべての拡張子にわたって一貫したスキーマなので、example.comexample.co.ukは同じ方法でパースされます。
  • 鮮度:毎日再構築されるため、先四半期ではなく今日存在するドメインをセットが反映します。

この組み合わせこそが、「技術的にはデータを持っている」状態と「昼までに、それを使って質問に答えられる」状態の違いを生みます。

1つのファイルに、セット全体を

webatlaの全ドメインデータセットは、まさにそのリストそのものです。あらゆるTLDにわたる全ドメインが重複排除・正規化された上で1つのクリーンなファイルにまとめられ、毎日再構築されます。申請も承認もレジストリごとの事務手続きも不要です。一度購入すれば、名前空間全体を最新のJSONLとして取得できます。

これは意図的に、私たちが販売する中で最も安価かつ最大ボリュームの製品にしています。他のすべてがその上に築かれる土台だからです。定額1つの価格、1か月間のダウンロード、そして数か月ではなく数分で、すべてのドメインをディスク上に手に入れられます。

各行の中身

各行は1つのドメイン名を表し、データベースを立てなくても数億件のレコードをフィルタリング・セグメント化できるように構造化されています。1行はこれほどシンプルです。

{"domain": "example.com", "tld": "com", "suffix": "com", "domainType": "ICANN"}
Field Example Use
domain example.com 登録そのもの
tld com TLDで絞り込む
suffix co.uk 複数レベルのサフィックスを正しく扱う
domainType ICANN gTLDとプライベート名前空間を区別する

ベースセットは、どのドメインが存在するかを教えてくれます。それぞれの背後にある登録記録、つまり誰が所有しているか、いつ作成されたか、どのレジストラを通じてか、が必要になったら、RDAP & WHOISデータセットを重ねてください。ネームサーバーにはDNSデータセットを、各サイトが何を使って動いているかにはTechnologiesを追加できます。同じドメインのセットを、必要な切り口でいくらでも拡張できます。

これほど大きなファイルを扱う

webatlaのすべてのデータセットはJSONL形式で提供されます。1行に1つのJSONオブジェクトという、数億件のドメインにスケールする唯一のフォーマットです。1行ずつストリーミングでき、jq、pandas、DuckDB、BigQuery、Sparkにそのまま読み込めるため、ファイル全体をメモリに載せる必要は一切ありません。

拡張子ごとのドメイン数をjqの1行でランキングします。

cat domains.jsonl | jq -r .tld | sort | uniq -c | sort -rn | head

.comドメインだけを別ファイルに抽出します。

jq -c 'select(.tld == "com")' domains.jsonl > com.jsonl

あるいは、データベースもインデックスも用意せずに、DuckDBでセット全体をそのままクエリすることもできます。

SELECT tld, count(*) AS domains
FROM 'domains.jsonl'
GROUP BY tld
ORDER BY domains DESC;

このクエリ1つで、生のファイルは数秒のうちに拡張子ごとのドメイン市場マップへと変わります。同じデータを使って、私たちはDNSとレジストラの集中度2026年第1四半期の急成長TLDを分析しました。

完全なドメインセットを頼りにしているのは誰か

全ドメインセットを購入するチームはあらゆる業界に及びますが、共通する課題は1つです。不完全なデータは静かに彼らの仕事を壊し、その欠落は後工程で何かがおかしくなるまで見えないままだということです。

  • セールスと市場開拓:総アドレサブル市場(TAM)の把握は、全ドメインから出発して初めて正確になります。.comのニッチ、カントリーコード、技術スタックで絞り込めば、市場の一部ではなく市場全体を開拓できます。
  • ブランド・商標チーム:すべての拡張子にわたって自社ブランドを含むドメインを見つけ出せば、休眠中の.comタイポスクワットも悪用される前に発見できます。
  • セキュリティと脅威インテリジェンス:名前空間全体をスイープして、フィッシングのパターン、不審なネームサーバーのクラスター、部分的なフィードでは見逃してしまう新しいなりすましドメインを検出できます。
  • ドメイン投資家とレジストラ:拡張子ごとのドメインの動きを時系列で追い、需要がどこへシフトしているかを把握できます。
  • データ・MLチーム:モデルを歪めるスクレイピングサンプルではなく、クリーンで重複のない実在ドメイン名のセットで学習・評価できます。

これらすべてに共通して必要なのは、同じ出発点です。古びたエクスポートや中途半端なスクレイピングではなく、信頼できる完全かつ最新のドメインセットです。

不完全なリストが招く本当のコスト

不完全なリストは静かに失敗し、それこそが危険な理由です。総アドレサブル市場の数字は、実際に存在するドメインのごく一部から作られていたと判明するまでは、確かなものに見えます。ブランドスイープは問題なしと返ってきますが、それはなりすましドメインが存在しないからではなく、データにそもそも含まれていなかったからです。モデルは偏ったサンプルで学習し、予測が静かにずれ始めるまで誰も気づきません。

完全性はドメインリストにとって「あれば嬉しい」ものではなく、存在意義そのものです。カントリーコードや先週の新規登録、駐車状態のロングテールが抜けたセットは、その上に築かれるすべての集計とマッチングに偏りを生みます。断片をつなぎ合わせる代わりに1つの権威あるファイルを購入することこそが、その死角を取り除く方法です。1つのファイル、すべてのドメイン、だからこそ得られる答えは実際に正しいものになります。

ファイルから最初の答えまで、わずか数分

価値を得る前にETLプロジェクトを走らせる必要はありません。1つのファイルを開き、jqやDuckDBを向ければ、その場でドメイン名前空間全体をクエリできます。.com.netの件数を比較する、カントリーコードを切り出す、ブランドをあらゆる拡張子にわたって一度のパスでパターンマッチする、といったことがすぐにできます。ただのJSONLなので、同じファイルが変換なしにPythonノートブック、Sparkジョブ、BigQueryへの読み込みにそのまま使えます。データを購入してから実際の質問に答えるまでの差は、スプリント単位ではなく分単位です。これがセットをまるごと購入する実践的な理由です。届いた瞬間からすでに役立ち、時間は配管作業ではなく分析そのものに使えます。

常に最新、決して古くならない

ドメインファイルは急速に古くなります。ドメイン名は毎分登録され、毎分失効するため、6か月前のファイルは、時間に敏感な用途にとってはほぼノイズです。そして、ローンチやキャンペーンを示す新しいドメインこそ、古びたセットが見逃してしまうものです。だからこそこのデータセットは毎日再構築され、すべてのエクスポートは日付でバージョン管理されています。手元にあるものが何で、いつ切り出されたものかを常に正確に把握できます。登録されたその日のうちに新規ドメインを捉えることが目的であれば、Domain Investorデータセットは、あらゆる拡張子にわたる新規ドメインを中心に構築されています。

よくある質問

登録済みドメインはいくつありますか。 すべての拡張子を合計すると数億件にのぼり、その数字は毎日変動します。.comだけでも1.6億件を超え、全体のおよそ40%を占めています。常に変動し続けるため、日付付きで毎日再構築されるセットだけが、実際に使う価値のあるバージョンです。

.comドメインだけを単独でダウンロードできますか。 できます。全データセットをtld == "com"でフィルタリングすれば、すべての.comドメインを単独のファイルとして取得できます。.comは圧倒的な差で最大の拡張子なので、大きなファイルになる点は見込んでおいてください。ただし、それはフィルターであって、別途の購入ではありません。

ファイルには.com以外も含まれますか。 含まれます。.comは最大のシェアを占めているに過ぎません。このセットは.net.org.io.ai、そして最小のカントリーコードに至るまで、あらゆる拡張子を同じファイルの中に収めています。

新規登録されたドメインだけを取得できますか。 できます。登録日でフィルタリングするか、TLDを横断した新規登録に特化したDomain Investorデータセットから始めてください。

フォーマットは何ですか。どれくらい最新ですか。 クリーンなJSONLで、1行に1ドメイン、毎日再構築され日付でバージョン管理されています。古びた過去のダンプになることはありません。

全リストを商用利用できますか。 できます。セールス、セキュリティ、ブランド保護、リサーチ、製品機能への組み込みは、すべて標準的な利用方法です。定額1つの価格で、データの上に何を構築するかにかかわらず1か月間のアクセスをカバーします。

費用はいくらですか。 サブスクリプションなしで、1か月間のアクセスに定額1つの価格です。現在の金額は料金ページをご覧ください。すべてのドメインをディスクに収める、最も低コストな方法です。

全リストをダウンロードする

インターネットのドメインをレジストリごとに1つずつ組み立て直そうとするのはやめましょう。それは決して終わらないプロジェクトです。webatlaの全ドメインデータセットをダウンロードする →すれば、.comもロングテールも含め、あらゆるTLDにわたる登録済み全ドメインを、クリーンで最新のJSONLとして今日手に入れられます。あるいは全データセットを見るで、その上に重ねられるものすべてを確認できます。追いかけるべきレジストリも、待つべき承認もありません。完全なドメインセットが、届いたその瞬間から働き始めます。「全ドメインが必要だ」から実際に手にするまでの、最速の道筋です。

この記事の裏にあるデータを入手

この記事の執筆に使用したものと同じJSONLで、今後は毎日新しいエクスポートが提供されます。対応するデータセットのいずれかをご購入ください。

M
Marina
データライター · webatla

webatlaのデータセットの裏側にあるデータジャーナリズム、ドメインの動向、技術の普及状況、そしてインデックスの構築方法について執筆しています。

続きを読む