「検索には​残して、​AI学習だけ断る」が​Cloudflareの​設定1つで​できるようになった​ ──9月15日から​「ブロック」の​意味も​変わった

Cloudflareが9月15日、「検索の巡回は許すが、AI学習は断る」設定を全プランに追加しました。同じ日に「ブロック」の意味も変わり、選ぶと検索クローラーまで止まります。自社サイトで効くかの確かめ方まで整理します。

甲斐ショウジ甲斐ショウジ
CAG主宰/合同会社ATK CAIO(最高AI責任者)
技術10分で読めます
技術「検索には残して、AI学習だけ断る」がCloudflareの設定1つでできるようになった ──9月15日から「ブロック」の意味も変わった

気になるAIの話を、分かりやすく | 最新動向を、現場目線で

Cloudflareは2026年9月15日、「検索エンジンには巡回させたまま、AIの学習には使わせない」を選べる新しい設定(Disallow AI Training)を、全プランに追加しました[1]。Apple・Google・Microsoft が、この設定を尊重する、または期限を切って対応すると表明しています。

先に結論です。

  1. これまでは「検索も学習も許す」か「両方断る」かの二択でした。同じ1つのクローラーが検索と学習を兼ねているためです。今回それが分けられるようになりました
  2. 同じ日に「ブロック」の意味も変わりました。以前は検索を守るために検索兼用クローラーには適用されませんでしたが、今日からは適用されます。これから「ブロック」を選ぶと、検索からも消えます
  3. この設定が効くのは、通信を Cloudflare 経由にしているサイトだけです。CAGが確かめたところ、Cloudflare にドメインを預けている自社関連の4サイトは、いずれもこの条件を満たしていませんでした

この記事では、何が変わったか、なぜ必要だったか、今日どこまで伝わるか、自社サイトで効くかの確かめ方、の順に見ます。

サイトの通信制御画面。1つのクローラーが2つの経路に分かれ、検索は通り、学習は閉じたゲートで止められている
同じ1つのクローラーでも、検索の巡回は通し、学習の巡回は止める。それが1つの設定でできるようになった

01 何が​変わったのか

Cloudflare はクローラーを「振る舞い」で3つに分けています[1]

振る舞い中身
Search(検索)検索の索引を作るための巡回
Training(学習)モデルの学習・微調整のための巡回
Agent(代理)人の指示で、その人の代わりにページを見にくるAI

このうち Training に、新しく4つ目の選択肢が入りました。

設定何が起きるか
Allow(許可)すべて許可
Disallow AI Training(新)robots.txt に「学習お断り」を出す。検索兼用の対応済みクローラーは検索のために通す。Amazon・Anthropic・Meta・OpenAI の学習専用クローラーは遮断(検索には影響しない)
広告のあるページだけブロック広告が出ていると判定されたページでのみ遮断
Block(ブロック)検索兼用を含め、すべて遮断
WHAT EACH SETTING DOES 設定 検索兼用(検索の巡回) 検索兼用(学習の巡回) 学習専用クローラー Allow(許可) 通す 通す 通す Disallow AI Training 通す お断りを表明 遮断 広告のあるページだけブロック 広告ページのみ遮断 広告ページのみ遮断 広告ページのみ遮断 Block(ブロック) 遮断 遮断 遮断 「お断りを表明」= robots.txt に学習お断りを書き出す。相手が対応していれば効く(04章)
Disallow AI Training だけが、検索の巡回を通したまま学習を断つ。Block は検索の巡回も止める

名前のとおり、この設定は robots.txt に Disallow を書き出す形で相手に伝えます。Cloudflare 側の用語では Bot Preference Sync という仕組みです。

設定画面。許可、Disallow AI Training、広告のあるページだけブロック、ブロックの4択のうち、Disallow AI Training が選ばれている
選択肢は4つ。真ん中を選ぶと、検索は残したまま学習だけ断る(イメージ)

02 なぜ​「検索か​学習か」の​二択に​なっていたのか

原因は検索兼用クローラーです。1つのクローラーが検索と学習の両方をしているため、断ると検索からも消えます。

BEFORE / AFTER これまで 1つの設定 検索の巡回 学習の巡回 まとめて決まる 9月15日から 検索の設定 学習の設定 検索の巡回 学習の巡回 検索は通したまま 学習だけ断れる
検索兼用クローラーに対して、用途ごとに別の答えを返せるようになった

Cloudflare が挙げている数字が、サイト運営者の本音を表しています[1]

  • 検索ボットを遮断しているサイトは1%未満
  • 学習を何らかの方法で遮断しているサイトは17%

「検索には出たい。でも学習には使われたくない」が多数派なのに、道具がなかった、ということです。Cloudflare は robots.txt だけでは足りない理由も書いています。誰が巡回しているかを特定できず、なぜ巡回しているかも判別できず、無視するクローラーを止められないからです。

あわせて Cloudflare は「Accountable(説明責任を果たす)」という区分を作り、条件を4つ挙げています。学習を断る手段、AI要約を断る手段、どのページが学習に使われたかのURL単位の可視化、そして学習を断っても検索順位に影響しないという保証です。Apple・Google・Microsoft がこの区分に該当するとしています。

03 同じ​日に​「ブロック」の​意味が​変わった

9月15日からの変更点です[1]

  • Block と「広告のあるページだけブロック」が、検索兼用クローラー(Applebot・Bingbot・Googlebot)にも適用される。つまり選ぶと検索にも影響する
  • 「Block AI Bots」は廃止予定。Search/Training/Agent の細かい設定に置き換わる
  • Managed Robots.txt も廃止予定で、Bot Preference Sync に移行する

既存の利用者は何もしなくてよいとされています。設定は自動で移行されます。

これまでの設定移行後(学習)検索への影響
「Block AI Bots」が無効Allowなし
「Block AI Bots」が有効Disallow AI Trainingなし(検索は通る)
細かい設定で学習を BlockDisallow AI Trainingなし(検索は通る)

危ないのは、これから設定する人です。「AIに使わせたくない」と考えて Block を選ぶと、Applebot・Bingbot・Googlebot も止まり、検索から消えます。学習だけ断りたいなら Disallow AI Training を選びます。

新しくドメインを追加するときは、広告収入の有無で推奨設定が変わります。広告で収益を得ているサイトには、学習は Disallow AI Training、代理AIは「広告のあるページはブロック」という、より制限の強い組み合わせが提示されます。

04 ​今日どこまで​伝わるか​ ──Bing には​まだ​届かない

設定したつもりでも、相手側の対応状況で結果が変わります。公式の説明を1社ずつ整理しました[1]

クローラー学習を断る方法今日の状況
Applebot(Apple)robots.txt で Applebot-Extended を拒否有効。URL単位の可視化は来年提供予定
Googlebot(Google)robots.txt で Google-Extended を拒否有効。管理画面に生成系検索から除外するスイッチもある
Bingbot(Microsoft)現状は NOARCHIVE メタタグ、またはURLの除外ツールrobots.txt での「学習お断り」は未対応。2027年初頭を目標に構築中
DOES IT REACH THEM TODAY Applebot robots.txt の Applebot-Extended を拒否 今日から有効 Googlebot robots.txt の Google-Extended を拒否 今日から有効 Bingbot robots.txt は未対応。今日は NOARCHIVE や除外ツールで代替 2027年初頭を目標 3社とも「学習を断っても検索順位には影響しない」と表明している
同じ設定でも、届く相手と届かない相手がある。Bing は robots.txt 経由の学習拒否をまだ受け取らない

つまり、Disallow AI Training を選んでも、今日の Bing には robots.txt 経由で学習拒否が伝わりません。Cloudflare もその旨を明記しています。以前の設定でも同じだったので悪化ではありませんが、「設定したから全部断れている」と思い込むと実態とずれます。

robots.txtファイル。Google-ExtendedとApplebot-Extendedに対する拒否の行が強調され、通常のクローラーへの許可行はそのまま残っている
設定の実体は、robots.txt に書き出される数行。通常の巡回は許可したまま、学習用の名前だけを拒否する(イメージ)

05 自社サイトで​効くのか ──前提は​「Cloudflare を​通している​こと」

ここが実務では一番引っかかります。Cloudflare のドキュメントは、前提条件を3つ挙げています[2]

  • Cloudflare のアカウントを作る
  • ドメインを Cloudflare に追加する
  • 通信を Cloudflare 経由(プロキシ)にする

3つ目が抜けやすいところです。ネームサーバーだけ Cloudflare に預けて、通信は別のホスティングへ直接流している場合、Cloudflare はリクエストを見ていないので、クローラーを判別することも遮断することもできません

CAGでも確かめました[3]。Cloudflare にネームサーバーを預けている自社関連の4ドメインを、公開情報だけで調べた結果です。

サイトネームサーバー応答したサーバーcf-ray ヘッダ
A(自社サイト)Cloudflareホスティング側なし
B(LP基盤)Cloudflareホスティング側なし
C(ポートフォリオ)Cloudflareホスティング側なし
D(メディア)Cloudflareホスティング側なし

cf-ray は、Cloudflare を通ったときに付く応答ヘッダです。4件とも付いていませんでした。つまり、この4サイトでは今回の設定は効きません。確かめ方は1行です。

curl -sI https://example.com | grep -i cf-ray

行が出れば Cloudflare 経由、出なければ経由していない

06 次の​論点は​「AI要約」

Cloudflare は、学習とは別にAI要約を次の課題に挙げています[1]。要約は「学習に使われるか」ではなく、「人がサイトに来るかどうか」に直接効くからです。挙げられている数字は、どちらの方向にも読めます。

  • 検索利用者の半数超がAI要約を読み、読んだ人は40%以上の割合でそこで検索を終える(訪問は減る)
  • 一方、AI検索経由で来た人の成約率は、従来の検索経由の3倍から5倍超

Cloudflare は「どちらが良いとは決められない」としたうえで、来年初めを目標に「どれだけ自社の内容を要約に含めてよいか」を Cloudflare 側で一度に設定できるようにする、と書いています。今日の時点では、各社の窓口で個別に断る形です。

なお、Agent(人の代わりに見にくるAI)には、まだ Disallow にあたる設定がありません。業界標準(ai-prefs)の成熟を待つ、という説明です。

AIに見ていいサイトを指定する記事のサムネイル 関連記事 | 逆方向の話:AI側から見てよいサイトを絞るAIに「見ていいサイト」を指定できるようになった ──OpenAI・Anthropic・AWSの3社を比べて分かった、拒否のされ方の違い

07 使う​前の​チェックリスト

  • 自社サイトが Cloudflare を経由しているか、cf-ray ヘッダで確かめた
  • 「AIに使わせたくない」で Block を選んでいないか確認した(検索も止まる)
  • 学習だけ断りたいので Disallow AI Training を選んだ
  • Bing には今日は robots.txt 経由で伝わらないことを把握した(必要なら NOARCHIVE を併用)
  • 広告収入があるサイトは、推奨される設定が別であることを確認した
  • AI要約の扱いは、来年の設定追加を待つか、各社の窓口で個別に断るかを決めた

08 まとめ

  • 「検索には出したい、学習には使われたくない」が、設定1つで表明できるようになった。全プランで使える
  • 同じ日に「ブロック」の意味が変わった。これから選ぶ人は、検索まで止まることを承知で選ぶ必要がある
  • 設定が効くのは Cloudflare を通しているサイトだけ。CAGの4ドメインはいずれも通しておらず、対象外だった

設定を足す前に、その設定が自分のサイトまで届いているかを確かめる。届いていない設定は、選んでも何も起きません。

自社サイトの​AI対応を​見直したい方​へ

電脳技巧集団(AI職人ギルド)は、AI駆動でWebサイトと業務システムをつくっています。「どこまでAIに使わせるか」の設計から相談できます。お問い合わせはこちら

出典・注記

  1. Cloudflare「Have it both ways: stay discoverable in search while disallowing AI training」2026年9月15日。https://blog.cloudflare.com/accountable-mixed-use-ai-crawlers/ 新設定、移行の扱い、Accountable の要件、各社クローラーの状況、AI要約の数字。
  2. Cloudflare Docs「AI Crawl Control - Get started」(2026年9月16日閲覧)。https://developers.cloudflare.com/ai-crawl-control/get-started/ 前提条件(Cloudflare 経由でのプロキシ)。
  3. CAG実測(2026年9月16日)。Cloudflare にネームサーバーを預けている自社関連の4ドメインについて、dig でネームサーバーとIPを、curl -sI で応答ヘッダを取得。4件とも cf-ray ヘッダなし。設定画面は操作していない。

実測以外の数値・仕様は Cloudflare の公式発表とドキュメントに基づくもので、CAG自身が検証したものではありません。

言語化できるものは、全て作る。

あなたの「作りたい」を、定価とスピードで形に。まずは無料の相談から。

制作事例を見る