実測レポート

検索しない AI からは、引用元を取得できない

Web 検索を伴わない 3 つの AI に 270 回質問したところ、URL が返ったのは 3 回だけでした。その 13 件もすべて、回答の中に書かれた公式サイトへのリンクで、回答の根拠として参照したページではありませんでした。

この記事の要点

  • Web 検索をしない設定の AI に 270 回質問すると、URL が返ったのは 3 回、根拠として参照したページは 0 件でした
  • 学習知識型の AI では、答えの根拠を外からたどれません
  • 引用元まで分析したいなら、Web 検索をしてから答える AI を必ず計測に入れます

AI の「根拠 URL」とは何ですか?

「使われ方」と書いたのは、同じ名前の AI サービスでも、Web 検索を使う画面・設定かどうかで型が変わるからです。AI には大きく 2 つの型があります。

学習知識型検索連動型
答えの作り方学習済みの知識から質問を受けてから検索し、その結果から
根拠 URL返さない返す
引用元の分析できないできる
例Web 検索を使わない設定で呼び出した AI などPerplexity、Google の AI 概要・AI モードなど

検索をしない AI に 270 回聞くと、根拠 URL はいくつ返りましたか?

オンライン英会話の分野で、30 問を 3 つの AI に 3 回ずつ投げました。3 つとも、Web 検索を伴わない設定で呼び出しています。

AI回答数URL が返った回返った URL の数
Gemini 2.5 Flash90313
Claude Sonnet 4.69000
GPT-4o mini9000
合計2703(1.1%)13

返ってきた 13 件の中身を 1 件ずつ確認すると、すべて回答本文の中に「公式サイト」として書き込まれたリンクでした。推薦したサービスのトップページや法人向けページへのリンクで、回答を作るために参照したページを示したものではありません。

270 回の回答のうち、根拠として参照したページを示したものは 0 件でした。

比較のために書くと、同じ時期に Web 検索をしてから答える AI で行った計測では、1 回の回答ごとに複数の引用元が示されていました(AI の引用元、10 件中 8 件は第三者の比較記事だった)。

なぜ、検索をしない AI は根拠 URL を返さないのですか?

回答を作るときに、参照したページが存在しないからです。学習知識型の AI は、学習済みの知識から文章を組み立てます。その場でどこかのページを読んでいないので、「ここを読みました」と示すものがありません。

回答の中に URL が書かれることはあります。ただしそれは、文章の一部として AI が書いたものです。

  • 参照した証拠ではない
  • 実在するか、正しいページかは、開いて確かめるまで分からない

という 2 点に注意が必要です。今回の 13 件はいずれも実在しそうな公式サイトの形をしていましたが、それでも「根拠」ではありません。

主張根拠の強さ根拠
Web 検索を伴わない AI は、根拠 URL をほぼ返さない◎ 実証本記事の実測(270 回中、根拠としての URL は 0 件)
回答文中に書かれた URL は、参照の証拠にならない◎ 実証返った 13 件は、すべて本文中の公式サイトへのリンク
個社が学習データを操作して、学習知識型の回答を変えられる✕ 否定されつつある個社が学習データを操作する手段はない
学習知識型の回答は、公開されている情報全体での書かれ方の影響を受ける△ 仮説どの情報がどれだけ効くかは確認されていない

根拠の強さは、◎ 実証(当方の実測、または複数の独立した調査が同じ結論)/○ 有力/△ 仮説/✕ 否定されつつある、の 4 段階で示しています。

引用元まで分析したいときは、どう測ればいいですか?

Web 検索をしてから答える AI を、必ず計測に入れます。学習知識型だけを測ると、「どのサイトに載れば回答が変わりうるか」を知る手がかりが永久に得られません。

知りたいこと学習知識型だけで測る検索連動型を含めて測る
出現率(SOV)・順位分かる分かる
どう書かれているか(否定的な言及など)分かる分かる
どのサイトを読んで答えたか分からない分かる
どこに載っているかで、回答がどう変わるか分からない手がかりが得られる

学習知識型の計測に意味がないわけではありません。出現率や、どんな言葉で紹介されているかは十分に分かります。足りないのは「なぜそうなっているか」を外部の情報源までたどる部分だけです。

計測の設計で押さえることは 3 つです。

  1. エンジン名とモデル名に加えて、Web 検索の有無を記録する。同じサービスでも設定で型が変わる
  2. 引用元を分析するなら、URL が取れた回の割合を先に確認する。当方は、URL が取れた回が全体の 2 割に満たない場合、引用元の分析はせず、できないことを報告書に明記しています。今回の 270 回の計測でも、引用元の分析は行っていません
  3. 2 つの型の結果を平均しない。仕組みが違うものを混ぜると、どちらの実態も読めなくなる

よくある質問

学習知識型の AI に名前が挙がるには、何をすればいいですか?

個社が学習データを操作する手段はありません。学習知識型の回答は、公開されている情報全体の中で自社がどう書かれているかの影響を受けると考えられますが、どの情報がどれだけ効くかは確認されていません。効くとしても時間がかかる領域だと考えてください。

回答に書かれた URL は、信用できますか?

参照した証拠としては使えません。AI が文章の一部として書いたものなので、実在するか、内容が合っているかは、開いて確かめる必要があります。

どの AI を測ればいいですか?

見込み客が実際に使っている AI を中心に、学習知識型と検索連動型の両方を入れることを勧めます。前者で「どう言われているか」を、後者で「どこを読んで答えているか」を見ます。Google の AI 概要のように、表示されない回がある AI の扱いは AI Overview が表示されないとき、計測でどう扱うか にまとめました。

計測条件と免責

本ページに記載した数値は、明記した計測条件(エンジン・モデル・反復回数・実施日)のもとで観測された結果です。 生成 AI の回答は継続的に変動するため、同じ条件で再計測しても同一の結果になるとは限らず、将来の結果を保証するものではありません。 また本ページは、特定の施策によって出現率・順位が向上することを保証するものではありません。

法規制に関する記述は、公表されている運用基準にもとづく一般的な整理であり、法的助言ではありません。個別の判断は専門家にご確認ください。

本ページに登場する計測対象・競合は、特に断りのない限り社名を伏せています。特定の企業・サービスを推奨または批判する意図はありません。