AIは嘘をつく。ポン出しレポートを共有する前の確認5つと、嘘をつかせない頼み方

「AIは嘘をつく」と調べる方は、たぶん直前に一度、痛い目を見ているのだと思います。もっともらしい文章の中に、実在しない書名や、辻褄の合わない数字がまぎれていた。私も何度もやられました。ただ、仕事のなかで本当に困っているのは、AIが間違えること自体ではありません。AIが出したものを、中身を確かめないまま人に渡してしまう場面のほうです。ハルシネーションの技術解説ではなく、出す側の責任という角度から整理します。

なぜAIは自信満々に嘘をつくのか

AIは、事実を台帳から引いてきて答える機械ではありません。膨大な文章を読み込んで、次に来そうな言葉をもっともらしくつないでいく仕組みで動いています。だから、知らないことを聞かれても、空欄のまま返すという発想がそもそも弱い。人間なら「ちょっと調べてから答えます」と言って止まる場面で、形だけきれいに整った答えを差し出してしまいます。

やっかいなのは、口調が最後まで落ち着いていることです。自信がないときに語尾が濁ることもなければ、目が泳ぐこともありません。文章の堂々とした感じと、内容の正しさは、ほとんど関係がありません。人間が相手なら無意識に読み取っていた「なんか自信なさそうだな」という手がかりが、AI相手だと一切使えない。私が最初につまずいたのも、そこでした。

専門用語ではハルシネーションと呼ばれますが、名前を覚えても実務は楽になりません。押さえたいのは、AIの嘘が意地悪でも故障でもなく、役割をまじめに果たした結果だという一点だけです。

検索結果の「AIによる概要」に足をすくわれた日

体感として一番ひやっとしたのは、検索結果の一番上に出てくるAIの要約でした。ある制度の適用条件を調べていて、要約が言い切っていた説明をそのまま覚えて、人にも話してしまった。あとで気になって元の記事を開いたら、要約は別々の2本の記事の説明を1つにまとめていて、条件の一部が違うケースのものでした。文そのものはどちらの記事にも存在している。混ぜた瞬間に嘘になっていたわけです。

検索する側からすると、いちいちリンクを開くのは面倒です。要約が先に目に入って、しかも読みやすい日本語で整っている。答えらしい見た目に仕上がっているものほど、確認しようという気持ちが削られます。私は今、要約を「見出しの代わり」くらいの扱いにして、判断に関わる部分だけ出典元を開くようにしています。全部を疑うと日が暮れるので、疑う場所を絞る、という妥協点です。

ちなみに、AIが書いた文章かどうかは、読めばなんとなく分かることもあります。見た目のクセの話はAIっぽい文章はなぜバレるのかに書きました。興味があれば、ぜひご覧ください。

AIの嘘より困るのは「ポン出しレポート」のほう

正直に言うと、AIが間違えること自体には、もうそこまで腹が立ちません。道具の性質として受け入れています。私が困っているのは、ポン出しのレポートです。ざっくりした指示でAIに作らせた資料を、ファクトチェックもせず、本人も中身を理解しないまま共有してしまう。ここ1年で急に増えた感覚があります。

受け取る側になると、しんどさがよく分かります。グラフの数字がどこから来たのか聞いても答えが返ってこない。計算のロジックを確かめようとしても、作った人が知らない。結局、受け取った側が元データまで戻って裏取りすることになります。作った人の10分を節約するために、読む人の1時間が消えているのなら、チーム全体では明らかに損をしています。

手段は責めない、という私の立ち位置

先に立場を書いておきます。世の中は、目的が達成されるならやり方は問わない人と、目的が達成されないならやり方ごとNGだという人に、ざっくり分かれるでしょう。私は前者です。手で作ろうが、AIに作らせようが、読む人の判断に役立つならそれでいい。

では最低ラインはどこか。私は、出したものの根拠を、自分の言葉でざっくり説明できる状態だと考えています。一字一句の完全な検証ではありません。「この数字はどこから来たのか」「なぜこの結論になったのか」を聞かれたときに、自分の口で答えられるかどうか。説明できるということは、少なくとも一度は中身を読んでいるということです。読んでいれば、明らかな嘘はだいたい引っかかります。

AIを使いこなしている人とそうでない人の差も、プロンプトの巧さより、出す前に読み返す習慣のほうに出ている気がします。詳しくはAIを使いこなす人と使いこなせない人の違いにまとめました。よければあわせて読んでみてください。

AIに嘘をつかせない、見抜くための確認5つ

嘘を完全になくす方法は、いまのところ無いでしょう。ただ、当たる確率を下げる工夫と、当たったときに気づく工夫はあります。普段やっているものを5つ書きます。

1つ目は、数字と固有名詞だけは自分で確認すること。金額、日付、人名、会社名、書名、法律の条文番号。嘘が混ざりやすいのは、ほぼこの5種類です。逆に言えば、文章の言い回しや構成は多少任せても、事故は起きにくい。全部を疑わず、危ない場所だけ手で潰します。

2つ目は、出典を聞き返すこと。「出典を教えて」と一言送るだけで、根拠が薄い部分は途端に歯切れが悪くなります。実在しないURLを返してくることもあるので、出てきたリンクは必ず開きます。開いて404なら、説明ごと捨てる。雑な判定ですが、速いです。

3つ目は、わからないときは「わからない」と言わせる頼み方に変えること。指示の最後に「確証がない部分は推測と明記して。情報が足りないときは質問を返して」と付け加えるだけで、断定の量がはっきり減ります。AIは黙るのが苦手なので、黙る代わりの逃げ道を用意してあげるイメージです。

4つ目は、大事な判断に関わるときだけ、2つのAIに同じことを聞くこと。私は普段の作業をClaudeで回していて、Claude Codeで手元のファイルを触らせることも多いです。加えて、判断が重い調べものはChatGPTにも同じ質問を投げます。答えが割れたら、そこが怪しい場所です。2つのAIが違うことを言った箇所は、ほぼ確実に自分で調べ直すべき箇所だと思っています。

5つ目は、自分が説明できない文を消すこと。読み返して「聞かれたら答えられないな」と思った段落は、調べ直すか削るかの二択にします。削っても資料はだいたい成立しますし、むしろ短くなって読みやすくなることのほうが多いです。

もうひとつ地味に助かっているのが、自分の前提をAI側に覚えさせておくことです。毎回ゼロから説明しなくてよくなるぶん、AIが勝手に埋めた推測が減ります。やり方はAIに自分のことを覚えさせる方法に書いています。あわせてどうぞ。

正直に言うと、少し怖い想像もしています

散々「確認しよう」と書いてきましたが、私自身、先のことは分かっていません。人にレポートを頼むより、AIに頼んだほうが速くて安いという場面は、今後もっと増えるでしょう。行き着いた先で、AIが作ったものをAIがチェックし、AI同士でやり取りが進んで、人間は最後にYes/Noを押すだけになるのではないか。そんな想像をすることがあります。

押すだけの役割になったとき、私は本当に判断できるのだろうか、というのが不安の中身です。中身を分かっていない人がYesを押すのは、ポン出しレポートをそのまま転送するのと、たいして変わりません。完成形をイメージできていないと、押したYesの重さが測れません。「イメージできないものは実現できない」という言葉がありますが、判断も同じだと思っています。どういう状態がゴールなのかを描けている人だけが、出てきたものの良し悪しを見分けられる。

だから私は、AIに渡す仕事を増やしながら、同時に「自分は何を確かめたいのか」を言葉にする時間を残しています。効率だけ見ればムダな時間です。ただ、確かめたいことが自分の中にない状態でAIを使うと、出てきたものを疑う理由すら持てなくなる。習慣として、そこだけは手放したくありません。

よくある質問

Q. AIは嘘ばかりつきますが、なぜ直らないのですか？
A. AIは「正しい情報を検索して答える機械」ではなく「もっともらしい文章を組み立てる機械」だからです。仕組みに由来するので、モデルが新しくなっても完全にはなくなりません。ただ、Web検索と組み合わせて出典を示せるAIも増えているので、出典付きで答えさせるだけでも精度は変わります。

Q. AIに嘘をつかせない方法はありますか？
A. ゼロにする方法はありませんが、減らす頼み方はあります。「事実と推測を分ける」「確証がない部分は未確認と書く」「情報源を列挙する」「足りない情報は質問で返す」の4点を指示に入れるのが手軽です。加えて、数字と固有名詞だけは自分の目で確認すると、大きな事故はほぼ防げるでしょう。

Q. Googleなどの「AIによる概要」は信用していいですか？
A. 方向を掴むには便利ですが、判断の根拠にするのは危ういでしょう。複数の記事から要点を集める過程で、別々の話が1つに混ざることがあるためです。仕事や手続きに関わる内容なら、要約の下の出典リンクを開いて元の文で確かめるのが安全です。

Q. AIが作った資料を、そのまま提出してもいいのでしょうか？
A. AIを使ったこと自体は問題ないと考えています。基準は、資料の根拠を自分の言葉で説明できるかどうかです。数字の出どころと結論に至った理由を言えるなら、作り方は問われません。説明できないまま渡すと、確認の手間を相手に押しつけることになります。

まとめ

AIは嘘をつきます。悪意があるからではなく、もっともらしい文章を組み立てる道具だからです。直せない性質なら、こちら側が付き合い方を決めるしかありません。数字と固有名詞は自分で確かめる、出典を聞き返す、わからないときはわからないと言わせる、大事な場面では2つのAIに聞く。あとは出す前に一度読み返して、説明できない文を消す。手間としては数分です。いま起きている混乱も、たぶん転換期の一時的な悩みで、数年後には当たり前の作法として落ち着いているのでしょう。落ち着くまでのあいだは、自分が出したものの根拠を自分で言えるかどうかだけ守っておけば、AIを使うことを後ろめたく思う必要はないはずです。