AIモデルはなぜハルシネーション（幻覚）を起こすのか

AIモデルは、事実に基づかない内容をもっともらしく、しかも自信たっぷりに答えてしまうことがあります。この現象は「ハルシネーション（幻覚）」と呼ばれます。このチュートリアルでは、ハルシネーションが何を指すのか、なぜ起きるのか、そして日々の会話の中で見抜くための実践的なコツを整理します。仕組みを理解しておくことで、AIの答えをより安全に活用できるようになります。

ハルシネーションとは何か

AIの分野で「ハルシネーション」とは、モデルが入力や学習データに裏付けられていない、誤った・作り話の内容を生成してしまう現象を指します。特に問題になるのは、モデルがその誤りを不確かなものとしてではなく、正しい事実であるかのように自信を持って提示する点です。

具体的には、次のような形で現れます。

• 存在しない書籍・論文・URLを、実在するかのように引用する
• 実在の人物や製品に、実際にはない経歴や機能を付け足す
• 数値・日付・統計を、根拠なくそれらしく埋めてしまう
• 質問の前提が誤っていても、それを指摘せずに話を合わせてしまう

ハルシネーションは「嘘をつこうとしている」わけではありません。モデルは次に来る言葉として統計的にもっともらしいものを選んでいるだけで、その結果として事実と食い違う文章が生成されることがある、という点を押さえておくことが重要です。

なぜハルシネーションは起きるのか

ハルシネーションは単一の原因ではなく、大規模言語モデルの仕組みそのものに由来するいくつかの要因が重なって起こります。

• 確率的に言葉を予測する仕組み - モデルは事実を「調べて」答えているのではなく、文脈から次に来る単語を確率的に予測しています。統計的な相関に基づく生成であり、意味を根拠として理解しているわけではないため、もっともらしいが誤った文が生成され得ます。
• 学習データの限界 - 学習データに誤り・偏り・欠落があると、それを反映した誤った出力につながります。そもそもデータに含まれていない事柄については、モデルは埋め合わせるように推測してしまいます。
• 知識の古さ - モデルには学習データの区切り（知識のカットオフ）があり、それ以降の出来事や最新の変更は把握していません。新しい状況を尋ねられると、古い知識から推測してしまうことがあります。
• 「わからない」より推測が評価されやすい - 一般的な学習・評価の枠組みでは、不確実性を認めるよりも何らかの答えを出す方が評価されやすい傾向があります。その結果、確信が持てない場面でも断定的に答えてしまうことがあります。

つまりハルシネーションは、たまたま起きる不具合というより、現在のAIモデルが持つ性質の一つとして理解しておくべきものです。

見抜くための実践的なコツ

ハルシネーションを完全になくすことはできませんが、会話の中で気づく確率を高めることはできます。次のような場面では特に注意してください。

• 具体的な出典・数値・日付が出てきたとき - 引用元のURLや論文名、統計値は、実在するか自分で確認する。もっともらしくても実在しないことがあります。
• ニッチな話題や最新の出来事 - 情報が少ない専門的なテーマや、知識のカットオフ以降の出来事は、推測が混ざりやすい領域です。
• 断定が強すぎるとき - 曖昧さがあってしかるべき問いに対して、迷いなく言い切っている場合はかえって疑ってみる価値があります。

確認のための具体的な問いかけも有効です。

• 「その情報の出典を教えてください」と根拠を求める
• 「どのくらい確信がありますか」「不確かな点はどこですか」と確信度を尋ねる
• 同じ質問を言い方を変えて聞き直し、答えが一貫しているか確かめる
• 重要な事実は、AIの外にある一次情報や公式ドキュメントで裏取りする

ハルシネーションを減らす使い方

使い方を工夫することで、ハルシネーションが起きる余地を小さくできます。

• 根拠となる情報を渡す - 質問だけを投げるのではなく、参照してほしい資料やデータを一緒に渡し、「この内容に基づいて答えてください」と指示します。モデルが手元の信頼できる情報をもとに答えるほど、精度は上がります。
• 役割と制約を明確にする - 何について答えるのか、答えの範囲や前提を具体的に指定すると、根拠のない補完を減らせます。
• 不確かなら「わからない」と言ってよいと伝える - 「確信が持てない場合は推測せず、不明と答えてください」と明示するだけでも、断定的な作り話を抑えられます。
• 重要な用途では必ず人が確認する - 医療・法務・金融など影響の大きい判断では、AIの出力をそのまま採用せず、専門家や一次情報での確認を前提にします。

Anthropicは開発者向けに、ハルシネーションを抑えるためのガイドを公開しています。API利用などより踏み込んだ制御を行う場合は、公式ドキュメントもあわせて参照してください。

まとめ

ハルシネーションは、AIモデルが事実に基づかない内容を自信を持って提示してしまう現象で、確率的に言葉を予測するという仕組みそのものに根ざしています。完全に避けることは難しい一方で、出典や数値を確認する、確信度を尋ねる、根拠となる資料を渡す、といった習慣で被害を大きく減らせます。AIの答えは「便利な下書き」として受け止め、重要な事実は必ず自分で裏取りする姿勢が、安全に使いこなすための鍵になります。

実例

ハルシネーションを減らすには、プロンプトの書き方を少し工夫します。出典を求める、分からなければ「分からない」と言わせる、検証できる形で答えさせる、といった指示が有効です。

出典を求め、確実でない部分を明示させる:

この主張の根拠になる一次情報の出典を挙げて。確実でない場合は「不確実」と明記して。

推測ではなく「分からない」と答えてよいと伝える:

知らない場合は推測せず「分かりません」と答えてください。

なお、こうした指示で誤りを減らせても完全にはなくせません。出力は必ず一次情報で裏取りする、という前提で使ってください。