ハルシネーション（hallucination）は、モデルが事実と異なる内容や、与えた文脈と食い違う内容を生成してしまう現象です。Anthropic 公式の「Reduce hallucinations」ガイドは、これをプロンプト側の設計で減らす手法をまとめています。本記事はその内容を日本語で解説します。
なぜプロンプトで減らせるのか
公式ガイドが挙げる基本戦略は 3 つで、いずれも「モデルに何を出力してよいかを狭める」という同じ考え方に立っています。不確かなときに黙って埋めるのではなく、そう言ってよいことにする。文書を扱うときは要約から始めず、まず原文を写させる。書いた内容には、後から根拠を突き合わせさせる。
逆に言えば、これらを指示しないプロンプトは「わからない場合でも何か書け」と暗黙に要求していることになります。3 つの手法はどれも、その暗黙の要求を明示的に取り消すものです。
「わからない」と言う許可を与える
もっとも単純で、効果の大きい手法です。判断に足る情報が無いときは、そう答えてよいと明示的に許可します。
As our M&A advisor, analyze this report on the potential acquisition of AcmeCo by ExampleCorp.
<report>
{{REPORT}}
</report>
Focus on financial projections, integration risks, and regulatory hurdles. If you're unsure about any aspect or if the report lacks necessary information, say "I don't have enough information to confidently assess this."ポイントは、許可を与えるだけでなく返させたい文言まで指定していることです。「不明なら不明と答えてください」だけだと、モデルは条件付きの推測（「報告書には明記されていませんが、一般には……」）で応じることがあります。決まった文字列を指定しておくと、呼び出し側のコードでその文字列を検出して分岐できるので、後続処理の設計まで含めて楽になります。
逐語引用で根拠に縛る
2 万トークンを超えるような長い文書を扱うタスクでは、いきなり分析させるのではなく、先に原文から一字一句そのままの引用を抜き出させてから、その引用だけを根拠に分析させます。応答が実際のテキストに接地（grounding）されるため、ハルシネーションが減ります。
As our Data Protection Officer, review this updated privacy policy for GDPR and CCPA compliance.
<policy>
{{POLICY}}
</policy>
1. Extract exact quotes from the policy that are most relevant to GDPR and CCPA compliance. If you can't find relevant quotes, state "No relevant quotes found."
2. Use the quotes to analyze the compliance of these policy sections, referencing the quotes by number. Only base your analysis on the extracted quotes.この例には仕掛けが 3 つ入っています。引用に番号を振らせること、分析で必ずその番号を参照させること、そして抽出した引用だけを分析の根拠にすると明示していることです。3 つ目が無いと、引用を抜き出したうえで、分析ではモデルの一般知識に戻ってしまうことがあります。引用が見つからない場合の逃げ道（"No relevant quotes found."）も、手法 1 と同じ形で用意されています。
主張ごとに引用を照合させる
3 つ目は、生成したあとに自分の書いた主張を 1 つずつ根拠と突き合わせさせる手法です。裏付けとなる引用が見つからない主張は、削除させます。
Draft a press release for our new cybersecurity product, AcmeSecurity Pro, using only information from these product briefs and market reports.
<documents>
{{DOCUMENTS}}
</documents>
After drafting, review each claim in your press release. For each claim, find a direct quote from the documents that supports it. If you can't find a supporting quote for a claim, remove that claim from the press release and mark where it was removed with empty [] brackets.注目したいのは、削除した箇所に空の [] を残させている点です。単に消させると、何が落ちたのか読み手には分かりません。印を残させることで、「裏が取れなかった箇所」が成果物の上に可視化されます。人間のレビューを前提にした運用では、この印がそのままレビュー対象のリストになります。
応用テクニック
公式ガイドは、さらに 4 つの手法を挙げています。
- 思考連鎖による検証（Chain-of-thought verification）— 最終回答の前に、推論の過程を段階的に説明させる。誤った論理や前提がその過程に現れるため、結論だけを見るより気づきやすくなる。
- Best-of-N 検証 — 同じプロンプトを複数回実行して出力を比較する。回答が回ごとに食い違うなら、その部分はハルシネーションの疑いが濃い。
- 反復的な精緻化（Iterative refinement）— 出力を次のプロンプトの入力にして、前の記述の検証や展開を求める。矛盾を検出して修正できる。
- 外部知識の遮断（External knowledge restriction）— 与えた文書の情報だけを使い、一般知識は使わないよう明示的に指示する。
実運用の観点では、この 4 つはコストの性質が違います。Best-of-N は単純に N 倍のトークンを使いますし、反復的な精緻化は往復ぶんのレイテンシが乗ります。一方、外部知識の遮断は指示を 1 文足すだけで、追加コストがほぼありません。まず遮断と思考連鎖を試し、精度が要るところにだけ Best-of-N を当てる、という順序が現実的です。
限界を正しく見積もる
公式ガイドは注記で、これらの手法はハルシネーションを大幅に減らすものの、完全に無くすものではないと明言しています。重要な情報、とくに影響の大きい意思決定に関わるものは、必ず別途検証してくださいという但し書きが付いています。
この但し書きは設計上の指針として読めます。手法を積んでも残留リスクはゼロにならない以上、「間違いが起きたときに誰がどこで気づくか」を人間側の工程として用意しておく必要があります。手法 3 の空の [] のような、裏付けの有無が成果物の上に残る形を選ぶと、その工程を作りやすくなります。
次に読むもの
この話題と関係の深いトピックは次のとおりです。
- Citations — 引用と出典の付与を API の機能として行う。手法 3 をプロンプトではなく機能側で実現する選択肢。
- 拡張思考 — 思考連鎖による検証を、モデルの思考ブロックとして扱う。
- 成功基準の定義と評価の構築 — 手法の効果を測るには、先に何をもって正しいとするかを決める必要がある。
- 構造化出力 — 出力形式そのものをスキーマで縛る。形式の揺れによる誤読を減らす。
本記事は Anthropic 公式ドキュメントの「Reduce hallucinations」ページ（2026年9月1日に確認）に基づく非公式の日本語解説です。掲載したプロンプト例は公式ページの原文を引用しています。手法や推奨事項は更新される場合があるため、実装前に公式ドキュメントで最新をご確認ください。