ハルシネーションを減らす：根拠を示させる工夫と、人が確かめる仕組み｜プロンプト設計の教科書 第6回

プロンプトで間違いを減らす5つの工夫

Anthropicの公式ガイドには、ハルシネーションを減らすための方法がまとめられています。これまでの回で学んだことも含めて、仕事で使いやすい形に整理すると、次の5つになります。

工夫1：「分からない」と言ってよいと伝える。 「確かな情報がない場合は『確かな情報がありません』と答えてください」と書きます。Anthropicのガイドでも、不確かさを認めることを明示的に許可するよう勧めています。先ほどの研究とも合う考え方です。

工夫2：渡した資料だけを使わせる。 「下の資料に書かれていることだけをもとに答え、一般的な知識で補わないでください」と書きます。社内規程や契約書、製品仕様など、正解が資料の中にある仕事で特に効きます。

工夫3：引用と出どころを付けさせる。 第4回で学んだ「引用→回答」の2段階です。主張ごとに、根拠となる資料の箇所を引用させます。

工夫4：根拠のない主張は取り下げさせる。 Anthropicのガイドでは、答えを書かせたあと、主張ごとに裏づけとなる引用を探させ、引用が見つからない主張は取り下げさせる方法が紹介されています。

工夫5：何度か出させて、食い違いを見る。 同じプロンプトで複数回答えさせ、答えが食い違う部分は、生成AIが確信を持てていない可能性がある部分として疑います。

<資料>
（製品の仕様書）
</資料>

上の資料だけをもとに、お客様からの次の質問に答える文案を作ってください。

質問：この製品は屋外でも使えますか？

・資料に書かれていないことは、一般的な知識で補わないでください
・答えの根拠となる資料の文を、そのまま引用して添えてください
・資料から判断できない場合は「仕様書には記載がないため、担当部署に確認します」と書いてください
・書き終えたら、各文に根拠の引用があるかを見直し、引用のない文は削除してください

ただし、Anthropicのガイドも明記しているとおり、こうした工夫はハルシネーションを大きく減らせても、ゼロにはできません。重要な情報、特に影響の大きい判断に使う情報は、必ず人が確かめる必要があります。

ハルシネーションを招きやすい頼み方

工夫を足すのと同じくらい大切なのが、間違いを招きやすい頼み方を避けることです。次のような頼み方には注意しましょう。

• 記憶だけで出典を挙げさせる。 「この話の根拠になる論文を3つ挙げて」と、検索も資料もなしに頼むと、それらしい題名や著者名を組み立ててしまうことがあります。出典は、検索機能を使うか、自分で探した資料を渡して、その中から選ばせます。
• 前提が間違った質問をする。 「〇〇社が去年発表した新サービスの特徴は？」と聞くと、そのサービスが存在しなくても、それらしい特徴を答えることがあります。前提が確かでないときは、「そもそもそうした発表があったかどうかから確かめて」と頼みます。
• すべての欄を埋めるよう求める。 第5回で学んだように、表やテンプレートの欄を必ず埋めさせると、分からない欄を推測で埋めがちです。「分からない欄は『未確認』」と決めておきます。
• 細かすぎる数字を求める。 「この業界の市場規模を1億円単位で」のように、元の資料がない細かい数字は、もっともらしい数字が作られやすい代表例です。数字は、公的統計や調査会社の発表など、出どころのある資料から取りましょう。

人が確かめる仕組み：どこを、どう確かめるか

すべての答えを同じ力の入れ方で確かめるのは現実的ではありません。答えの使い道によって、確かめ方の重さを変えましょう。

確かめるときに特に注意したいのは、次のような「間違いが出やすい場所」です。

• 数字：金額、割合、年、件数。計算が入っているものは、計算をやり直す
• 固有名詞：人名、会社名、製品名、法律や制度の名前
• 出典：論文、記事、判例、URL。実在するか、本当にそう書いてあるか
• 最新の情報：料金、仕様、法改正、役職など、変わりやすいもの

Web検索の機能がある生成AIでは、答えに出典のリンクが付くことがあります。出典が付いていると安心しがちですが、リンク先に本当にそう書いてあるかは、開いて確かめましょう。出典のページとは違う内容が要約されていることもあります。

テスト用の質問集をつくる

同じプロンプトを何度も使う仕事（問い合わせの回答案、社内規程のQ&A、商品説明など）では、「テスト用の質問集」を用意しておくと、間違いを仕組みで見つけられるようになります。

つくり方は簡単です。

1. 正解が分かっている質問を集める。 過去の問い合わせと、その正しい回答などから、20〜30問ほど選びます。
2. 意地悪な質問もまぜる。 資料に答えが書かれていない質問、前提が間違っている質問（「〇〇プランの解約金はいくらですか？」と、存在しないプランを聞くなど）を入れます。ここで「記載がありません」「そのプランは見当たりません」と答えられるかが、ハルシネーションへの強さを測るポイントです。
3. 答えさせて、正解と比べる。 正しい・一部正しい・間違い・「分からない」と答えた、の4つに分けて数えます。
4. プロンプトやモデルを変えたら、同じ質問集でやり直す。 第1回で学んだように、モデルが変わるとプロンプトの効き方も変わります。同じ物差しで比べれば、良くなったのか悪くなったのかが分かります。

これは、AIを開発する会社が「評価（eval）」と呼んで行っていることの、ごく小さな版です。数十問でも、あるとないとでは安心感がまったく違います。

この記事の監修者に相談できます

監修者の田中磨生が代表を務める株式会社Abinで、ご相談をお受けしています。

相談無料ツギノテ編集部に相談する→

よくある誤解

誤解1「最新のモデルなら、もう間違えない」

モデルの改良は進んでいますが、ハルシネーションはなくなっていません。各社のガイドでも、重要な情報は人が確かめるよう明記されています。

誤解2「生成AIに見直させれば、間違いは消える」

見直させるのは有効な工夫ですが、同じ思い込みのまま見直すこともあります。見直しは「疑わしい場所を見つける」ための補助と考え、最後は原典で確かめましょう。

誤解3「自信たっぷりの答えは正しい」

生成AIの答えの口調と、正しさは関係しません。断定的な文章でも間違っていることはあります。逆に、「分からない」と言える答えのほうが信頼できる場面も多いのです。

実務ではこう使う

• 「分からない」の書き方をプロンプトの標準にする。 チームで使うプロンプトには、「分からないときは〇〇と書く」を必ず入れておきます。
• 事実を扱う仕事は、資料を渡して「資料だけで」答えさせる。 一般知識で答えさせるのは、アイデア出しや下書きにとどめます。
• 確認の担当と重さを決めておく。 社外に出すものは誰が何を確認するのかを、仕事ごとに決めておきます。
• 繰り返し使うプロンプトには、テスト用の質問集をつける。 第8回で学ぶ「プロンプト集」と一緒に管理しましょう。

社内の利用ルールとして確認の手順を定めたい場合は、姉妹講座の社内ルールをつくるの回もあわせて読んでみてください。

この回のまとめ

• ハルシネーションは、もっともらしいが事実と違う答え。正答率だけの評価が推測を後押ししてきた、という研究がある
• 減らす工夫：「分からない」と言ってよいと伝える、資料だけを使わせる、引用と出どころ、根拠のない主張の取り下げ、複数回の比較
• 工夫で大きく減らせても、ゼロにはならない。重要な情報は人が原典で確かめる
• 確かめ方の重さは使い道で変える。数字・固有名詞・出典・最新情報は特に注意
• 繰り返し使うプロンプトには、正解つきのテスト用の質問集（意地悪な質問を含む）を用意する

確認テスト

次回予告

次回は、ここまで学んだ技を、マーケティング・営業・資料作成・データ分析の具体的な仕事に当てはめます。そのまま使えるプロンプトの型と、自社用に直すときのポイントを、業務ごとに紹介します。

参考資料

• OpenAI「Why language models hallucinate」（2025年9月5日）。正答率だけの評価が推測を後押しするという主張と、SimpleQAでの2モデル比較（答えを控えた割合・正答率・誤答率）を確認。
• Anthropic「Reduce hallucinations」（Claude Platform ドキュメント）。「分からない」と言うことの許可、引用による裏づけ、引用のない主張の取り下げ、複数回の比較、資料以外の知識を使わせない方法と、ゼロにはできないという注意を確認。
• 確認日：2026年11月12日