AIのハルシネーションを減らす指示方法とは？「嘘をつくな」だけでは改善しない理由と正しい使い方

ChatGPTやGeminiなどの生成AIを利用していると、事実とは異なる情報を回答する「ハルシネーション」に悩むことがあります。そこで「間違った回答は禁止」「分からない場合は分からないと言う」といった指示を追加する人も多いですが、場合によっては期待した効果が出ないことがあります。

この記事では、生成AIに対してハルシネーションを減らすための効果的な指示方法や、なぜ単純な禁止命令だけでは改善しにくいのか、AIをより正確に使うためのポイントを解説します。

生成AIのハルシネーションとは何か

ハルシネーションとは、AIが実際には存在しない情報や誤った内容を、もっともらしい文章として生成してしまう現象です。

生成AIは検索エンジンのように必ず正しいデータベースから答えを取得しているわけではありません。大量の文章データから、次に続く可能性が高い言葉を予測して文章を作成しています。

そのため、情報が不足している分野や専門性の高い質問では、AIが空白部分を推測で補ってしまうことがあります。

AIに「嘘をつくな」「間違った回答をするな」と指示すること自体は悪い方法ではありません。しかし、このような否定的な指示だけでは、AIが具体的にどのような行動を取ればよいのか判断しにくい場合があります。

例えば、「絶対に間違えるな」と言われても、人間でも知らない情報について完全な回答を求められると困るのと同じです。AIも回答を生成する必要があるため、結果として推測による説明を続けることがあります。

また「ハルシネーション禁止」という表現は、AIにとって評価基準が曖昧です。何をもってハルシネーションと判断するのか、どの状況で回答を控えるべきなのかを具体的に指定する必要があります。

AIの回答精度を高めるには、禁止命令だけではなく、回答時のルールを具体的に設定することが重要です。

例えば以下のような指示が有効です。

「回答する前に、事実として確認できる情報と推測を分けてください。不確実な情報については『確認できません』と明示してください。根拠となる情報源がある場合は提示してください。」

このように、AIが取るべき行動を指定すると、単純な禁止よりも安定した回答を得やすくなります。

生成AIは基本的にユーザーの質問へ答えようとする性質があります。そのため、何も指定しない場合は、多少不確実でも回答を完成させようとします。

「分からない場合は回答しないでください」とだけ指定するよりも、「確実な情報が80％以上確認できない場合は、不確実であることを説明してください」のように条件を設定すると効果的です。

例えば、最新ニュースや人物情報について質問する場合は、「2025年以降の情報については確認できる情報のみ回答してください」と指定すると、古い知識や推測による回答を減らせます。

AIに単なる禁止事項を伝えるだけでなく、役割を与えることで回答品質を向上させることができます。

例えば、「あなたは専門家として回答してください」だけではなく、「専門家として回答してください。ただし、確証のない情報は推測せず、確認できない場合はその旨を説明してください」と条件を追加します。

また、「初心者向けに説明する」「専門用語には根拠を付ける」など、回答形式を指定することも精度向上につながります。

ハルシネーションを完全になくすことは現在の生成AIでは難しいため、利用者側で確認する習慣も重要です。

特に以下のような情報は、AIの回答だけで判断しないことがおすすめです。

例えば、AIに商品の仕様を質問する場合でも、「公式情報を優先してください」と指定することで、推測による説明を減らせます。

生成AIに対して「ハルシネーション禁止」と指示することは間違いではありませんが、それだけではAIが取るべき行動が明確にならず、期待した改善が得られない場合があります。

重要なのは「嘘をつかない」という禁止ではなく、「不確実な場合は明示する」「根拠を示す」「確認できない場合は回答を控える」といった具体的なルールを設定することです。

AIは便利なツールですが、正確な回答を得るには指示の出し方と利用者による確認の両方が重要です。適切なプロンプト設計を行うことで、ハルシネーションを大幅に減らし、より信頼できるAI活用が可能になります。