AIの回答をファクトチェックする方法｜確認すべき4つの情報と5ステップ

生成AIは、事実と異なる内容を、もっともらしい文章で回答することがあります。この現象はハルシネーションと呼ばれ、AIの仕組み上、完全になくすことは難しいとされています。だからこそ、AIの出力をそのまま使わず、確認する手順を持っておくことが重要です。

ファクトチェックと聞くと手間がかかりそうに感じますが、すべての記述を同じ深さで確認する必要はありません。誤った場合の影響が大きい情報から優先し、確認すべき種類と手順を決めておくと、確認範囲を整理しやすくなります。

この記事では、ファクトチェックが特に必要な4種類の情報、確認する5ステップ、AIに出典を書かせるプロンプト、確認の手間を減らす3つの工夫を解説します。生成AI全般のリスクを俯瞰したい場合は、生成AIのリスクと仕事での対策も参考にしてください。

執筆者（佐藤大地）

取得資格

• SEO検定1級
• SEOマーケティングアドバイザー

2020年からブログを始めて、エンタメ系のジャンルは約1年で月間10,000PVほど。2021年にWebライターとして独立しSEOメディア運用ディレクターとして現在も活動中。田舎に戻りHP製作やSNS運用マーケティング支援なども対応。

なぜAIの出力を確認する必要があるのか

生成AIは、学習した膨大な文章のパターンから、それらしい応答を作り出す仕組みで動いています。そのため、実際には存在しない情報や、古くなった情報を、自信を持って提示することがあります。

たとえば「◯◯県の人口は次のとおりです」のように、具体的で説得力のある形で情報が示されると、誤りであっても気づきにくくなります。確認しないまま顧客への文章や公開記事に使ってしまうと、誤情報がそのまま外部へ伝わってしまいます。

ハルシネーションが起こる技術的な理由は、別記事で詳しく扱う予定です。本記事では、原因の分析よりも、今すぐ実行できる確認の手順を中心に解説します。

ファクトチェックが特に必要な4種類の情報

すべての文章を同じ熱量で確認する必要はありません。次の4種類の情報を優先して確認してください。

このうち、公開する文章や顧客へ送る文章に含まれる場合は、優先度を上げて確認してください。

AIの出力をファクトチェックする5ステップ

確認は、次の5ステップで進めると抜け漏れを減らせます。SEO記事の制作工程全体の中でこの確認をどこに置くかは、CodexでSEO記事制作を自動化する方法でも紹介しています。

1. 確認する対象を絞る
2. 出典を確認する
3. 情報の日付を確認する
4. 数字は検算する
5. 心配な箇所は聞き方を変えて聞き直す

1. 確認する対象を絞る

文章全体ではなく、前述の4種類の情報が含まれる箇所だけを抜き出してください。対象を絞ることで、確認にかかる時間を現実的な範囲に収められます。

2. 出典を確認する

AIが出典を示している場合は、そのページに実際にアクセスし、記載内容と一致しているかを確認してください。出典が示されていない場合は、自分で一次情報を検索して裏付けを探します。

3. 情報の日付を確認する

制度や料金、統計は、時間の経過とともに変わります。確認した一次情報がいつ時点のものかを確認し、古い情報のまま使っていないかをチェックしてください。

4. 数字は検算する

金額の合計、割合の計算、件数の集計など、AIが算出した数字は、簡単な検算だけでも実施してください。単純な計算ミスは、目視だけでは見落としやすい誤りです。

5. 心配な箇所は聞き方を変えて聞き直す

同じ質問でも、聞き方を変えると異なる回答が返る場合があります。回答に自信が持てない箇所は、条件や前提を変えて再度質問し、回答が変わる箇所を見つけます。ただし、同じ回答が返ったことは正しさの証明にはならないため、最後は一次情報で確認してください。

そのまま使えるファクトチェック依頼プロンプト

AI自身に、出典と確信度を書かせることもできます。以下のプロンプトをコピーし、確認したい文章を貼り付けてください。

以下の文章について、事実確認が必要な箇所を洗い出してください。
【確認したい文章】
数字、固有名詞、法令・制度、引用・出典に該当する記述を抜き出し、それぞれについて次を示してください。
・根拠となる情報源（わかる場合は具体的に）
・確信度（高い・中程度・低いのいずれか）
・確信度が低い場合、その理由
出典が不明な場合は、不明であるとそのまま答えてください。存在しない情報源を作り出さないでください。

このプロンプトは、確認すべき箇所を絞り込む補助として使ってください。AIが示す確信度は正確性を保証する指標ではありません。自己申告だけでは誤りに気づけない場合があるため、最終的な確認は必ず自分で一次情報にあたって行ってください。

ファクトチェックにかかる時間を減らす3つの工夫

確認を毎回ゼロから行うと負担が大きくなります。次の3つの工夫で、確認の手間を減らせます。

1. 出典を最初から書かせる
2. 不確かな箇所に印をつけさせる
3. 確認済みの情報をリスト化する

出典を最初から書かせる

文章を作成する段階で「情報源も併記してください」と指示しておくと、後から出典を探す手間を減らせます。

不確かな箇所に印をつけさせる

「確信が持てない箇所には【要確認】と付けてください」と指示すると、確認すべき箇所がひと目でわかるようになります。

確認済みの情報をリスト化する

自社の名称、住所、料金など、繰り返し使う情報は、確認済みの一覧として手元に残しておいてください。次回以降は、その一覧と照合するだけで済みます。

AIのファクトチェックに関するよくある質問

AI自身に確認させれば、人の確認は不要になりますか？

不要にはなりません。AIは自分の誤りに気づかないまま、もっともらしい確信度を示すことがあります。AIによる自己点検は補助として使い、最終確認は人が行ってください。

無料版のAIでもファクトチェックはできますか？

無料で利用できるAIサービスでも、本記事で紹介した確認プロンプトや手順を試せる場合があります。ただし、利用できる機能やAIが提示する出典の正確さはサービスやプランによって異なるため、現在の提供条件を確認し、最終的には自分で一次情報にあたることが重要です。

SEO記事ではどこまで確認すべきですか？

公開する記事は、顧客に直接見られる文章のため、数字・固有名詞・法令・制度・引用のすべてを確認することをおすすめします。特に、断定的な表現で書かれた事実は、優先して確認してください。

確認する時間がないときは、何を優先すればよいですか？

誤った場合の影響が大きい情報を優先してください。法令・制度、金額や統計、引用、直近で変更された仕様などのうち、読者の判断や取引に直接影響する箇所から確認します。

まとめ｜AIの出力は、種類を絞って確認する

AIの出力は、数字・固有名詞・法令や制度・引用や出典の4種類を優先して確認すると、限られた時間でも抜け漏れを減らせます。確認する対象を絞り、出典と日付を確認し、数字は検算するという5ステップを、確認の型として使ってください。

まずは、直近でAIに作らせた文章を1つ選び、数字・固有名詞・制度に関する記述だけでも一次情報で確認してみてください。