ChatGPTなどの生成AIを使っていると、「ハルシネーション」という言葉を目にすることがあります。AIが事実と違う内容を、もっともらしく答えてしまう現象のことです。
この記事では、OpenAI・IBM・AWSの公開情報や研究をもとに、ハルシネーションの意味と起きる理由、仕事で困らないための防ぎ方を解説します。
結論:ハルシネーションとは、AIが事実と違う内容をもっともらしく出力すること

ハルシネーション(hallucination)は、英語で「幻覚」という意味の言葉です。AIの分野では、AIが不正確な内容や根拠のない内容を、正しいかのように出力する現象を指します。
IBMは、人が雲の形に人の顔を見てしまうのと同じように、AIがありもしないパターンを読み取って、理にかなわない出力や不正確な出力を生成する現象だと説明しています。OpenAIも、ChatGPTは誤った情報や誤解を招く内容を出すことがあり、間違っていても自信があるように聞こえる場合があると案内しています。
この「自信がありそうに見える」点が、ハルシネーションのやっかいなところです。明らかにおかしな答えならすぐ気づけますが、文章が自然で言い切りが強いほど、読む側は正しいと思い込みやすくなります。だからこそ、言葉の意味だけでなく、起きる理由と防ぎ方を知っておくことが大切です。
ハルシネーションの例

ハルシネーションは、次のような形で現れます。
| 例 | 起きること |
|---|---|
| 存在しない出典 | 実在しない論文や本、URLを、根拠として挙げる |
| 数字・日付の誤り | 統計の数値や、出来事の年を間違える |
| 人物・会社の情報の誤り | 経歴や所在地などを、別の情報と混ぜて答える |
| 古い情報 | 制度や料金が変わったことを知らずに、以前の内容で答える |
大手のAIでも起きている
ハルシネーションは、小さな会社のAIだけの問題ではありません。IBMは実際の例として、GoogleのチャットボットBardが、ジェイムズ・ウェッブ宇宙望遠鏡が初めて太陽系外の惑星を撮影したと誤った説明をした件を挙げています。
同じページでは、Metaが2022年に、不正確な情報や偏見を含む答えを出したことから、言語モデル「Galactica」のデモを取り下げた例も紹介されています。どれも世界有数の技術を持つ会社のAIです。性能の高いAIでも起きる、と考えておくのが現実的でしょう。
仕事では、確かめなかった人の責任になる
仕事でハルシネーションが問題になるのは、間違いをそのまま使ってしまったときです。2023年には、アメリカの弁護士がChatGPTの挙げた実在しない判例を確かめずに裁判所へ提出し、法律事務所とともに5,000ドルの制裁金を科されました。
この例で責任を問われたのは、AIではなく、確かめずに使った弁護士です。社内の資料やお客様への説明でも同じで、AIが作った文章を使えば、その内容の責任は使った人が負います。
ハルシネーションが起きる3つの理由

ハルシネーションは、AIの故障ではなく、文章を作る仕組みそのものから起きます。理由は大きく3つです。
1. AIは「正しいか」ではなく「もっともらしいか」で文章を作るから
ChatGPTなどの文章を作るAIは、大規模言語モデル(LLM)という仕組みで動いています。AWSの解説によると、LLMは大量の文章で学習し、次に来る言葉を予測して文章を組み立てます。
つまり、AIは事実を調べて答えているのではなく、「この流れなら次はこの言葉が来やすい」という予測を重ねています。そのため、文章としては自然でも、内容が事実と合わないことがあるのです。2025年にOpenAIの研究者らが発表した論文では、多くの評価で「分かりません」と答えると点がもらえないため、AIは分からないときも推測で答えるように育ってしまう、と指摘されています。
2. 学習データに誤りや偏り、足りない部分があるから
AIの答えは、学習したデータの影響を強く受けます。IBMは、学習に使うデータの偏りや不正確さを、ハルシネーションの主な原因の1つに挙げています。
学習データに誤った情報が含まれていれば、AIはそれを正しいものとして答えることがあります。また、学習した時点より新しい情報は、検索などの機能を使わない限り回答に反映されません。法律の改正や料金の変更など、時期によって変わる情報ほど、古いまま答えるおそれがあります。
3. 質問があいまいだと、足りない部分を推測で埋めるから
OpenAIは、あいまいな質問や複雑な質問に、確信を持ちすぎた回答をすることがあると説明しています。条件が足りない質問ほど、AIが推測で補う部分は増えます。
人に質問すれば「それはどういう状況ですか?」と聞き返されるところでも、AIはそのまま答えを返しがちです。答えの正しさは、質問の中身にも左右されるということです。
仕事でハルシネーションを防ぐ4つの方法

今のところ、ハルシネーションを完全になくす方法はありません。仕事で使う場合は、起きる前提で次の4つを組み合わせます。
数字・日付・固有名詞・出典は、元の情報で確かめる
確かめる部分は、数字、日付、人や会社の名前、出典の4つに絞ると続けやすくなります。OpenAIも、引用やデータ、外部の文書への参照は必ず確かめるよう案内しています。
これらは、間違えたときの影響が大きいわりに、文章の流れからは誤りに気づきにくい情報です。公式サイトや一次情報を自分で開き、本当にそう書かれているかを見てください。確かめ方の手順は、AIの回答をファクトチェックする方法でくわしく紹介しています。
質問の条件を具体的に書く
AIが推測で埋める部分を減らすには、質問に条件を書き込みます。目的、対象、期間、前提を最初に伝えておくと、AIが勝手に仮定する部分が減ります。
たとえば「有給休暇は何日?」ではなく、「週5日勤務で、入社して1年半の正社員の場合」と条件を添えて聞きます。足りない情報があれば質問してほしい、と一言添えておくのも有効です。
根拠となる資料を渡して答えさせる
AIの記憶に頼らず、根拠となる資料を渡して、その範囲で答えるよう指示する方法もあります。社内規程や公式ページの本文を貼り付けて、「この文章にもとづいて答えてください」と頼む使い方です。
資料を検索してからAIに答えさせる仕組みは「RAG(検索拡張生成)」と呼ばれ、企業向けのAIチャットボットなどで使われています。ただし、資料を渡しても読み違えることはあるため、答えと資料の該当部分を見比べる手間は残ります。
最後は人が確認する
どの方法を組み合わせても、最後の確認は人が行います。IBMも、AIの出力を人間が検証・レビューすることを、ハルシネーションを防ぐための最終的な防御策として挙げています。
AIは、文章の整理や下書き、考えの抜けもれの洗い出しに使うと力を発揮します。社外に出す前や、判断の根拠にする前には、自分の目で読み直してください。ChatGPTを仕事で使うときの注意点は、ChatGPTの回答が間違いだらけなのはなぜ?でも解説しています。
あわせて読みたい
よくある質問

- 有料版のAIなら、ハルシネーションは起きませんか?
-
有料版でも起きます。検索の機能などで、新しい情報を出典付きで答えられる場面は増えます。ただし、OpenAIは最新のモデルにも限界があると説明し、重要な情報は確認するようすすめています。
- ハルシネーションは「AIが嘘をつく」ことと同じですか?
-
AIに、人をだまそうとする意図があるわけではありません。学習したパターンから文章を作った結果、事実と違う内容になってしまう現象です。ただし、読む側にとっては誤った情報であることに変わりないので、確認が必要です。
- 「嘘をつかないで」とカスタム指示に書けば、嘘をつかなくなりますか?
-
なくなりはしません。AIは、事実かどうかを確かめながら文章を作っているわけではないので、指示を書いても間違いは起きます。ただし、「わからないことは推測せず、わからないと書いてください」「事実には出典をつけてください」と書いておくと、どこを確かめればいいかがはっきりします。指示は間違いを消すためではなく、確かめやすくするために書きます。
- 間違いを指摘しても、AIが認めずに言い張るときは?
-
同じチャットで言い合いを続けるより、新しいチャットで、正しい情報(公式のページの文章など)を貼りつけて聞き直す方が早く済みます。同じチャットの中では、AIはそれまでのやり取りを前提にして答えるので、話がこじれたままになりやすいからです。反対に、指摘するとすぐに「おっしゃるとおりです」と認めることもありますが、認めた後の答えが正しいとも限りません。どちらの場合も、最後は公式の情報で確かめます。
まとめ|起きる前提で、確認する部分を決めておく

ハルシネーションは、AIが事実と違う内容をもっともらしく出力する現象です。AIは文章としての自然さで答えを作り、分からないときも推測で答えてしまうため、有料版でも完全には防げません。
数字や日付、固有名詞、出典は元の情報で確かめ、質問の条件を具体的に書き、必要なら資料を渡して答えさせましょう。最後は人が判断する、と決めておけば、仕事でも安心してAIを役立てられます。
AIを仕事でどう使えばよいか、社内での使い方を一緒に考えたい場合は、お問い合わせフォームからご相談ください。
参考:ChatGPT は真実を伝えますか?(OpenAI ヘルプセンター)、AIハルシネーションとは(IBM)、LLM とは? – 大規模言語モデルの説明(AWS)、Why Language Models Hallucinate(Kalai ほか、2025年)、Phony ChatGPT Brief Leads to $5,000 Fine for NY Lawyers(Bloomberg Law)
