「上司がChatGPTの回答をそのまま貼り付けて指示してくる」「『AIがこう言っているので問題ありません』と、AIの答えを判断の根拠にする同僚がいる」。Yahoo!知恵袋には、職場でAIの答えをうのみにする人への悩みが繰り返し投稿されています。中には、上司がAIの答えを信じて、部下の意見を取り合わないという相談もあります。
先に答えを言うと、AIの答えは参考意見であって、それだけでは判断の根拠になりません。伝えるときは、AIを否定するのではなく、「根拠を一緒に確かめる」という形にすると角が立ちません。この記事では、実際の事例や研究をもとに根拠にならない理由を説明し、場面ごとの伝え方を例文つきで紹介します。
結論:AIの答えは「参考意見」。根拠は別に確かめる必要がある

生成AIの答えは、仕事を進めるうえで役に立つ参考意見です。ただし、それ自体は事実の確認ではありません。仕事の判断に使うなら、公式の情報、社内の規程、実際のデータなど、確かめられる根拠と照らし合わせる必要があります。
AIの答えを確かめずに使うと、どうなるのか。よく知られた例が、2023年に米国で起きた裁判です。航空会社を訴えた裁判で、原告の弁護士が、ChatGPTが挙げた過去の判例を確かめずに裁判所へ提出しました。ところが、その判例は実在しないものでした。裁判所は弁護士たちに5,000ドルの制裁金を科しています(Mata v. Avianca)。
専門家でさえ、AIの答えをそのまま根拠にすると、こうした失敗が起きます。ChatGPTを提供するOpenAIも、公式ヘルプで、重要な情報は信頼できる情報源で確かめるよう勧めています。AIの答えは、確かめて初めて仕事の根拠になるのです。
「AIがこう言っている」が根拠にならない3つの理由

AIの答えが、そのままでは根拠にならない理由は3つあります。相手に伝えるときも、この理由を知っておくと、感情的な言い合いにならずに済みます。
1. もっともらしい間違いを出すことがある
生成AIは、事実を確かめて答えているわけではなく、学習した大量の文章をもとに、それらしい文章を組み立てています。そのため、自信のある書き方で間違えることがあります。
OpenAIの公式ヘルプでも、ChatGPTは誤った情報を「間違っていても、自信があるように」出力することがあり、存在しない引用や出典を作ることもあると案内しています。先ほどの裁判で、実在しない判例が出てきたのもこのためです。文章が整っていることと、内容が正しいことは別だと考えましょう。
2. 質問した人の考えに寄りやすい
AIは、聞き方によって、質問した人の考えに沿った答えを返しやすい傾向があります。
AI企業のAnthropicの研究者らが2023年に発表した研究では、調べた5つのAIアシスタントのすべてで、利用者の考えに合わせて答えを変える傾向が見られました。たとえば、「この企画、いいと思うんだけどどう?」と聞けば、AIは良い点を中心に答えがちです。「この企画の問題点を挙げて」と聞けば、問題点が返ってきます。
つまり、上司が「AIもこう言っている」と言うとき、その答えは上司の聞き方の影響を受けているかもしれません。同じテーマでも、聞き方を変えると違う答えが出ることがあるのです。
3. 職場の事情を知らない
社内のルール、お客様との経緯、過去の判断の背景は、教えない限りAIには分かりません。
たとえば、「取引先への値引きは何%まで可能か」とAIに聞けば、一般的な考え方は返ってきます。でも、その取引先と過去にどんな約束をしたのか、社内で値引きの上限が決まっているのかは、AIは知りません。職場の事情が関わる判断ほど、AIの答えだけでは決められないのです。
上司や同僚に角を立てずに伝える方法

伝えるときは、AIを使うこと自体を否定せず、「根拠を一緒に確かめる」形にします。「AIは間違えるから使わないでください」と正面から否定すると、相手は自分のやり方を否定されたと感じ、反発しやすくなるからです。
場面ごとの伝え方の例は、次のとおりです。
| 場面 | 伝え方の例 |
|---|---|
| AIの答えを根拠に判断しようとしている | 「念のため、公式の情報でも同じか確認してから進めてもいいですか」 |
| AIの答えと自分の考えが違う | 「AIの案とは違いますが、〇〇という理由で、こちらの方が合うと考えています」 |
| AIの答えを貼り付けた指示が分かりにくい | 「この中で、今回一番大事なのはどこでしょうか」 |
| 職場の事情と合わない内容がある | 「この部分は、うちの〇〇のルールと違うので、こう直してもよいですか」 |
「どちらが正しいか」の対立にしない
ポイントは、「AIが正しいか、あなたが正しいか」の対立にしないことです。
対立になると、上司は自分の判断を守ろうとして、AIの答えにこだわりやすくなります。そこで、「根拠を確かめる」という、どちらの立場の人も反対しにくい手順に話を持ち込みます。「公式の情報でも確かめてから進めましょう」は、立場に関係なく反対しにくい提案です。確かめた結果、AIの答えが正しければそのまま進めればよく、違っていれば、事実が答えを出してくれます。
自分の意見には、確かめられる事実を添える
AIの答えと自分の考えが違うときは、「経験上こう思う」より、確かめられる事実を添えて伝えます。
たとえば、「AIは納期3日と言っていますが、前回同じ作業をしたときは5日かかりました。作業記録がこちらです」と伝えれば、上司はAIの答えと事実を比べられます。感覚と感覚のぶつかり合いではなく、事実を見て判断する話し合いに変わります。
繰り返される場合は、職場のルールにする

同じことが何度も起きる場合は、個人の問題ではなく、仕事の進め方の問題として扱うほうが解決しやすくなります。特定の人を注意するより、チーム全員が守るルールにしたほうが、誰も責められずに済むからです。
たとえば、次の3つをチームで決めておくと効果があります。
重要な判断では、AIの答えをそのまま根拠にしない
お客様に出す文書、お金や契約に関わる判断、法律や制度に関わる内容では、AIの答えだけを根拠にしないと決めます。先ほどの裁判の例のように、影響が大きい場面ほど、間違えたときの損害も大きくなるからです。
AIの答えを使うときは、確かめた情報源を一緒に書く
AIの答えを報告や資料に使うときは、「〇〇の公式サイトで確認」「社内規程の第〇条と一致」のように、確かめた先を書き添えます。こうしておけば、読む人も根拠をたどれますし、確かめずに使うことが自然になくなります。
社内のルールや経緯が関わることは、担当者に確認する
職場の事情が関わることは、AIではなく担当者に確認すると決めます。AIが知らない情報を、AIに聞いても正しい答えは返ってこないからです。
あわせて読みたい
- AIの回答をファクトチェックする方法|確認すべき4つの情報と5ステップ
- 生成AIの社内ルールの作り方|小規模事業者向けA4一枚テンプレート
- 生成AIのリスクと仕事での対策|個人事業主・小規模事業者が最初に決めること
- 上司が自分のメールをAIに読ませていた。問題はある?
- 上司がAIの添削をそのまま返してくる
よくある質問

- 上司がAIを信じて、自分の意見を聞いてくれません。どうすればいいですか?
-
自分の意見を、根拠と一緒に伝えてみてください。「経験上こう思う」より、「この資料ではこうなっている」「前回この方法で問題が起きた」のように、確かめられる事実を添えると、AIの答えとも比べてもらいやすくなります。それでも話が進まない場合は、「根拠を確かめる」ことをチームのルールにするよう提案するのも1つの方法です。
- 自分もAIの答えをそのまま使ってしまうことがあります。
-
AIの答えを使うこと自体は問題ありません。大事なのは、その答えが正しいかを自分で確かめ、人に説明できる状態で使うことです。特に、数字、制度、法律に関わる内容は、必ず公式の情報で確認しましょう。
まとめ|AIの答えは参考意見、根拠は自分で確かめる

「AIがこう言っている」は、それだけでは仕事の判断の根拠になりません。AIはもっともらしい間違いを出すことがあり、質問した人の考えに寄りやすく、職場の事情も知らないからです。実在しない判例を提出して制裁金を科された弁護士の例のように、確かめずに使うと大きな失敗につながります。
上司や同僚には、AIを否定するのではなく、根拠を一緒に確かめる形で伝え、自分の意見には事実を添えましょう。繰り返される場合は、チームのルールにするのが近道です。
職場でのAIの使い方のルールづくりを進めたい場合は、AI導入の伴走支援もご覧ください。
参考:ChatGPT は真実を伝えますか?(OpenAI ヘルプセンター)、Phony ChatGPT Brief Leads to $5,000 Fine for NY Lawyers(Bloomberg Law)、Towards Understanding Sycophancy in Language Models(Sharma ほか、ICLR 2024)
