「AIがこう言っている」を根拠にする上司・同僚への伝え方|AIの答えをうのみにしないために

結論:AIの答えは「参考意見」。根拠は別に確かめる必要がある

「上司がChatGPTの回答をそのまま貼り付けて指示してくる」「『AIがこう言っているので問題ありません』と、AIの答えを判断の根拠にする同僚がいる」。Yahoo!知恵袋には、職場でAIの答えをうのみにする人への悩みが繰り返し投稿されています。中には、上司がAIの答えを信じて、部下の意見を取り合わないという相談もあります。

先に答えを言うと、AIの答えは参考意見であって、それだけでは判断の根拠になりません。伝えるときは、AIを否定するのではなく、「根拠を一緒に確かめる」という形にすると角が立ちません。この記事では、実際の事例や研究をもとに根拠にならない理由を説明し、場面ごとの伝え方を例文つきで紹介します。

目次

結論:AIの答えは「参考意見」。根拠は別に確かめる必要がある

結論:AIの答えは「参考意見」。根拠は別に確かめる必要がある

生成AIの答えは、仕事を進めるうえで役に立つ参考意見です。ただし、それ自体は事実の確認ではありません。仕事の判断に使うなら、公式の情報、社内の規程、実際のデータなど、確かめられる根拠と照らし合わせる必要があります。

AIの答えを確かめずに使うと、どうなるのか。よく知られた例が、2023年に米国で起きた裁判です。航空会社を訴えた裁判で、原告の弁護士が、ChatGPTが挙げた過去の判例を確かめずに裁判所へ提出しました。ところが、その判例は実在しないものでした。裁判所は弁護士たちに5,000ドルの制裁金を科しています(Mata v. Avianca)。

専門家でさえ、AIの答えをそのまま根拠にすると、こうした失敗が起きます。ChatGPTを提供するOpenAIも、公式ヘルプで、重要な情報は信頼できる情報源で確かめるよう勧めています。AIの答えは、確かめて初めて仕事の根拠になるのです。

「AIがこう言っている」が根拠にならない3つの理由

「AIがこう言っている」が根拠にならない3つの理由

AIの答えが、そのままでは根拠にならない理由は3つあります。相手に伝えるときも、この理由を知っておくと、感情的な言い合いにならずに済みます。

1. もっともらしい間違いを出すことがある

生成AIは、事実を確かめて答えているわけではなく、学習した大量の文章をもとに、それらしい文章を組み立てています。そのため、自信のある書き方で間違えることがあります。

OpenAIの公式ヘルプでも、ChatGPTは誤った情報を「間違っていても、自信があるように」出力することがあり、存在しない引用や出典を作ることもあると案内しています。先ほどの裁判で、実在しない判例が出てきたのもこのためです。文章が整っていることと、内容が正しいことは別だと考えましょう。

2. 質問した人の考えに寄りやすい

AIは、聞き方によって、質問した人の考えに沿った答えを返しやすい傾向があります。

AI企業のAnthropicの研究者らが2023年に発表した研究では、調べた5つのAIアシスタントのすべてで、利用者の考えに合わせて答えを変える傾向が見られました。たとえば、「この企画、いいと思うんだけどどう?」と聞けば、AIは良い点を中心に答えがちです。「この企画の問題点を挙げて」と聞けば、問題点が返ってきます。

つまり、上司が「AIもこう言っている」と言うとき、その答えは上司の聞き方の影響を受けているかもしれません。同じテーマでも、聞き方を変えると違う答えが出ることがあるのです。

3. 職場の事情を知らない

社内のルール、お客様との経緯、過去の判断の背景は、教えない限りAIには分かりません。

たとえば、「取引先への値引きは何%まで可能か」とAIに聞けば、一般的な考え方は返ってきます。でも、その取引先と過去にどんな約束をしたのか、社内で値引きの上限が決まっているのかは、AIは知りません。職場の事情が関わる判断ほど、AIの答えだけでは決められないのです。

上司や同僚に角を立てずに伝える方法

上司や同僚に角を立てずに伝える方法

伝えるときは、AIを使うこと自体を否定せず、「根拠を一緒に確かめる」形にします。「AIは間違えるから使わないでください」と正面から否定すると、相手は自分のやり方を否定されたと感じ、反発しやすくなるからです。

場面ごとの伝え方の例は、次のとおりです。

場面伝え方の例
AIの答えを根拠に判断しようとしている「念のため、公式の情報でも同じか確認してから進めてもいいですか」
AIの答えと自分の考えが違う「AIの案とは違いますが、〇〇という理由で、こちらの方が合うと考えています」
AIの答えを貼り付けた指示が分かりにくい「この中で、今回一番大事なのはどこでしょうか」
職場の事情と合わない内容がある「この部分は、うちの〇〇のルールと違うので、こう直してもよいですか」

「どちらが正しいか」の対立にしない

ポイントは、「AIが正しいか、あなたが正しいか」の対立にしないことです。

対立になると、上司は自分の判断を守ろうとして、AIの答えにこだわりやすくなります。そこで、「根拠を確かめる」という、どちらの立場の人も反対しにくい手順に話を持ち込みます。「公式の情報でも確かめてから進めましょう」は、立場に関係なく反対しにくい提案です。確かめた結果、AIの答えが正しければそのまま進めればよく、違っていれば、事実が答えを出してくれます。

自分の意見には、確かめられる事実を添える

AIの答えと自分の考えが違うときは、「経験上こう思う」より、確かめられる事実を添えて伝えます。

たとえば、「AIは納期3日と言っていますが、前回同じ作業をしたときは5日かかりました。作業記録がこちらです」と伝えれば、上司はAIの答えと事実を比べられます。感覚と感覚のぶつかり合いではなく、事実を見て判断する話し合いに変わります。

繰り返される場合は、職場のルールにする

繰り返される場合は、職場のルールにする

同じことが何度も起きる場合は、個人の問題ではなく、仕事の進め方の問題として扱うほうが解決しやすくなります。特定の人を注意するより、チーム全員が守るルールにしたほうが、誰も責められずに済むからです。

たとえば、次の3つをチームで決めておくと効果があります。

重要な判断では、AIの答えをそのまま根拠にしない

お客様に出す文書、お金や契約に関わる判断、法律や制度に関わる内容では、AIの答えだけを根拠にしないと決めます。先ほどの裁判の例のように、影響が大きい場面ほど、間違えたときの損害も大きくなるからです。

AIの答えを使うときは、確かめた情報源を一緒に書く

AIの答えを報告や資料に使うときは、「〇〇の公式サイトで確認」「社内規程の第〇条と一致」のように、確かめた先を書き添えます。こうしておけば、読む人も根拠をたどれますし、確かめずに使うことが自然になくなります。

社内のルールや経緯が関わることは、担当者に確認する

職場の事情が関わることは、AIではなく担当者に確認すると決めます。AIが知らない情報を、AIに聞いても正しい答えは返ってこないからです。

あわせて読みたい

よくある質問

よくある質問
上司がAIを信じて、自分の意見を聞いてくれません。どうすればいいですか?

自分の意見を、根拠と一緒に伝えてみてください。「経験上こう思う」より、「この資料ではこうなっている」「前回この方法で問題が起きた」のように、確かめられる事実を添えると、AIの答えとも比べてもらいやすくなります。それでも話が進まない場合は、「根拠を確かめる」ことをチームのルールにするよう提案するのも1つの方法です。

自分もAIの答えをそのまま使ってしまうことがあります。

AIの答えを使うこと自体は問題ありません。大事なのは、その答えが正しいかを自分で確かめ、人に説明できる状態で使うことです。特に、数字、制度、法律に関わる内容は、必ず公式の情報で確認しましょう。

まとめ|AIの答えは参考意見、根拠は自分で確かめる

まとめ|AIの答えは参考意見、根拠は自分で確かめる

「AIがこう言っている」は、それだけでは仕事の判断の根拠になりません。AIはもっともらしい間違いを出すことがあり、質問した人の考えに寄りやすく、職場の事情も知らないからです。実在しない判例を提出して制裁金を科された弁護士の例のように、確かめずに使うと大きな失敗につながります。

上司や同僚には、AIを否定するのではなく、根拠を一緒に確かめる形で伝え、自分の意見には事実を添えましょう。繰り返される場合は、チームのルールにするのが近道です。

職場でのAIの使い方のルールづくりを進めたい場合は、AI導入の伴走支援もご覧ください。

参考:ChatGPT は真実を伝えますか?(OpenAI ヘルプセンター)、Phony ChatGPT Brief Leads to $5,000 Fine for NY Lawyers(Bloomberg Law)、Towards Understanding Sycophancy in Language Models(Sharma ほか、ICLR 2024)

  • URLをコピーしました!
目次