ナレッジカットオフとは?AIが最新の情報を知らない理由と、仕事で確かめる方法

結論:AIが学習したデータの「締め切り日」

AIに最近の法改正や料金、新しい製品のことを聞くと、古い情報のまま答えが返ってくることがあります。しかも、言い方には迷いがありません。この理由のひとつが、ナレッジカットオフです。

目次

結論:AIが学習したデータの「締め切り日」

結論:AIが学習したデータの「締め切り日」

ナレッジカットオフとは、AIのモデルが学習に使ったデータの締め切りの時点のことです。OpenAIのヘルプでは、ChatGPTはある時点までのデータで学習していて、検索などの機能を使わない限り、その後の出来事は答えに反映されないと説明されています(参考:ChatGPT は真実を伝えますか?|OpenAI Help Center)。

AIのモデルは、集めたデータで学習させてから公開されます。学習が終わった後に起きたことは、モデルの知識には入っていません。

知らないのに、自信を持って答えることがある

知らないのに、自信を持って答えることがある

困るのは、知らないことを「知らない」と答えるとは限らない点です。同じOpenAIのヘルプでは、AIは学習したデータのパターンから答えを作るため、誤った内容でも自信があるように聞こえることがある、とされています。

たとえば、次のような情報は、締め切りの後に変わっている可能性があります。

  • 料金、プラン、税率、補助金などの制度
  • 法律やガイドラインの改正
  • 会社の住所、担当窓口、営業時間
  • 新しく出た製品やサービス、AIのモデルの名前

もっともらしい間違いが起きる仕組みは、ハルシネーションとは?で詳しく説明しています。

検索を使った答えかどうかを見分ける

検索を使った答えかどうかを見分ける

今のAIの多くは、Webを検索して新しい情報を調べる機能を持っています。OpenAIのヘルプによると、検索を使ったときは、答えにWebの出典(リンク)が付きます。出典のない答えは、学習した時点の知識だけで作られている可能性があります。

ただし、検索を使っても、サイトの設定などによっては必要な情報を取りに行けない場合がある、とも書かれています。出典が付いていても、そのリンク先を開いて、本当にそう書いてあるかを確かめることが大切です。

締め切りの日付は、公式の説明で確かめる

締め切りの日付は、公式の説明で確かめる

ナレッジカットオフの時点は、モデルごとに違い、新しいモデルが出るたびに変わります。AIの会社は、モデルの一覧で時点を公開していることがあります。たとえばAnthropicのモデル概要には、モデルごとに「信頼できる知識カットオフ」の欄があります(参考:モデル概要|Claude Platform Docs)。使っているサービスの公式の説明で確かめましょう。

仕事での使い分け

仕事での使い分け
  • そのまま任せやすいこと:文章を整える、考えを整理する、一般的な仕組みを説明してもらうなど、時間がたっても変わりにくい内容
  • 確かめが必要なこと:料金、制度、法律、住所、最近の出来事など、変わる情報。検索を使わせて出典を出してもらい、最後は公式のページで確かめる

「この情報は、去年から変わっている可能性があるか」と自分に聞いてみると、確かめるべきかどうかを判断しやすくなります。

まとめ|変わる情報は、出典と公式で確かめる

まとめ|変わる情報は、出典と公式で確かめる

ナレッジカットオフは、AIが学習したデータの締め切りです。それより後の出来事は知らず、それでも自信のある言い方で答えることがあります。料金や制度など変わる情報は、検索を使った答えの出典を開き、最後は公式のページで確かめましょう。

あわせて読みたい

  • URLをコピーしました!
目次