Google DeepMindは10月14日、シンガポールのGovTechと、スマートフォン内で詐欺の会話を検知するAIを開発したと発表しました。会話をクラウドへ送って判定するのではなく、端末で処理する設計です。地域特有のだまし方に対応する一方、アプリへの導入は段階的に進める方針で、一般提供日は示していません。
地域の手口を学び、端末内で判定
軽量モデルGemmaを、地域の詐欺に関する会話で追加学習しました。公的機関や銀行などへのなりすましも対象です。利用者の同意に基づいて端末内の会話を扱い、この導入を通じて政府やGoogleが会話へアクセスすることはないと説明しています。
軽い確認から会話の精査へ二段階
処理は二段階です。最初に消費電力の小さい分類器が受信メッセージを確認し、疑わしい場合にGemmaが会話の流れを詳しく調べます。単語だけでなく、信頼させて送金や機密情報の提供へ誘導する文脈を捉える狙いです。危険と判断すれば端末上で注意を促します。
導入時期と対応アプリは今後確認
編集部の見方として、詐欺対策では検知力と通信のプライバシーを両立させる設計が重要です。地域の言葉や手口への調整も、汎用モデルをそのまま使う場合との差になります。ただし、警告が出たかどうかだけで送金の安全性を判断せず、別の連絡手段で相手を確認する姿勢は残したいところです。 公開日は開発の発表日で、すべての端末や日本で使えるようになった日ではありません。誤検知や見逃しがなくなる保証もありません。対応アプリ、導入時期、同意の範囲は今後の案内で確認する必要があります。端末内処理でも、利用条件の確認が不要になるわけではありません。