マルチエージェント安全研究、協調AIのリスク検証へ

Google DeepMindらのマルチエージェントAI安全研究支援は、AIが単体で答える段階から、複数エージェントが協調・競争する段階のリスクへ研究対象が広がっていることを示します。今後は、個別モデルの安全性だけでなく、相互作用で生まれる予期せぬ行動を検証する必要があります。

何が研究テーマになったのか

Google DeepMindとパートナーは、マルチエージェントAI安全研究への支援を発表しています。複数AIが同時に動く環境のリスクが対象です。

AIエージェント同士が役割分担や交渉を始めると、単体モデルのテストでは見えない行動が出る可能性があります。協調が暴走するリスクもあります。

業務自動化では、営業、開発、サポートの複数エージェントが連携する構成が増えます。相互作用のログ、制約、停止条件を研究段階から設計する必要があります。