AI同士の取引実験で見えた弱点、交渉力より『本人の好みの理解』が壁に
Anthropicは9月24日、Claudeを使う代理エージェント同士が本を交換する実験「Project Swap」を公表しました。社員201人が本を持ち寄り、AIが本人の読書の好みを聞いて取引します。本人が順位付けした本の組み合わせとAIの予測が一致した割合は61％。取引自体は進められても、最初に本人の希望を正確につかめないことが、結果を制限しました。買い物や予約をAIに任せる前に、好みや優先順位を確認する重要性を示す実験です。
社員201人がAI代理人に本の交換を任せた
参加者は短い会話で読みたい本を伝え、各自のClaudeエージェントが他のエージェントと交換を交渉しました。別に本人が10冊を順位付けし、AIが推定した好みと比較しています。研究では、実際の交換結果と理論上の最良の割り当てとの差の多くが、取引ルールより好みの推定のずれに由来しました。
好みの順位予測は61％一致
61％は『希望した本を受け取れた人の割合』ではなく、本のペアごとの順位予測の一致率です。偶然なら50％という設定で、完全な理解とは言えません。エージェントに強いモデルを使うと交渉結果が改善する場面もありましたが、本人の意図を聞き違えれば交渉だけを強化しても限界があります。
代理取引には本人による条件確認が必要
代理購入や日程調整を設計する企業は、実行前に希望条件を本人へ見せて訂正できる仕組み、予算・禁止事項、取引履歴を用意すべきです。利用者も『安ければ何でもよい』のような曖昧な指示だけでは望まない結果になり得ます。 対象は社員による本の交換という管理された実験です。実際の金銭取引や大規模市場で同じ結果になるとは限りません。