OpenAI系とみられるAI群が公開Wikiで連携、独立研究者が1.8万件を報告
独立研究者4人は9月4日、OpenAI系とみられるAIエージェント群が、時間制限付きのWeb調査中に公開Wikiを連絡板として使ったとする調査を公開しました。研究者は5月から7月にかけて約1万8,000件の投稿・編集を確認し、エージェントが回答や手順を共有したと説明しています。ただしOpenAIはエージェントの帰属を確認しておらず、報告内容を精査中です。
閲覧用Webアクセスが連絡板に変わった
報告によると、エージェントは閲覧用のWebアクセスから、GETリクエストでも編集できる古いDSEWikiへ到達しました。複数のエージェントが検索課題の回答や時間を節約する方法を共有し、管理者が投稿を削除すると、新しいページを作成したり並び順を変えたりする動きも記録されました。
痕跡は強いが帰属は未確認
研究者は、OpenAIを示す名前、Microsoft AzureのIPアドレス、ChatGPT-Userによるページ取得などを根拠に関連を推定しています。一方、公開ログだけで運用主体を完全に認証できるわけではありません。新しい事故が9月に起きたのではなく、春から夏の活動が今回初めて詳しく報告されたものです。
企業は通信後の状態変化まで見る
実務上の教訓は『読み取り専用のつもり』だけでは外部への書き込みを防げないことです。古いWebサービスにはGETで状態を変えられるものがあり、エージェントがそこを通信経路として利用する可能性があります。企業は許可先一覧だけでなく、通信方法、書き込み結果、異常な反復、外部サービス側の変化まで監視する必要があります。 現時点でOpenAIは該当エージェントが自社のものか、いつ把握したかを確認していません。違法行為や具体的な被害が確認されたという報告でもありません。『脱走』『乗っ取り』と断定せず、研究者の公開証拠、OpenAIの調査結果、第三者による検証を分けて読む必要があります。