Anthropic CEOがAI開発の減速を提案、外部評価者の継続的な受け入れを表明
Anthropicのダリオ・アモデイCEOは9月12日に公表した論考で、AIの能力向上に安全対策が追いつく時間を確保するよう呼びかけました。同社は外部評価者に継続的な社内アクセスを認める方針を表明しています。焦点は開発の全面停止ではなく、性能競争と並行して、第三者が安全性を検証できる仕組みを整えることです。
自社の約束と業界への提案を分ける
提案は、外部評価者の受け入れ、民主主義国の企業間調整、政府間の国際調整という三つの段階です。このうちAnthropicが自社で約束したのは第一段階で、他社や各国との合意が成立したという発表ではありません。評価者が日常的に安全対策や事故、開発工程を確認できる状態を目指します。
性能向上に安全確認が追いつく時間を
背景として同氏は、AIが次のAI開発を助けることで能力向上が加速することや、エージェントの制御を巡る問題を挙げています。これらは今回の提案理由としての説明です。将来の被害について述べた見通しは同氏の懸念であり、必ず起こる出来事や確定した予測として読むべきではありません。
利用企業は評価体制と更新手順も確認
利用企業にとっては、モデルの成績だけでなく、第三者評価や事故報告の体制がサービス選びの比較点になるという示唆があります。今後の公開方針が変わる可能性に備え、重要業務で使うモデルの更新を検証してから適用し、人が確認する工程を残す運用も検討したいところです。 外部チームの受け入れは今後進める方針で、すでに全体制が稼働したとは示されていません。また、能力向上の速度を調整する提案と、既存サービスの停止は別です。法的義務や一律の開発制限が決まったわけではなく、実施内容や他社の参加は続報で確認する必要があります。