Anthropicは8月14日に更新したリスク報告で、社内の高性能モデル「Model 2」を現時点では公開しない判断を示しました。能力が伸びる一方、高い影響を持つ場面で意図と異なる行動を取る広範なリスク評価を「非常に低い」から「低い」へ引き上げています。新モデルを作れたらすぐ公開するのではなく、能力評価と安全対策がそろうまで提供を止める判断そのものがAI開発競争の重要な論点になっています。
能力は向上、公開は見送り
Model 2は社内の多くの作業で既存モデルより明確に改善したとされています。一方、Anthropicは最近のサイバーセキュリティ関連の事例などを踏まえ、高い権限を持たせたときの不正利用や予期しない行動への確信が十分ではないと判断しました。モデル名や詳細な能力、公開時期は限定的にしか開示されていません。
リスク評価を一段引き上げ
評価が「低い」になったことは、危険が確認されたという意味ではなく、不確実性を以前より重く見積もったことを示します。逆に、提供しない判断だけで安全性が証明されたわけでもありません。評価方法、監視、アクセス制御、事故時の停止手順を能力向上と同時に整える必要があります。
企業利用も権限と停止手順が前提
企業が高度なAIへ重要業務や外部操作を任せる際も、モデルの性能だけでなく、権限を絞る仕組み、操作記録、人の承認、異常時の停止を導入条件に含めるべきです。提供企業の自主判断が、モデル公開の時期や機能範囲を左右する場面も増えます。 報告はAnthropic自身による評価で、Model 2の詳細は非公開です。「低い」という表現を安全保証とも、直ちに危険なモデルが存在する証拠とも受け取らず、公開資料で確認できる範囲を分けて読む必要があります。