Anthropic、AlibabaによるClaude蒸留攻撃を主張
Anthropicの主張は、高性能モデルの出力そのものが競争資産になり、API公開が知財・安全保障・不正利用対策の問題に直結することを示しています。
何が起きたのか
Anthropicは、Alibaba関係者が多数の不正アカウントを通じてClaudeの能力を抽出する蒸留攻撃を行ったと主張しました。蒸留とは、強いモデルの出力を別モデルの訓練に使う手法です。
主要な論点
論点は、生成AIの出力をどこまで学習素材として扱えるかです。APIを広く開くほど普及は進みますが、大量アクセスや競合モデル育成への悪用を検知する仕組みが必要になります。
影響
AI企業は異常利用検知、本人確認、レート制限を強める可能性があります。正規の開発者も、大量利用時には利用目的やログ管理を説明できる体制が求められます。
注意点
現時点ではAnthropic側の主張が中心で、第三者検証や相手側の詳細な反論は限定的です。数字の大きさだけで断定しない見方が必要です。