NVIDIAは、Microsoft、IBM、Cisco、Cloudflare、Hugging Faceなどと「Open Secure AI Alliance」を設立しました。AIエージェントを守るID、権限、隔離、ログ、評価、モデル形式、コード検査を、企業ごとの閉じた仕組みだけにせず共同開発します。モデルの公開・非公開だけで安全性を判断しない姿勢を打ち出しました。
大手各社がAI防御の共通基盤へ
7月27日に公表された設立メンバーには、クラウド、セキュリティ、企業ソフト、AI研究の幅広い企業とLinux Foundationが参加します。各社が既存のオープン技術を持ち寄り、AIエージェントの全体構成を検査・監査できる防御基盤を整えます。
モデルではなくエージェント全体を守る
NVIDIAはモデル、データ、エージェント基盤の研究を提供し、挙動を試験・追跡・監査しやすくするNOOAをGitHubで公開しました。SPIFFE/SPIREのID、Safetensorsの安全なモデル形式、MDASHの複数モデル検査なども構成要素に挙げています。
オープン化で確認すべき運用責任
企業は一社の安全機能だけに依存せず、エージェントのIDから実行ログまで共通部品で検証できる可能性があります。規制当局に対しても、公開技術を防御資産として扱うよう働きかけます。 参加企業が多いことと、統一仕様が実運用で定着することは別です。責任分界、更新頻度、互換性、悪用への対応を確認し、公開コードも自社環境で評価する必要があります。