多言語VLM安全性、画像と言語の組み合わせ評価へ
多言語の視覚言語モデル評価では、英語テキストだけでなく、画像と文章が組み合わさったときの安全性ギャップを測る研究が進んでいます。
何が起きたのか
Lingua-SafetyBenchは、10言語にわたる画像テキストペアを使い、VLMが有害な依頼や危険な文脈をどの程度見抜けるかを評価するベンチマークです。従来の安全性評価は、英語テキスト中心か、画像中心に分かれがちでした。
主要な論点
重要なのは、リスクが画像側にあるのか、テキスト側にあるのかで失敗の出方が変わる点です。モデル規模を大きくするだけでは、言語ごとの安全性差やマルチモーダル特有の抜けを十分に埋められない可能性があります。
影響
画像認識、翻訳、SNS監視、教育向けAIを扱う企業は、英語だけの安全性確認では不十分になります。日本語を含む多言語環境では、画像と文章をセットで評価する工程が必要です。
注意点
ベンチマーク上の失敗率は、実サービスの危険度と完全に一致するわけではありません。用途、ユーザー層、入力経路に合わせた追加検証が必要です。