MicrosoftがAI行動規範案を公開、人の制御を優先する設計へ
Microsoft AIは9月14日、自社のMAIモデル向け行動規範の草案を公開し、6週間の意見募集を始めました。AIの能力を伸ばすだけでなく、人が意味のある形で監督・制御できることを優先する方針です。ただし、現時点の学習にはまだ使っていません。今後は理念を掲げるだけでなく、実際の評価や運用に落とし込めるかが焦点になります。
6週間の意見募集、開発への反映は2027年以降
草案は、Microsoft AIが開発するモデルに期待する振る舞いや価値観を定めたものです。同社は意見を反映した改訂版を年末ごろに公開し、2027年以降のモデル開発の指針にする予定です。今回の公開を、既存製品の安全性能が一斉に更新された発表と捉えるのは正確ではありません。
便利さより先に、制御できる範囲を定める
中心にあるのは、利用者の役に立つことと、人による制御を両立させる考え方です。利用者や運用者が設定を変えても、根本的な安全上の制約を上書きできない設計を掲げます。能力、自律性、汎用性を最大化することより、監督可能な範囲に収めることを優先するとしています。
宣言と実装・評価を分けて見る
企業がAIを選ぶ際には、ベンチマークの順位だけでなく、誰が指示を出し、どの操作を承認し、問題時にどう止められるかも確認したいところです。今回の草案は、その確認項目を提供側と利用側で議論する材料になります。 意見募集は完成した安全性の証明ではありません。また、対象はMicrosoft AIのモデル群であり、他社モデルを含む全サービスに同じ挙動を保証するものではありません。改訂内容に加え、評価方法と実際の製品への適用状況を追う必要があります。