Appleは10月16日、App Storeの審査ガイドラインを更新し、本人の同意がない性的な画像への対策を明確にしました。AI生成画像も対象で、予防と削除の仕組みを開発者に求めています。承認後に有害な機能を出す行為も改めて禁止しました。法律の新設ではなく、アプリ配信に関わるAppleのルール改定です。
AI生成も予防・削除の対象
更新された1.2では、ユーザーが作成するコンテンツに関して、同意のない性的画像を能動的に防ぎ、取り除く要件を明示しました。十分な安全策がない場合や、通知後も違反を是正しない場合には、開発者行動規範への違反として扱われるおそれがあります。
承認後の機能入れ替えを禁止
2.5.19は、審査時に見せていない機能や目的を、承認後に表す行為への従来の禁止を明確化しました。表向きの機能と実際の機能を入れ替えるアプリなどが対象で、アプリ削除や開発者プログラムからの除外につながり得ます。今回初めてすべての禁止が始まったわけではありません。
配信後も安全策が機能するか
編集部の見方として、生成機能を持つアプリは、出力を作る前の制御と、公開後の通報・削除対応を分けて整備する必要があります。審査用の画面だけを整えても、実際の配信後の動作と違えばリスクは残ります。運営者が安全策の実施状況を確認できることが、継続配信の条件として重要になります。 これはAppleの配信・審査方針の説明で、個別の行為に対する法的判断ではありません。自社アプリへの適用は最新の条文と審査上の説明を確認する必要があります。違反時の措置も、あらゆる不備で直ちに同じ結果になると断定せず、条文に示された対象と条件を分けて読むことが大切です。