OpenAIは10月8日、偽の記者や研究組織を装って情報を広める二つの活動を報告しました。同社はロシアとイランを起点とする活動と説明し、関連アカウントを停止しています。実在する媒体に記事が載っていても、書き手や根拠まで信頼できるとは限らず、ニュースを読む側の確認が重要になります。
偽の発信元から実在媒体へ
報告では、イラン側の活動が偽の記者の人物像を使って中小のオンライン媒体に記事を売り込み、ロシア側の活動では研究組織を装う動きが確認されています。AIの利用と従来型の手法を組み合わせ、発信元の正体を見えにくくする構図です。今回の発表日が活動の開始日という意味ではありません。
AI生成と実際の影響を区別
一部の内容は実在する媒体にも掲載されましたが、すべてをOpenAIのモデルが生成したわけではないと説明されています。AIは文章だけでなく翻訳や活動報告などにも使われました。見かけの到達範囲と、人の考えや行動が実際に変わったことは区別が必要です。
媒体数より元の根拠を確認
編集部の見方として、複数媒体が同じ話を扱っていても、元が一つの不確かな発信なら独立した確認にはなりません。著者の所属、組織の実態、引用された一次資料までさかのぼることが大切です。記事を選ぶ側も、掲載件数だけで重要度や信用度を決めない運用が求められます。 本記事はOpenAIの調査報告を紹介するもので、活動全体の影響を独立に認定していません。関連アカウントの停止は、世界中の情報工作の終了を意味しません。国の関与や被害の規模を、報告で確認できた範囲を超えて断定しないよう注意が必要です。