Googleは、Google Earth上の実在地点をもとにNano Banana 2で画像を作る機能を公開後およそ1日で撤回しました。利用者が火災、爆発、陥没、避難民など、実際には起きていない場面を衛星画像風に生成し、SNSで共有したためです。生成物にはSynthIDが付いても、地図という信頼性の高い画面と合成されることで本物らしく見えます。画像生成の安全対策は、透かしを付けるだけでなく、利用場面そのものを考える必要があると示した事例です。
実在地点から偽の災害画像を生成
機能はGoogle EarthのWeb版で地点を選び、文章で指示すると、その場所の航空・衛星画像を加工するものでした。実在の地形を土台に偽の災害や軍事施設を作れることが確認され、Googleはポリシー違反に見える画像が相次いだとして、より強い防止策を入れるまでロールバックすると説明しました。
透かしだけでは文脈の偽装を防げない
生成画像は他の利用者の基礎地図へ反映されず、SynthIDも付与されていました。それでも切り取った画像だけが共有されれば、出所や注意表示が失われます。報道・災害・安全保障で使う地理画像では、生成物と観測事実を画面、保存形式、共有経路まで分離する設計が必要です。
事実表示と生成領域を分ける
地図や医療、金融など、利用者が事実表示だと期待するサービスほど、生成AIの導入前に誤用シナリオを試す必要があります。公開後の監視、即時停止、来歴確認を一つの運用として設計すべきです。 撤回はGoogle Earth内の当該生成機能についてで、Google Earth全体やNano Banana 2そのものの提供終了ではありません。生成画像が共有地図へ直接掲載されたわけでもありません。