サンフランシスコ市のデビッド・チウ市検事は、AppleとGoogleに対し、AIを活用した「ヌディファイ（nudify）」アプリ13本を各ストアから削除するよう求める停止命令書を送付した。書簡では、両社が同意のないディープフェイク画像の拡散を助長していると指摘している。チウ氏は、これらのアプリがディープフェイクポルノサービスへの支援を禁じるカリフォルニア州法に違反していると警告した。
チウ氏はGoogleに対して5本、Appleに対して8本のアプリ削除を要求した。これらのアプリは、実在の人物の一般的な写真から性的な画像を生成できるもので、多くの場合、女性や少女が標的にされている。
チウ氏は、AppleとGoogleがこれらのアプリから数百万ドル相当の手数料を得ている可能性が高いと指摘。この技術が被害者の名誉や精神的健康に恐ろしい影響を及ぼしていると述べた。
Googleの広報担当者は、指摘された5本のアプリを停止したこと、またこれまでにも数百本の同様のアプリを削除してきたことを認めた。Appleはコメントの要請に応じていない。
チウ氏は、両社が対応しない場合、さらなる法的措置を検討する意向を示している。
