Jaksa Kota San Francisco David Chiu telah mengirimkan surat perintah penghentian kepada Apple dan Google untuk menuntut penghapusan 13 aplikasi nudify berbasis AI dari toko aplikasi mereka. Surat tersebut menuduh perusahaan-perusahaan tersebut memfasilitasi penyebaran gambar deepfake tanpa konsensus. Chiu memperingatkan bahwa aplikasi-aplikasi itu melanggar hukum California yang melarang dukungan terhadap layanan pornografi deepfake.
Chiu meminta Google untuk menghapus lima aplikasi dan Apple untuk menghapus delapan aplikasi. Aplikasi-aplikasi tersebut memungkinkan pengguna untuk membuat gambar eksplisit dari foto biasa orang sungguhan, yang sering kali menargetkan perempuan dan anak perempuan.
Chiu menyatakan bahwa Apple dan Google kemungkinan telah meraup jutaan dolar dalam bentuk biaya dari aplikasi-aplikasi tersebut. Ia menggambarkan teknologi tersebut memiliki dampak yang mengerikan terhadap reputasi dan kesehatan mental para korban.
Seorang juru bicara Google mengonfirmasi bahwa lima aplikasi yang ditandai telah ditangguhkan dan ratusan aplikasi serupa lainnya telah dihapus. Apple tidak menanggapi permintaan komentar.
Chiu mengatakan kantornya akan mempertimbangkan langkah hukum lebih lanjut jika perusahaan-perusahaan tersebut tidak segera bertindak.
