Le procureur de la ville de San Francisco, David Chiu, a envoyé des mises en demeure à Apple et Google exigeant le retrait de 13 applications de nudité utilisant l'IA de leurs boutiques. Ces lettres accusent les entreprises de contribuer à la diffusion d'images deepfake non consensuelles. M. Chiu a averti que ces applications violent les lois californiennes contre le soutien aux services de pornographie deepfake.
M. Chiu a demandé à Google de supprimer cinq applications et à Apple d'en supprimer huit. Ces applications permettent aux utilisateurs de créer des images explicites à partir de photos ordinaires de personnes réelles, ciblant souvent des femmes et des jeunes filles. M. Chiu a déclaré qu'Apple et Google ont probablement généré des millions de dollars de commissions grâce à ces applications. Il a décrit cette technologie comme ayant un impact terrifiant sur la réputation et la santé mentale des victimes. Un porte-parole de Google a confirmé que les cinq applications signalées ont été suspendues et que des centaines d'applications similaires ont déjà été supprimées. Apple n'a pas répondu aux demandes de commentaires. M. Chiu a déclaré que ses services envisageraient d'autres options juridiques si les entreprises ne passent pas à l'action.
