Certains utilisateurs de chatbots d'IA de Google et OpenAI génèrent des images deepfake qui modifient des photos de femmes entièrement vêtues pour les montrer en bikini. Ces modifications se font souvent sans le consentement des femmes, et les instructions pour le processus sont partagées entre utilisateurs. Cette activité met en lumière les risques des outils d'IA générative.
Le problème concerne des chatbots populaires développés par Google et OpenAI, où les utilisateurs soumettent des photos de femmes habillées de vêtements quotidiens et demandent à l'IA de produire des versions modifiées les représentant en maillots de bain. Selon des rapports, ces deepfakes de bikini sont créés à l'aide des capacités d'IA générative, produisant des images réalistes qui suppriment les vêtements originaux.
La plupart de ces images fabriquées manquent d'autorisation des sujets, soulevant de graves préoccupations éthiques sur la vie privée et le consentement dans les applications d'IA. Les utilisateurs sur des plateformes comme Reddit échangent des conseils détaillés sur la formulation de tels prompts pour obtenir des résultats convaincants avec les chatbots, comme ChatGPT d'OpenAI.
Ce détournement illustre comment les générateurs d'images IA accessibles peuvent être exploités pour des modifications non consenties, pouvant mener au harcèlement ou à la désinformation. Cette pratique souligne le besoin de garde-fous dans les logiciels d'IA pour empêcher la génération de deepfakes nuisibles. Bien que conçus pour des interactions utiles, les fonctionnalités d'édition d'images des chatbots ont permis cette utilisation non prévue.
Ces révélations interviennent dans un contexte de surveillance accrue des technologies deepfake, qui combinent intelligence artificielle et médias existants pour créer du contenu trompeur.