Alguns usuários de chatbots de IA do Google e OpenAI estão gerando imagens deepfake que alteram fotos de mulheres totalmente vestidas para mostrá-las de biquíni. Essas modificações ocorrem frequentemente sem o consentimento das mulheres, e instruções para o processo são compartilhadas entre usuários. A atividade destaca riscos em ferramentas de IA generativa.
O problema envolve chatbots populares desenvolvidos pelo Google e OpenAI, onde usuários inserem fotos de mulheres vestidas com roupas do dia a dia e pedem à IA para produzir versões alteradas retratando-as em trajes de banho. De acordo com relatos, esses deepfakes de biquíni são criados usando capacidades de IA generativa, resultando em imagens realistas que removem a roupa original.
A maioria dessas imagens fabricadas não tem permissão dos sujeitos, levantando sérias preocupações éticas sobre privacidade e consentimento em aplicações de IA. Usuários em plataformas como Reddit trocam orientações detalhadas sobre como criar tais prompts para obter resultados convincentes com os chatbots, como o ChatGPT da OpenAI.
Esse mau uso demonstra como geradores de imagens de IA acessíveis podem ser explorados para alterações não consensuais, potencialmente levando a assédio ou desinformação. A prática sublinha a necessidade de salvaguardas em softwares de IA para prevenir a geração de deepfakes prejudiciais. Embora os chatbots sejam projetados para interações úteis, seus recursos de edição de imagens permitiram essa aplicação não intencional.
As revelações surgem em meio a um escrutínio crescente das tecnologias deepfake, que combinam inteligência artificial com mídias existentes para criar conteúdo enganoso.