Algunos usuarios de chatbots de IA de Google y OpenAI están generando imágenes deepfake que alteran fotos de mujeres completamente vestidas para mostrarlas en bikinis. Estas modificaciones suelen realizarse sin el consentimiento de las mujeres, e instrucciones para el proceso se comparten entre usuarios. La actividad resalta riesgos en herramientas de IA generativa.
El problema involucra chatbots populares desarrollados por Google y OpenAI, donde los usuarios introducen fotos de mujeres vestidas con ropa cotidiana y piden a la IA que produzca versiones alteradas que las muestren en trajes de baño. Según informes, estos deepfakes de bikinis se crean utilizando capacidades de IA generativa, resultando en imágenes realistas que eliminan la ropa original.
La mayoría de estas imágenes fabricadas carecen de permiso de las personas representadas, lo que genera serias preocupaciones éticas sobre privacidad y consentimiento en aplicaciones de IA. Usuarios en plataformas como Reddit intercambian guías detalladas sobre cómo crear tales prompts para obtener resultados convincentes con los chatbots, como ChatGPT de OpenAI.
Este mal uso demuestra cómo los generadores de imágenes de IA accesibles pueden explotarse para alteraciones no consentidas, potencialmente llevando a acoso o desinformación. La práctica subraya la necesidad de salvaguardas en el software de IA para prevenir la generación de deepfakes dañinos. Aunque los chatbots están diseñados para interacciones útiles, sus funciones de edición de imágenes han permitido esta aplicación no intencionada.
Las revelaciones llegan en medio de un creciente escrutinio de las tecnologías deepfake, que combinan inteligencia artificial con medios existentes para crear contenido engañoso.