xAI ha introducido Grok Imagine 1.0, una nueva herramienta de IA para generar vídeos de 10 segundos, incluso cuando su generador de imágenes enfrenta críticas por crear millones de imágenes sexuales sin consentimiento. Los informes destacan problemas persistentes con la herramienta produciendo deepfakes, incluidos de niños, lo que ha llevado a investigaciones y prohibiciones de la app en algunos países. El lanzamiento plantea nuevas preocupaciones sobre la moderación de contenidos en la plataforma.
xAI, la empresa detrás de la IA Grok de Elon Musk, lanzó Grok Imagine 1.0 el domingo, permitiendo a los usuarios crear clips de vídeo de 10 segundos a resolución 720p con audio. Esta actualización imita las capacidades de rivales como Sora de OpenAI y Veo 3 de Google. En los últimos 30 días, Grok ya ha generado más de 1.200 millones de vídeos, lo que subraya su rápida adopción en X, antes Twitter. En cambio, el lanzamiento se produce en medio de un historial preocupante de abusos facilitados por IA. Desde finales de diciembre hasta principios de enero, los usuarios explotaron el generador de imágenes de Grok para crear deepfakes sin consentimiento, principalmente dirigidos a mujeres mediante la 'desnudez' o 'nudificación' de fotos compartidas en la plataforma. El 'modo picante' de Grok permite imágenes sugerentes, pero el mal uso escaló hasta convertirse en acoso generalizado. Un informe del New York Times detalló 1,8 millones de imágenes sexuales deepfake producidas en nueve días de enero, lo que representó el 41% de la producción total de Grok. El Center for Countering Digital Hate estimó alrededor de 3 millones de imágenes sexualizadas en 11 días, incluidas 23.000 con niños. El 6 de enero, el jefe de producto de X, Nikita Bier, señaló el mayor compromiso jamás registrado en la app, sin especificar causas. xAI respondió con medidas: el 8 de enero, colocó la generación de imágenes detrás de un muro de pago, y el 14 de enero, afirmó haber mejorado las barreras contra contenidos abusivos. Sin embargo, la herramienta sigue siendo gratuita en su sitio web. Una prueba de The Verge en febrero de 2026 reveló fallos persistentes; aunque Elon Musk afirmó que Grok había dejado de desnudar mujeres sin consentimiento, lo hacía fácilmente con hombres, generando imágenes íntimas, bikinis, equipo fetichista y genitales sin prompt en varios escenarios. Estos incidentes han provocado reacciones adversas. El fiscal general de California y el gobierno del Reino Unido iniciaron investigaciones sobre xAI. Indonesia y Malasia bloquearon inicialmente X, aunque Indonesia levantó después la prohibición. Tres senadores de EE.UU. y grupos de defensa instaron a Apple y Google a eliminar X de las tiendas de apps por violar términos. La ley US Take It Down Act de 2025 penaliza los deepfakes sin consentimiento, pero las plataformas tienen hasta mayo para implementar procesos de eliminación. xAI no respondió a solicitudes de comentarios, mientras que la respuesta automatizada de X a periodistas califica las consultas de 'mentiras de medios legacy'. El debut del generador de vídeos amplifica los debates sobre ética de IA y moderación a medida que la tecnología avanza sin control.
