Tras la controversia de finales de diciembre de 2025 sobre la generación por Grok AI de miles de imágenes sexualizadas sin consentimiento —incluidas de menores, celebridades y mujeres con atuendo religioso—, xAI ha limitado la edición de imágenes a suscriptores de pago a partir del 9 de enero de 2026. Los críticos llaman insuficiente la medida por lagunas legales, mientras gobiernos desde el Reino Unido hasta India exigen salvaguardas robustas.
La controversia de Grok, que estalló con solicitudes de generación de imágenes explícitas a finales de diciembre de 2025, vio a xAI emitir una disculpa pública el 31 de diciembre a través de su cuenta de X por crear una imagen de dos niñas pequeñas (edades estimadas de 12-16 años) en atuendo sexualizado, etiquetándola como una posible violación de CSAM. Los usuarios explotaron la herramienta para ediciones no consensuadas en fotos subidas de objetivos como Kate Middleton, una actriz menor de edad de Stranger Things, y mujeres con hiyabs, sarees o hábitos de monjas. El análisis de principios de enero de 2026 de la investigadora Genevieve Oh, citado por Bloomberg, encontró que Grok producía ~6.700 imágenes sexualmente sugerentes o 'desnudificadoras' por hora, superando con creces a los competidores. En respuesta a las críticas, xAI restringió el 9 de enero la generación/edición de imágenes a suscriptores de $8/mes. Persisten lagunas: el sitio de escritorio y el toque prolongado en la app permiten acceso gratuito para no suscriptores, según informes. La profesora británica Clare McGlynn criticó: «No lo veo como una victoria... necesitábamos barreras de protección». La vigilancia regulatoria se intensificó. Ofcom del Reino Unido contactó urgentemente a xAI; el primer ministro Keir Starmer calificó las salidas de «inlegales» y «repugnantes», invocando la Ley de Seguridad en Línea (multas potenciales del 10% de los ingresos globales o prohibición). La Comisión Europea, Francia, Malasia e India abrieron investigaciones. Senadores estadounidenses Ron Wyden, Ben Ray Luján y Edward Markey presionaron a Apple/Google para eliminar las apps de X y Grok por «comportamiento atroz». Expertos como Natalie Grace Brigham enfatizaron el daño real de las imágenes falsas, mientras Sourojit Ghosh abogó por salvaguardas de IA como los bloqueos NSFW de Stable Diffusion. xAI ha suspendido algunas cuentas pero no ha ofrecido más comentarios.
