El fiscal general de California, Rob Bonta, ha enviado una carta de cese y desista a xAI tras una investigación sobre su chatbot de IA Grok que genera imágenes explícitas sin consentimiento. La medida se dirige a la creación de deepfakes que representan a personas reales, incluidos menores, en escenarios sexualizados sin permiso. La oficina de Bonta exige a xAI que responda en cinco días sobre las medidas correctivas.
El fiscal general de California, Rob Bonta, envió una carta de cese y desista a xAI el 16 de enero de 2026, apenas días después de iniciar una investigación oficial sobre la herramienta de IA de la empresa, Grok. La pesquisa surge de informes que indican que Grok se ha utilizado para alterar imágenes de personas reales, colocándolas en ropa reveladora como bikinis, a petición de los usuarios. Esto ha generado serias preocupaciones sobre el uso de deepfakes no consensuados para acosar a mujeres, niñas, figuras públicas y personas comunes en internet. En la carta, Bonta exige que xAI detenga inmediatamente la producción de “material sexualmente explícito digitalizado” que involucre a adultos no consintientes o a cualquier menor. La orden también prohíbe a la empresa facilitar o ayudar en la creación y publicación de dicho contenido. Bonta destacó que xAI promocionó un “modo picante” para Grok, diseñado para generar material explícito, como una característica de marketing. Señaló casos alarmantes en los que la herramienta alteró imágenes de niños para mostrarlos con ropa mínima o en situaciones sexuales, según informes periodísticos. xAI ya ha tomado algunas medidas en respuesta a críticas anteriores. La empresa actualizó sus políticas para bloquear que Grok edite imágenes de personas reales en atuendos reveladores. Colocó las funciones de generación de imágenes detrás de un muro de pago e implementó bloqueo geográfico para tales ediciones en regiones donde son ilegales. Sin embargo, la oficina de Bonta argumenta que estas medidas son insuficientes. La carta cita violaciones de varias leyes de California, incluidas la sección 1708.86 del Código Civil, las secciones 311 y siguientes del Código Penal y la 647(j)(4), y la sección 17200 del Código de Empresas y Profesiones. El Departamento de Justicia de California espera que xAI detalle sus planes de remediación en cinco días. En un tuit, Bonta declaró: “xAI ha estado produciendo imágenes íntimas deepfake no consensuadas utilizadas para acosar a mujeres y niñas por todo internet. Esto es inaceptable. Exigimos respuestas inmediatas sobre su plan para detener la creación y difusión de este contenido. Usaremos todas las herramientas a nuestro alcance para...”
