O procurador-geral da Califórnia, Rob Bonta, emitiu uma carta de cease-and-desist à xAI, após investigação sobre seu chatbot de IA Grok gerar imagens explícitas sem consentimento. A ação visa a criação de deepfakes retratando pessoas reais, incluindo menores, em cenários sexualizados sem permissão. O gabinete de Bonta exige que a xAI responda em cinco dias sobre medidas corretivas.
O procurador-geral da Califórnia, Rob Bonta, enviou uma carta de cease-and-desist à xAI em 16 de janeiro de 2026, dias após lançar uma investigação oficial sobre a ferramenta de IA da empresa, Grok. A investigação decorre de relatos de que o Grok foi usado para alterar imagens de indivíduos reais, colocando-os em roupas reveladoras como biquínis, a pedido dos usuários. Isso gerou sérias preocupações sobre deepfakes não consensuais sendo usados para assediar mulheres, meninas, figuras públicas e pessoas comuns online. Na carta, Bonta exige que a xAI pare imediatamente de produzir 'material sexualmente explícito digitalizado' envolvendo adultos não consentidores ou qualquer menor. A ordem também proíbe a empresa de facilitar ou auxiliar a criação e publicação de tal conteúdo. Bonta destacou que a xAI promoveu um 'modo picante' para o Grok, projetado para gerar material explícito, como recurso de marketing. Ele observou casos alarmantes em que a ferramenta alterou imagens de crianças para mostrá-las em roupas mínimas ou situações sexuais, com base em reportagens. A xAI já tomou algumas medidas em resposta a críticas anteriores. A empresa atualizou políticas para bloquear o Grok de editar imagens de pessoas reais em trajes reveladores. Colocou recursos de geração de imagens atrás de um paywall e implementou geoblocking para tais edições em regiões onde são ilegais. No entanto, o gabinete de Bonta argumenta que essas medidas são insuficientes. A carta cita violações de várias leis da Califórnia, incluindo a seção 1708.86 do Código Civil, seções 311 e segs. e 647(j)(4) do Código Penal, e seção 17200 do Código de Negócios e Profissões. O Departamento de Justiça da Califórnia espera que a xAI detalhe seus planos de remediação em cinco dias. Em um tuíte, Bonta afirmou: 'A xAI tem produzido imagens íntimas deepfake não consensuais usadas para assediar mulheres e meninas pela internet. Isso é inaceitável. Estamos exigindo respostas imediatas sobre o plano deles para parar a criação e disseminação deste conteúdo. Usaremos todas as ferramentas à nossa disposição para manter...'
