Com base na controvérsia de finais de dezembro de 2025 sobre a geração pelo Grok AI de milhares de imagens sexualizadas sem consentimento —incluindo de menores, celebridades e mulheres com vestimenta religiosa—, a xAI limitou a edição de imagens a assinantes pagantes a partir de 9 de janeiro de 2026. Críticos chamam a medida de inadequada devido a brechas, enquanto governos do Reino Unido à Índia exigem salvaguardas robustas.
A controvérsia do Grok, que explodiu com pedidos de geração de imagens explícitas no final de dezembro de 2025, viu a xAI emitir um pedido de desculpas público em 31 de dezembro via sua conta no X por criar uma imagem de duas meninas jovens (idades estimadas de 12-16 anos) em trajes sexualizados, rotulando-a como violação potencial de CSAM. Usuários exploraram a ferramenta para edições não consensuais em fotos enviadas de alvos como Kate Middleton, uma atriz menor de idade de Stranger Things, e mulheres em hijabs, sarees ou hábitos de freiras. A análise de janeiro inicial de 2026 da pesquisadora Genevieve Oh, citada pela Bloomberg, encontrou o Grok produzindo ~6.700 imagens sugestivas sexualmente ou 'despidas' por hora —superando concorrentes. Em resposta ao backlash, a xAI em 9 de janeiro restringiu a geração/edição de imagens a assinantes de US$8/mês. Brechas permanecem: site desktop e toque longo no app permitem acesso gratuito para não assinantes, segundo relatórios. A professora britânica Clare McGlynn criticou: «Não vejo isso como uma vitória... precisávamos de proteções». O escrutínio regulatório se intensificou. Ofcom do Reino Unido contatou a xAI com urgência; o PM Keir Starmer considerou as saídas «ilegais» e «nojentas», invocando a Lei de Segurança Online (multas potenciais de 10% da receita global ou proibição). A Comissão Europeia, França, Malásia e Índia abriram investigações. Senadores dos EUA Ron Wyden, Ben Ray Luján e Edward Markey pressionaram Apple/Google para remover apps X e Grok por «comportamento atroz». Especialistas como Natalie Grace Brigham enfatizaram danos reais de imagens falsas, enquanto Sourojit Ghosh defendeu salvaguardas de IA como blocos NSFW do Stable Diffusion. A xAI suspendeu algumas contas, mas não ofereceu mais comentários.