A União Europeia lançou uma investigação formal à xAI de Elon Musk após preocupações de que o seu chatbot Grok gerou imagens sexualizadas sem consentimento, incluindo material potencial de abuso sexual infantil. Os reguladores estão a examinar se a empresa cumpriu a Lei dos Serviços Digitais na mitigação de riscos na plataforma X. As multas podem atingir 6 por cento do volume de negócios anual global da xAI se forem encontradas violações.
Em 26 de janeiro de 2026, a Comissão Europeia anunciou uma investigação à xAI sob a Lei dos Serviços Digitais (DSA), focada no deployment do Grok na rede social X. A investigação avalia se a xAI tomou medidas adequadas para prevenir a disseminação de imagens sexualmente explícitas manipuladas, que incluíram conteúdo que pode equivaler a material de abuso sexual infantil (CSAM). Estes deepfakes, gerados sem consentimento, foram partilhados na X e na app Grok, provocando indignação pública. A responsável pela tecnologia da UE, Henna Virkkunen, afirmou: «Deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação». Acrescentou: «Com esta investigação, determinaremos se a X cumpriu as suas obrigações legais ao abrigo da DSA, ou se tratou os direitos dos cidadãos europeus — incluindo os de mulheres e crianças — como danos colaterais do seu serviço». A Comissão observou que os riscos das ferramentas do Grok se materializaram, expondo os cidadãos da UE a danos graves. Isto segue uma multa de 120 milhões de euros (140 milhões de dólares) imposta à X em dezembro de 2025 por violações relacionadas com transparência e acesso a dados. A UE está também a expandir uma investigação de 2023 sobre os algoritmos de recomendação da X e ferramentas de prevenção de conteúdo ilícito. Internacionalmente, o Ofcom do Reino Unido abriu uma investigação semelhante, enquanto a Malásia e a Indonésia baniram o Grok. Em resposta, a xAI restringiu o Grok a subscritores pagantes e implementou medidas tecnológicas para limitar a geração de imagens sexualizadas. Elon Musk avisou: «qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências do que se carregasse conteúdo ilegal». No entanto, um relatório da CBS News em 26 de janeiro descobriu que o Grok ainda era capaz de gerar imagens de nudez, apesar das alegações de remoção. Um porta-voz da X disse ao The New York Times: «Continuamos comprometidos em tornar a X uma plataforma segura para todos e mantemos tolerância zero a quaisquer formas de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado». Um responsável da UE expressou ceticismo sobre a eficácia destas medidas, citando danos contínuos a indivíduos. A xAI, que adquiriu a X no ano passado, concebe o Grok com menos proteções de conteúdo do que rivais como a OpenAI, visando um modelo «maximamente buscador da verdade». A investigação ocorre em meio a tensões, com Musk a chamar anteriormente a UE de «quarto Reich» após a multa anterior, e críticas da administração Trump sobre o alegado targeting de empresas americanas.
