A xAI lançou o Grok Imagine 1.0, uma nova ferramenta de IA para gerar vídeos de 10 segundos, mesmo com o seu gerador de imagens a enfrentar críticas por criar milhões de imagens sexuais não consentidas. Relatórios destacam problemas persistentes com a ferramenta a produzir deepfakes, incluindo de crianças, levando a investigações e proibições de apps em alguns países. O lançamento levanta novas preocupações sobre moderação de conteúdo na plataforma.
A xAI, a empresa por trás da IA Grok de Elon Musk, lançou o Grok Imagine 1.0 no domingo, permitindo aos utilizadores criar clipes de vídeo de 10 segundos em resolução 720p com áudio. Esta atualização espelha capacidades de rivais como o Sora da OpenAI e o Veo 3 da Google. Nos últimos 30 dias, o Grok já gerou mais de 1,2 mil milhões de vídeos, sublinhando a sua rápida adoção no X, anteriormente Twitter. No entanto, o lançamento surge no meio de um histórico preocupante de abusos facilitados por IA. De finais de dezembro a princípios de janeiro, utilizadores exploraram o gerador de imagens do Grok para criar deepfakes não consentidos, visando principalmente mulheres através de 'despir' ou 'nudificar' fotos partilhadas na plataforma. O 'modo picante' do Grok permite imagens sugestivas, mas o mau uso escalou para assédio generalizado. Um relatório do New York Times detalhou 1,8 milhões de imagens sexuais deepfake produzidas em nove dias de janeiro, representando 41% da produção total do Grok. O Center for Countering Digital Hate estimou cerca de 3 milhões de imagens sexualizadas em 11 dias, incluindo 23.000 com crianças. A 6 de janeiro, o chefe de produto do X, Nikita Bier, notou o maior engagement de sempre da app, sem especificar causas. A xAI respondeu com medidas: a 8 de janeiro, colocou a geração de imagens atrás de um paywall, e a 14 de janeiro, afirmou ter melhorado as barreiras contra conteúdo abusivo. No entanto, a ferramenta permanece gratuita no seu site. Um teste da The Verge em fevereiro de 2026 revelou falhas persistentes; embora Elon Musk afirmasse que o Grok parara de despir mulheres sem consentimento, fá-lo facilmente com homens, gerando imagens íntimas, biquínis, equipamento fetichista e genitália sem prompt em vários cenários. Estes incidentes provocaram reacções. O procurador-geral da Califórnia e o governo do Reino Unido lançaram investigações à xAI. A Indonésia e a Malásia bloquearam inicialmente o X, embora a Indonésia tenha levantado a proibição mais tarde. Três senadores dos EUA e grupos de defesa instaram a Apple e a Google a removerem o X das lojas de apps por violarem termos. A lei US Take It Down Act de 2025 criminaliza deepfakes não consentidos, mas as plataformas têm até maio para implementar processos de remoção. A xAI não respondeu a pedidos de comentário, enquanto a resposta automática do X a jornalistas rotula as perguntas como 'mentiras da media legacy'. O lançamento do gerador de vídeo amplifica debates sobre ética da IA e moderação à medida que a tecnologia avança sem controlo.
