A Apple alertou a xAI, de Elon Musk, que seu aplicativo de IA Grok corria o risco de ser removido da App Store a menos que resolvesse problemas com deepfakes sexualizados. A empresa detalhou suas ações em uma carta enviada a senadores americanos em meio a preocupações sobre a geração de imagens abusivas. O Grok foi rejeitado, reformulado e posteriormente aprovado após melhorias.
No início deste ano, a Apple informou à xAI que o aplicativo Grok corria o risco de ser retirado da App Store devido a um escândalo envolvendo deepfakes sexualizados gerados pela ferramenta e compartilhados no X, a rede social anteriormente conhecida como Twitter. O diretor sênior de assuntos governamentais da Apple, Timothy Powderly, escreveu aos senadores que a empresa 'abomina esses tipos de imagens e os danos que elas causam', observando que tais aplicativos violam suas políticas e não são permitidos na plataforma. De acordo com a carta, compartilhada pelo gabinete do senador Ron Wyden, a Apple rejeitou uma atualização inicial do aplicativo Grok, mas aprovou uma versão revisada após melhorias substanciais, ao mesmo tempo que alertou sobre uma possível remoção futura em caso de não conformidade. A xAI afirmou que proíbe deepfakes explícitos não consensuais e utiliza salvaguardas como monitoramento, filtros de prompts e atualizações de modelos. Uma investigação recente da NBC News descobriu que imagens sexualizadas geradas por IA a partir do Grok continuam a se espalhar online. O senador Wyden elogiou a resposta da Apple, mas criticou o Google por não abordar as preocupações dos legisladores e expressou choque com a inação do Departamento de Justiça em relação ao X.