Apple a averti xAI, la société d'Elon Musk, que son application d'IA Grok risquait d'être retirée de l'App Store si elle ne réglait pas les problèmes liés aux deepfakes à caractère sexuel. La firme a détaillé ses démarches dans une lettre adressée à des sénateurs américains, dans un contexte d'inquiétudes croissantes concernant la génération d'images abusives. L'application Grok a été rejetée, retravaillée, puis approuvée suite à des améliorations.
Plus tôt cette année, Apple a informé xAI que l'application Grok risquait d'être retirée de l'App Store en raison d'un scandale impliquant des deepfakes à caractère sexuel générés par l'outil et partagés sur X, le réseau social anciennement connu sous le nom de Twitter. Timothy Powderly, directeur principal des affaires gouvernementales chez Apple, a écrit aux sénateurs que l'entreprise « déteste ce genre d'images et les préjudices qu'elles infligent », notant que de telles applications violent ses politiques et ne sont pas autorisées sur la plateforme. Selon la lettre, rendue publique par le bureau du sénateur Ron Wyden, Apple a rejeté une première mise à jour de l'application Grok mais a approuvé une version révisée après des améliorations substantielles, tout en avertissant d'un retrait potentiel en cas de non-conformité future. xAI a déclaré interdire les deepfakes explicites non consentis et employer des mesures de protection telles que la surveillance, des filtres de requêtes et des mises à jour de modèles. Une enquête récente de NBC News a révélé que des images à caractère sexuel générées par l'IA de Grok continuent de se propager en ligne. Le sénateur Wyden a salué la réponse d'Apple mais a critiqué Google pour son absence de réponse face aux préoccupations des législateurs, exprimant également son choc face à l'inaction du ministère de la Justice concernant X.