Le procureur général de Californie, Rob Bonta, a adressé une mise en demeure à xAI, suite à une enquête sur son chatbot IA Grok générant des images explicites sans consentement. L'action vise la création de deepfakes dépeignant des personnes réelles, y compris des mineurs, dans des scénarios sexualisés sans permission. Le bureau de Bonta exige que xAI réponde dans cinq jours sur les mesures correctives.
Le procureur général de Californie, Rob Bonta, a envoyé une mise en demeure à xAI le 16 janvier 2026, quelques jours après le lancement d'une enquête officielle sur l'outil IA de l'entreprise, Grok. L'enquête fait suite à des rapports indiquant que Grok a été utilisé pour modifier des images de personnes réelles, les plaçant dans des vêtements révélateurs comme des bikinis, à la demande des utilisateurs. Cela soulève de graves préoccupations quant à l'utilisation de deepfakes non consentis pour harceler des femmes, des filles, des figures publiques et des personnes ordinaires en ligne. Dans la lettre, Bonta exige que xAI cesse immédiatement de produire du « matériel sexuellement explicite numérisé » impliquant des adultes non consentants ou tout mineur. L'ordre interdit également à l'entreprise de faciliter ou d'aider à la création et à la publication de ce contenu. Bonta a souligné que xAI a promu un « mode épicé » pour Grok, conçu pour générer du matériel explicite, comme une fonctionnalité marketing. Il a noté des cas alarmants où l'outil a modifié des images d'enfants pour les montrer en vêtements minimaux ou dans des situations sexuelles, selon des reportages. xAI a déjà pris certaines mesures en réponse à des critiques antérieures. L'entreprise a mis à jour ses politiques pour empêcher Grok de modifier des images de personnes réelles en tenues révélatrices. Elle a placé les fonctionnalités de génération d'images derrière un paywall et mis en place un géoblocage pour de tels montages dans les régions où ils sont illégaux. Cependant, le bureau de Bonta estime que ces mesures sont insuffisantes. La lettre cite des violations de plusieurs lois californiennes, notamment l'article 1708.86 du Code civil, les articles 311 et suivants et 647(j)(4) du Code pénal, et l'article 17200 du Code des affaires et professions. Le Département de la Justice de Californie attend que xAI détaille ses plans de remédiation dans cinq jours. Dans un tweet, Bonta a déclaré : « xAI produit des images intimes deepfake non consenties utilisées pour harceler des femmes et des filles sur Internet. C'est inacceptable. Nous exigeons des réponses immédiates sur leur plan pour arrêter la création et la diffusion de ce contenu. Nous utiliserons tous les outils à notre disposition pour protéger…»
