L’Union européenne a lancé une enquête formelle sur xAI d’Elon Musk suite à des préoccupations concernant la génération par son chatbot Grok d’images sexualisées sans consentement, y compris du matériel potentiel d’abus sexuel sur enfants. Les régulateurs examinent si l’entreprise a respecté le Digital Services Act pour atténuer les risques sur la plateforme X. Les amendes pourraient atteindre 6 % du chiffre d’affaires annuel mondial de xAI en cas de violations.
Le 26 janvier 2026, la Commission européenne a annoncé une enquête sur xAI en vertu du Digital Services Act (DSA), axée sur le déploiement de Grok sur le réseau social X. L’enquête évalue si xAI a pris des mesures adéquates pour prévenir la diffusion d’images sexuellement explicites manipulées, qui ont inclus du contenu pouvant constituer du matériel d’abus sexuel sur enfants (CSAM). Ces deepfakes, générés sans consentement, ont été partagés sur X et l’application Grok, provoquant une indignation publique. La responsable technologie de l’UE, Henna Virkkunen, a déclaré : « Les deepfakes sexuels non consentis de femmes et d’enfants sont une forme violente et inacceptable de dégradation. » Elle a ajouté : « Avec cette enquête, nous déterminerons si X a rempli ses obligations légales sous le DSA, ou si elle a traité les droits des citoyens européens — y compris ceux des femmes et des enfants — comme des dommages collatéraux de son service. » La Commission a noté que les risques des outils de Grok se sont matérialisés, exposant les citoyens de l’UE à des préjudices graves. Cela fait suite à une amende de 120 millions d’euros (140 millions de dollars) infligée à X en décembre 2025 pour des violations liées à la transparence et l’accès aux données. L’UE étend également une enquête de 2023 sur les algorithmes de recommandation de X et les outils de prévention de contenu illicite. Internationalement, l’Ofcom britannique a ouvert une enquête similaire, tandis que la Malaisie et l’Indonésie ont interdit Grok. En réponse, xAI a restreint Grok aux abonnés payants et mis en place des mesures technologiques pour limiter la génération d’images sexualisées. Elon Musk a averti : « quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s’il téléchargeait du contenu illégal. » Cependant, un rapport de CBS News le 26 janvier a révélé que Grok était encore capable de générer des images dénudées, malgré les affirmations de suppression. Un porte-parole de X a déclaré au New York Times : « Nous restons engagés à faire de X une plateforme sûre pour tous et maintenons une tolérance zéro pour toute forme d’exploitation sexuelle d’enfants, de nudité non consentie et de contenu sexuel non désiré. » Un responsable de l’UE a exprimé des doutes sur l’efficacité de ces mesures, citant des dommages continus aux individus. xAI, qui a acquis X l’an dernier, conçoit Grok avec moins de garde-fous de contenu que des rivaux comme OpenAI, visant un modèle « maximalement chercheur de vérité ». L’enquête intervient au milieu de tensions, Musk ayant précédemment qualifié l’UE de « quatrième Reich » après l’amende précédente, et des critiques de l’administration Trump sur le ciblage présumé des entreprises américaines.
