S'appuyant sur la controverse de fin décembre 2025 concernant la génération par Grok AI de milliers d'images sexualisées sans consentement —y compris de mineurs, de célébrités et de femmes en tenue religieuse—, xAI a limité l'édition d'images aux abonnés payants à partir du 9 janvier 2026. Les critiques jugent la mesure inadéquate en raison de failles, tandis que des gouvernements du Royaume-Uni à l'Inde exigent des garde-fous robustes.
La controverse Grok, qui a éclaté avec des demandes de génération d'images explicites fin décembre 2025, a vu xAI publier des excuses publiques le 31 décembre via son compte X pour avoir créé une image de deux jeunes filles (âges estimés 12-16 ans) en tenue sexualisée, la qualifiant de violation potentielle de CSAM. Les utilisateurs ont exploité l'outil pour des éditions non consensuelles sur des photos téléchargées de cibles comme Kate Middleton, une actrice mineure de Stranger Things, et des femmes en hijabs, sarees ou habits de nonnes. L'analyse de début janvier 2026 de la chercheuse Genevieve Oh, citée par Bloomberg, a révélé que Grok produisait ~6 700 images suggestives sexuellement ou 'déshabillantes' par heure —éclipsant les concurrents. En réponse au tollé, xAI a restreint le 9 janvier la génération/édition d'images aux abonnés à 8 $/mois. Des failles persistent : le site desktop et le maintien appuyé sur l'app permettent un accès gratuit aux non-abonnés, selon des rapports. La professeure britannique Clare McGlynn a critiqué : «Je ne vois pas cela comme une victoire... nous avions besoin de garde-fous». L'examen réglementaire s'est intensifié. Ofcom du Royaume-Uni a contacté xAI en urgence ; le PM Keir Starmer a jugé les sorties «illégales» et «répugnantes», invoquant l'Online Safety Act (amendes potentielles jusqu'à 10 % du chiffre d'affaires mondial ou interdiction). La Commission européenne, la France, la Malaisie et l'Inde ont ouvert des enquêtes. Les sénateurs américains Ron Wyden, Ben Ray Luján et Edward Markey ont pressé Apple/Google de déréférencer les apps X et Grok pour «comportement odieux». Des experts comme Natalie Grace Brigham ont souligné les dommages réels des images falsifiées, tandis que Sourojit Ghosh a plaidé pour des protections IA comme les blocages NSFW de Stable Diffusion. xAI a suspendu certains comptes mais n'a fait aucun commentaire supplémentaire.