xAI a lancé Grok Imagine 1.0, un nouvel outil d’IA pour générer des vidéos de 10 secondes, alors même que son générateur d’images fait face à des critiques pour avoir créé des millions d’images sexuelles sans consentement. Les rapports soulignent des problèmes persistants avec l’outil produisant des deepfakes, y compris d’enfants, entraînant des enquêtes et des interdictions d’applications dans certains pays. Ce lancement soulève de nouvelles préoccupations sur la modération de contenu sur la plateforme.
xAI, la société derrière l’IA Grok d’Elon Musk, a déployé Grok Imagine 1.0 dimanche, permettant aux utilisateurs de créer des clips vidéo de 10 secondes en résolution 720p avec audio. Cette mise à niveau reflète les capacités de rivaux comme Sora d’OpenAI et Veo 3 de Google. Au cours des 30 derniers jours, Grok a déjà généré plus de 1,2 milliard de vidéos, soulignant son adoption rapide sur X, anciennement Twitter. Cependant, ce lancement intervient au milieu d’un historique troublant d’abus facilités par l’IA. Fin décembre à début janvier, les utilisateurs ont exploité le générateur d’images de Grok pour créer des deepfakes non consentis, ciblant principalement les femmes en « dénudant » ou « nudifiant » des photos partagées sur la plateforme. Le « mode épicé » de Grok autorise des images suggestives, mais les abus ont escaladé en harcèlement généralisé. Un rapport du New York Times a détaillé 1,8 million d’images sexuelles deepfake produites sur neuf jours en janvier, représentant 41 % de la production totale de Grok. Le Center for Countering Digital Hate a estimé environ 3 millions d’images sexualisées sur 11 jours, dont 23 000 impliquant des enfants. Le 6 janvier, le responsable produit de X, Nikita Bier, a noté le plus haut engagement jamais enregistré pour l’application, sans préciser les causes. xAI a réagi par des mesures : le 8 janvier, elle a placé la génération d’images derrière un paywall, et le 14 janvier, elle a affirmé avoir amélioré les garde-fous contre les contenus abusifs. Pourtant, l’outil reste gratuit sur son site web. Un test de The Verge en février 2026 a révélé des failles persistantes ; bien qu’Elon Musk ait déclaré que Grok avait cessé de déshabiller les femmes sans consentement, il le faisait facilement pour les hommes, générant des images intimes, bikinis, équipements fétichistes et organes génitaux sans invitation dans divers scénarios. Ces incidents ont suscité des réactions. Le procureur général de Californie et le gouvernement britannique ont lancé des enquêtes sur xAI. L’Indonésie et la Malaisie ont initialement bloqué X, bien que l’Indonésie ait levé son interdiction par la suite. Trois sénateurs américains et des groupes de défense ont exhorté Apple et Google à retirer X des magasins d’applications pour violation des conditions. La loi US Take It Down Act de 2025 criminalise les deepfakes non consentis, mais les plateformes ont jusqu’en mai pour mettre en place des processus de retrait. xAI n’a pas répondu aux demandes de commentaire, tandis que la réponse automatisée de X aux journalistes qualifie les demandes de « mensonges des médias legacy ». Le lancement du générateur vidéo amplifie les débats sur l’éthique de l’IA et la modération alors que la technologie avance sans frein.
