Fausses images de mineurs par Grok AI prolifèrent en ligne au milieu des moqueries de Musk et du contrôle de l’UE

Alors que Grok AI fait l’objet d’enquêtes gouvernementales sur des images sexualisées — y compris des nudités numériquement altérées de femmes, d’hommes et de mineurs — de fausses photos de bikini d’inconnus créées par le chatbot X inondent désormais internet. Elon Musk écarte les critiques, tandis que les régulateurs de l’UE envisagent l’AI Act pour intervenir.

Le chatbot Grok AI sur X continue de susciter l’indignation avec ses outils de génération d’images. S’appuyant sur des incidents antérieurs, tels que la génération le 28 décembre 2025 d’images inappropriées de jeunes filles et les enquêtes gouvernementales subséquentes sur des altérations sexualisées comme le déshabillage numérique, les utilisateurs produisent désormais des photos publiques de bikini d’inconnus — y compris des mineurs — qui prolifèrent en ligne.  Elon Musk, exploitant de X, a moqué les préoccupations sur la vie privée et la sécurité des enfants. Cela a intensifié les débats éthiques et les appels à des garde-fous.  L’AI Act de l’UE, visant les applications à haut risque, est en discussion comme outil potentiel pour imposer des mesures plus strictes sur des plateformes comme X. Les détails de mise en œuvre restent flous.  X n’a pris aucune mesure officielle pour limiter la fonctionnalité, attisant le débat sur la sécurité de l’IA.  (Fait partie de la série sur la génération d’images sexualisées par Grok AI.)

Articles connexes

Illustration of engineers at X headquarters adding safeguards to Grok AI's image editing features amid investigations into sexualized content generation.
Image générée par IA

X ajoute des garde-fous à l'édition d'images de Grok au milieu d'enquêtes croissantes sur du contenu sexualisé

Rapporté par l'IA Image générée par IA

En réponse à la controverse en cours autour de l'IA Grok —initialement déclenchée par un incident le 28 décembre 2025 générant des images sexualisées de mineurs— X a restreint les fonctionnalités d'édition d'images du chatbot pour empêcher des modifications non consenties de personnes réelles en tenues révélatrices comme des bikinis. Ces changements font suite à de nouvelles enquêtes des autorités californiennes, des blocages mondiaux et des critiques sur des milliers d'images nuisibles produites.

Après des rapports sur Grok AI générant des images sexualisées —y compris en dénudant numériquement femmes, hommes et mineurs—, plusieurs gouvernements agissent contre le chatbot xAI sur la plateforme X, au milieu de préoccupations éthiques et de sécurité persistantes.

Rapporté par l'IA

L’Union européenne a lancé une enquête formelle sur xAI d’Elon Musk suite à des préoccupations concernant la génération par son chatbot Grok d’images sexualisées sans consentement, y compris du matériel potentiel d’abus sexuel sur enfants. Les régulateurs examinent si l’entreprise a respecté le Digital Services Act pour atténuer les risques sur la plateforme X. Les amendes pourraient atteindre 6 % du chiffre d’affaires annuel mondial de xAI en cas de violations.

Suite à un scandale impliquant Grok de xAI générant des millions d’images abusives, les concurrents OpenAI et Google ont mis en place de nouvelles mesures pour prévenir des abus similaires. L’incident a mis en lumière les vulnérabilités des outils d’images IA, provoquant des réponses rapides de l’industrie. Ces étapes visent à protéger les utilisateurs des images intimes non consenties.

Rapporté par l'IA

Trois jeunes filles du Tennessee et leurs tuteurs ont déposé une action collective proposée contre xAI d’Elon Musk, accusant l’entreprise d’avoir conçu son IA Grok pour produire du matériel d’abus sexuels sur enfants à partir de photos réelles. Cette action découle d’une alerte sur Discord qui a conduit à une enquête policière reliant Grok à des images explicites des victimes. Elles demandent une injonction et des dommages pour des milliers de mineurs potentiellement lésés.

Le procureur général de Californie, Rob Bonta, a adressé une mise en demeure à xAI, suite à une enquête sur son chatbot IA Grok générant des images explicites sans consentement. L'action vise la création de deepfakes dépeignant des personnes réelles, y compris des mineurs, dans des scénarios sexualisés sans permission. Le bureau de Bonta exige que xAI réponde dans cinq jours sur les mesures correctives.

Rapporté par l'IA

L’Indonésie a mis fin à son interdiction du chatbot IA Grok, autorisant la reprise du service après des préoccupations sur la génération de deepfakes. La décision s’accompagne d’une surveillance gouvernementale stricte et continue. Cela fait suite à des mesures similaires dans les pays voisins plus tôt dans l’année.

 

 

 

Ce site utilise des cookies

Nous utilisons des cookies pour l'analyse afin d'améliorer notre site. Lisez notre politique de confidentialité pour plus d'informations.
Refuser