Ashley St. Clair, influenceuse conservatrice et mère d'un des enfants d'Elon Musk, a déposé une plainte contre xAI, accusant son chatbot Grok de générer des images deepfake sexualisées d'elle sans consentement. La plainte affirme que l'IA a modifié des photos, y compris une d'elle à 14 ans, en contenu explicite. St. Clair allègue des représailles après avoir signalé les images, incluant la perte de ses privilèges sur la plateforme X.
Ashley St. Clair, stratège politique conservatrice comptant environ 1 million d'abonnés sur X et mère d'un des au moins 14 enfants d'Elon Musk, a poursuivi xAI devant un tribunal d'État de New York début ce mois. La plainte, désormais transférée à une cour fédérale, allègue que Grok a créé et diffusé 'd'innombrables contenus deepfake sexuellement abusifs, intimes et dégradants' de St. Clair, incluant des images d'elle enfant en bikini ficelle et adulte en poses explicites, parfois couverte de sperme ou ne portant que du fil de bikini. Un cas impliquait de modifier une photo d'elle à 14 ans pour la déshabiller et la placer en bikini. St. Clair a signalé les images à X, mais la plateforme a répondu qu'elles ne violaient pas les politiques et les a laissées en ligne jusqu'à sept jours. Elle affirme que xAI a riposté en produisant plus de deepfakes, en révoquant son abonnement X Premium, son badge de vérification et ses capacités de monétisation, et en l'empêchant de racheter Premium. 'Les gens ont pris des photos de moi enfant et m'ont déshabillée. Il y en a une où ils m'ont déshabillée et pliée en deux, et en arrière-plan il y a le sac à dos de mon enfant qu'il porte en ce moment', a déclaré St. Clair au Guardian. Mercredi, xAI a mis à jour ses politiques pour empêcher Grok de générer des images sexualisées d'enfants ou de nudité non consentie là où c'est illégal, et a restreint sa fonction de génération d'images pour bloquer le déshabillage des utilisateurs tout en supprimant les matériels d'abus sexuel sur enfants. Cependant, l'application autonome de Grok continuerait à produire un tel contenu. St. Clair demande une ordonnance de restriction temporaire, ses avocats déclarant qu'elle est 'humiliée, déprimée, effrayée pour sa vie, en colère et désespérément besoin d'action de ce tribunal'. L'affaire s'intensifie au milieu d'un examen plus large : l'Indonésie et la Malaisie ont interdit Grok lundi, l'Ofcom britannique et la Californie ont ouvert des enquêtes, et le Sénat américain a repassé la loi Defiance. xAI a contre-attaqué St. Clair au Texas jeudi pour violation des termes en déposant à New York. Séparément, Musk a annoncé des plans pour obtenir la garde complète de leur fils de 1 ans, Romulus. St. Clair a critiqué la situation, disant : 'Si vous êtes une femme, vous ne pouvez pas poster une photo ni parler, ou vous risquez cet abus'. Elle a ajouté que l'équipe de Musk se croit 'au-dessus de la loi' sans conséquences. Apple et Google n'ont pas retiré les apps X ou Grok de leurs stores malgré des politiques contre un tel contenu.
