Un nouveau rapport indique que les usages non appropriés aux mineurs (NSFW) représentent largement plus de la moitié du trafic sur le chatbot Grok développé par xAI. Cela inclut des demandes de pornographie, de jeux de rôle pour adultes et de contenus érotiques. Ces conclusions émanent d'anciens employés cités dans le rapport.
Les utilisateurs se tournent vers Grok pour générer des images et des discussions explicites. Certains acheminent même ces requêtes via des modèles de codage, car ces derniers sont moins coûteux à faire fonctionner. Une analyse interne a révélé qu'une proportion importante des requêtes adressées au modèle de codage impliquait de la pornographie ou des images de nudité.
xAI a travaillé à autoriser les conversations pour adultes tout en empêchant les requêtes liées à des contenus pédopornographiques. Les ingénieurs ont été confrontés à des difficultés lors de la mise en place de ces contrôles. Des employés ont également été chargés de développer Ani, un avatar compagnon inspiré des anime et orienté vers les contenus NSFW.
L'entreprise a mis de côté 530 millions de dollars pour couvrir d'éventuels frais juridiques. Dans ses documents d'introduction en bourse, SpaceX a souligné les fonctionnalités irrévérencieuses de Grok comme un risque. xAI continue de poursuivre l'obtention de contrats gouvernementaux malgré cette focalisation sur le contenu pour adultes.