Roblox a introduit une fonctionnalité propulsée par l'IA qui reformule le langage inapproprié dans les chats en temps réel. L'outil vise à préserver le flux de la conversation en substituant les mots offensants plutôt qu'en les bloquant avec des symboles. Cette mise à jour fait suite à des mesures de sécurité récentes, au milieu de défis juridiques en cours sur la protection des enfants.
Roblox, la populaire plateforme de jeux en ligne, a déployé un nouveau système propulsé par l'IA pour gérer le langage inapproprié dans les chats des utilisateurs. Précédemment, les filtres de la plateforme remplaçaient les messages violant les règles par une série de dièses (####), ce que Roblox a reconnu comme pouvant perturber les discussions et entraver la communication. La fonctionnalité mise à jour substitue désormais automatiquement les mots ou expressions problématiques par des alternatives plus appropriées, en commençant par les grossièretés. nnPour exemple, un message comme « Hurry TF up » serait changé en « Hurry up ! ». Les participants au chat reçoivent une notification lorsqu'un message a été reformulé, tandis que l'expéditeur original voit le contenu modifié mis en évidence. Malgré la reformulation, les utilisateurs qui violent à répétition les normes communautaires de Roblox s'exposent à des sanctions, car le système n'excuse pas les violations des politiques. nnRajiv Bhatia, responsable principal de la sécurité chez Roblox, a expliqué dans un billet de blog : « À mesure que ces systèmes évoluent, ils créent un cercle vertueux de la civilité, où les retours en temps réel aident les utilisateurs à apprendre et adopter nos Normes communautaires. » L'outil de reformulation est initialement disponible dans les chats entre utilisateurs dont l'âge est vérifié et appartenant à des groupes d'âge similaires, et il prend en charge toutes les langues couvertes par le système de traduction de Roblox. nnCe développement intervient après que Roblox a instauré une vérification d'âge obligatoire en janvier, suite à des rapports décrivant un « problème de pédophiles » sur la plateforme, où des adultes auraient pratiqué le grooming sur des enfants. Les enfants de moins de 13 ans sont désormais interdits d'utiliser le chat en jeu en dehors d'expériences spécifiques, les autres étant limités aux interactions avec des pairs d'âges comparables. nnCependant, ces efforts n'ont pas réussi à apaiser l'examen juridique. En février, le comté de Los Angeles a déposé une plainte affirmant que Roblox « rend les enfants une proie facile pour les pédophiles ». Plus récemment, le procureur général de la Louisiane a intenté une action en justice, alléguant que Roblox « a créé un parc public et l'a rempli de prédateurs sexuels qui s'en prennent… aux enfants ».
