Roblox ha introducido una función impulsada por IA que reformula el lenguaje inapropiado en chats en tiempo real. La herramienta busca mantener el flujo de la conversación sustituyendo palabras ofensivas en lugar de bloquearlas con símbolos. Esta actualización sigue a recientes medidas de seguridad en medio de desafíos legales continuos sobre la protección infantil.
Roblox, la popular plataforma de juegos en línea, ha implementado un nuevo sistema impulsado por IA para manejar el lenguaje inapropiado en los chats de los usuarios. Anteriormente, los filtros de la plataforma reemplazaban los mensajes violatorios con una serie de marcas de hash (####), lo que Roblox reconoció que podía interrumpir las discusiones y obstaculizar la comunicación. La función actualizada ahora sustituye automáticamente palabras o frases problemáticas con alternativas más adecuadas, comenzando con las palabrotas. Para ejemplo, un mensaje como “Hurry TF up” se cambiaría a “Hurry up!”. Los participantes en el chat reciben una notificación cuando un mensaje ha sido reformulado, mientras que el remitente original ve el contenido editado destacado. A pesar de la reformulación, los usuarios que violen repetidamente los estándares de la comunidad de Roblox enfrentan penalizaciones, ya que el sistema no excusa las infracciones de políticas. Rajiv Bhatia, director de seguridad jefe de Roblox, explicó en una publicación de blog: «A medida que estos sistemas escalan, crean un ciclo virtuoso de civilidad, donde la retroalimentación en tiempo real ayuda a los usuarios a aprender y adoptar nuestros Estándares de la Comunidad». La herramienta de reformulación está inicialmente disponible en chats entre usuarios con edad verificada en grupos de edad similares y soporta todos los idiomas cubiertos por el sistema de traducción de Roblox. Este desarrollo llega después de que Roblox implementara la verificación de edad obligatoria en enero, motivada por informes que describían un «problema de pedófilos» en la plataforma, donde adultos supuestamente acicalaban a niños. Los niños menores de 13 años ahora están restringidos de usar el chat en el juego fuera de experiencias específicas, mientras que otros están limitados a interacciones con pares de edades comparables. Sin embargo, estos esfuerzos no han silenciado el escrutinio legal. En febrero, el condado de Los Ángeles presentó una demanda alegando que Roblox «hace que los niños sean presa fácil para pedófilos». Más recientemente, el fiscal general de Luisiana ha demandado, alegando que Roblox «creó un parque público y lo llenó de depredadores sexuales que están acechando a… niños».
