Roblox lançou uma funcionalidade impulsionada por IA que reformula linguagem inadequada em chats em tempo real. A ferramenta visa manter o fluxo da conversa substituindo palavras ofensivas em vez de bloqueá-las com símbolos. Esta atualização segue medidas recentes de segurança em meio a desafios legais contínuos sobre proteção infantil.
Roblox, a popular plataforma de jogos online, lançou um novo sistema impulsionado por IA para lidar com linguagem inadequada em chats de usuários. Anteriormente, os filtros da plataforma substituíam mensagens violadoras por uma série de marcas de hash (####), o que a Roblox reconheceu que poderia interromper discussões e dificultar a comunicação. A funcionalidade atualizada agora substitui automaticamente palavras ou frases problemáticas por alternativas mais adequadas, começando com profanidades. Por exemplo, uma mensagem como “Hurry TF up” seria alterada para “Hurry up!”. Os participantes do chat recebem uma notificação quando uma mensagem foi reformulada, enquanto o remetente original vê o conteúdo editado destacado. Apesar da reformulação, usuários que violam repetidamente os padrões da comunidade da Roblox enfrentam penalidades, pois o sistema não isenta violações de políticas. Rajiv Bhatia, diretor-chefe de segurança da Roblox, explicou em uma postagem no blog: “À medida que esses sistemas escalam, eles criam um ciclo virtuoso para a civilidade, onde feedback em tempo real ajuda os usuários a aprenderem e adotarem nossos Padrões da Comunidade.” A ferramenta de reformulação está inicialmente disponível em chats entre usuários com idade verificada em grupos de idade semelhantes e suporta todos os idiomas cobertos pelo sistema de tradução da Roblox. Este desenvolvimento vem após a Roblox ter implementado verificação de idade obrigatória em janeiro, motivada por relatórios descrevendo um “problema de pedófilos” na plataforma, onde adultos supostamente manipulavam crianças. Crianças com menos de 13 anos agora estão restritas de usar chat no jogo fora de experiências específicas, com outras limitadas a interações com pares de idades comparáveis. No entanto, esses esforços não acalmaram o escrutínio legal. Em fevereiro, o condado de Los Angeles entrou com uma ação judicial alegando que a Roblox “torna as crianças presas fáceis para pedófilos”. Mais recentemente, o procurador-geral da Louisiana processou, alegando que a Roblox “criou um parque público e o encheu de predadores sexuais que estão caçando… crianças”.
