O novo sistema de verificação de idade alimentado por IA do Roblox, destinado a conter predadores infantis na plataforma, enfrenta problemas significativos apenas dias após o lançamento. Relatos indicam classificações erradas das idades dos usuários e soluções fáceis usadas por crianças, enquanto desenvolvedores reclamam de redução no engajamento. O sistema foi introduzido em meio a processos judiciais e investigações sobre preocupações de segurança.
O Roblox implementou verificação de idade obrigatória na semana passada para usuários que acessam o recurso de chat da plataforma, após alegações de predadores infantis manipulando jogadores jovens. O processo exige uma estimativa de idade facial por selfie ou, para maiores de 13 anos, o upload de um documento de identidade governamental. Usuários verificados só podem conversar com jogadores em faixas etárias semelhantes. Essa medida responde a relatos crescentes de comportamento predatório, levando a processos judiciais de estados como Louisiana, Texas e Kentucky. O procurador-geral da Flórida emitiu intimações criminais relacionadas ao assunto. A sobrevivência do Roblox pode depender de abordar efetivamente essas preocupações de segurança. No entanto, o sistema falhou desde o início. De acordo com a Wired, ele identificou erroneamente adultos como crianças e vice-versa. Um jovem de 23 anos foi classificado como de 16 a 17 anos, levando o usuário a dizer: «Não quero conversar com crianças malditas.» Um jovem de 18 anos foi colocado na faixa de 13 a 15 anos. Crianças também contornaram facilmente a verificação por selfie. Vídeos online mostram uma criança desenhando rugas e barba no rosto para ser considerada maior de 21 anos. Outra usou uma foto de Kurt Cobain para obter classificação adulta. Além disso, alguns pais enviaram suas próprias verificações de idade para crianças, resultando em crianças sendo atribuídas à categoria 21+. O Roblox afirmou que está «trabalhando em soluções para abordar» isso e fornecerá atualizações em breve. Desenvolvedores expressam forte insatisfação no fórum da plataforma, com milhares de comentários negativos pedindo a reversão da atualização. O uso do chat caiu de cerca de 90% para 36,5%. Alguns descrevem os jogos como «sem vida» ou «cidade fantasma total», destacando o desafio de equilibrar segurança com experiência do usuário.