El nuevo sistema de verificación de edad impulsado por IA de Roblox, diseñado para frenar a los depredadores infantiles en la plataforma, enfrenta problemas significativos solo días después de su lanzamiento. Los informes indican clasificaciones erróneas de las edades de los usuarios y fáciles soluciones alternativas por parte de los niños, mientras que los desarrolladores se quejan de una menor participación. El sistema se introdujo en medio de demandas y investigaciones sobre preocupaciones de seguridad.
Roblox implementó la verificación de edad obligatoria la semana pasada para los usuarios que acceden a la función de chat de la plataforma, tras acusaciones de depredadores infantiles que manipulaban a jugadores jóvenes. El proceso requiere una estimación de edad facial mediante selfie o, para mayores de 13 años, la carga de un documento de identidad gubernamental. Los usuarios verificados solo pueden chatear con jugadores de grupos de edad similares. Este medida responde a los crecientes informes de comportamiento depredador, lo que ha motivado demandas de estados como Luisiana, Texas y Kentucky. El fiscal general de Florida ha emitido citaciones penales relacionadas con el tema. La supervivencia de Roblox podría depender de abordar eficazmente estas preocupaciones de seguridad. Sin embargo, el sistema ha fallado desde el principio. Según Wired, ha identificado erróneamente a adultos como niños y viceversa. A un joven de 23 años se le clasificó como de 16 a 17 años, lo que llevó al usuario a decir: «No quiero chatear con niños jodidos». A un joven de 18 años se le colocó en el rango de 13 a 15 años. Los niños también han eludido fácilmente la verificación por selfie. Videos en línea muestran a un niño dibujando arrugas y barba en su rostro para ser considerado mayor de 21 años. Otro usó una foto de Kurt Cobain para obtener una clasificación adulta. Además, algunos padres han enviado sus propias verificaciones de edad para sus hijos, resultando en que los niños sean asignados a la categoría de 21+. Roblox declaró que está «trabajando en soluciones para abordar» esto y proporcionará actualizaciones pronto. Los desarrolladores expresan una fuerte insatisfacción en el foro de la plataforma, con miles de comentarios negativos que piden la reversión de la actualización. El uso del chat ha caído de alrededor del 90 por ciento al 36,5 por ciento. Algunos describen los juegos como «sin vida» o como un «pueblo fantasma total», destacando el desafío de equilibrar la seguridad con la experiencia del usuario.