Le nouveau système de vérification d'âge alimenté par l'IA de Roblox, destiné à freiner les prédateurs d'enfants sur la plateforme, fait face à des problèmes importants seulement quelques jours après son lancement. Les rapports font état de classifications erronées des âges des utilisateurs et de contournements faciles par les enfants, tandis que les développeurs se plaignent d'une réduction de l'engagement. Le système a été introduit au milieu de poursuites judiciaires et d'enquêtes sur les préoccupations de sécurité.
Roblox a mis en place une vérification d'âge obligatoire la semaine dernière pour les utilisateurs accédant à la fonction de chat de la plateforme, suite à des allégations de prédateurs d'enfants manipulant de jeunes joueurs. Le processus exige une estimation d'âge facial via selfie ou, pour les 13 ans et plus, le téléchargement d'une pièce d'identité gouvernementale. Les utilisateurs vérifiés ne peuvent discuter qu'avec des joueurs de groupes d'âge similaires. Cette mesure répond à des rapports croissants de comportements prédateurs, entraînant des poursuites judiciaires de la part d'États comme la Louisiane, le Texas et le Kentucky. Le procureur général de Floride a émis des assignations criminelles liées à cette affaire. La survie de Roblox pourrait dépendre d'une résolution efficace de ces préoccupations de sécurité. Cependant, le système a connu des ratés dès le départ. Selon Wired, il a mal identifié des adultes comme des enfants et vice versa. Un individu de 23 ans a été classé entre 16 et 17 ans, incitant l'utilisateur à déclarer : «Je ne veux pas discuter avec des enfants de merde.» Un jeune de 18 ans a été placé dans la tranche 13-15 ans. Les enfants ont également contourné facilement la vérification par selfie. Des vidéos en ligne montrent un enfant dessinant des rides et une barbe sur son visage pour être considéré comme ayant 21 ans ou plus. Un autre a utilisé une photo de Kurt Cobain pour obtenir une classification adulte. De plus, certains parents ont soumis leurs propres vérifications d'âge pour leurs enfants, aboutissant à l'attribution des enfants à la catégorie 21+. Roblox a déclaré qu'il «travaille sur des solutions pour y remédier» et fournira des mises à jour sous peu. Les développeurs expriment un fort mécontentement sur le forum de la plateforme, avec des milliers de commentaires négatifs appelant à l'annulation de la mise à jour. L'utilisation du chat a chuté d'environ 90 % à 36,5 %. Certains décrivent les jeux comme «sans vie» ou une «ville fantôme totale», soulignant le défi d'équilibrer sécurité et expérience utilisateur.