Roblox nya AI-drivna åldersverifieringssystem, som syftar till att bromsa barnpredatorer på plattformen, står inför betydande problem bara dagar efter lanseringen. Rapporter pekar på felklassificeringar av användares åldrar och enkla kringgåenden av barn, medan utvecklare klagar på minskad engagemang. Systemet introducerades mitt i rättstvister och undersökningar kring säkerhetsoro.
Roblox införde obligatorisk åldersverifiering förra veckan för användare som får tillgång till plattformens chattfunktion, efter anklagelser om barnpredatorer som groomar unga spelare. Processen kräver antingen en ansiktsåldersuppskattning via selfie eller, för de som är 13 år och äldre, uppladdning av officiellt ID. Verifierade användare kan bara chatta med spelare i liknande åldersgrupper. Åtgärden svarar på ökande rapporter om rovdjursbeteende, vilket lett till stämningar från delstater inklusive Louisiana, Texas och Kentucky. Floridas justitieminister har utfärdat straffrättsliga hämtningar relaterat till frågan. Roblox överlevnad kan hänga på att effektivt hantera dessa säkerhetsproblem. Systemet har dock haltat från start. Enligt Wired har det misstagit vuxna för barn och vice versa. En 23-åring klassades som 16-17 år gammal, vilket fick användaren att säga: «Jag vill inte chatta med jävla barn.» En 18-åring placerades i 13-15-årsspannet. Barn har också lätt kringgått selfie-verifieringen. Onlinevideor visar ett barn som ritat rynkor och skägg i ansiktet för att bedömas som 21 år eller äldre. En annan använde en bild av Kurt Cobain för att få vuxenklassificering. Dessutom har vissa föräldrar lämnat in sina egna ålderskontroller åt barn, vilket resulterat i att barn tilldelats 21+-kategorin. Roblox uppgav att det «arbetar på lösningar för att hantera» detta och kommer ge uppdateringar snart. Utvecklare uttrycker stark missnöje på plattformens forum, med tusentals negativa kommentarer som kräver att uppdateringen backas. Chattanvändningen har rasat från cirka 90 procent till 36,5 procent. Vissa beskriver spelen som «livlösa» eller som en «total spökstad», vilket belyser utmaningen att balansera säkerhet med användarupplevelse.