Roblox har introducerat en AI-driven funktion som omskriver olämpligt språk i realtidschattar. Verktyget syftar till att bibehålla samtalsflödet genom att ersätta stötande ord istället för att blockera dem med symboler. Denna uppdatering följer på nyliga säkerhetsåtgärder mitt i pågående rättsliga utmaningar kring barnskydd.
Roblox, den populära plattformen för onlinespel, har rullat ut ett nytt AI-drivet system för att hantera olämpligt språk i användarchattar. Tidigare ersatte plattformens filter meddelanden som bröt mot reglerna med en serie hash-tecken (####), vilket Roblox erkände kunde störa diskussioner och hindra kommunikation. Den uppdaterade funktionen ersätter nu automatiskt problematiska ord eller fraser med mer lämpliga alternativ, med start på svordomar och andra förolämpningar. För exempel, ett meddelande som ”Hurry TF up” skulle ändras till ”Hurry up!”. Deltagarna i chatten får en notifikation när ett meddelande har omskrivits, medan den ursprunglige avsändaren ser det redigerade innehållet markerat. Trots omskrivningen riskerar användare som upprepat bryter mot Robloxs gemenskapsstandarder straff, eftersom systemet inte frikänner brott mot policyn. Rajiv Bhatia, Robloxs chef för säkerhet, förklarade i ett blogginlägg: ”När dessa system skalas upp skapar de ett svänghjul för artighet, där realtidsfeedback hjälper användare att lära sig och följa våra gemenskapsstandarder.” Omskrivningsverktyget är inledningsvis tillgängligt i chatter mellan åldersverifierade användare i liknande åldersgrupper och stöder alla språk som täcks av Robloxs översättningssystem. Denna utveckling kommer efter att Roblox införde obligatorisk åldersverifiering i januari, utlöst av rapporter som beskriver ett ”pedofilproblem” på plattformen, där vuxna enligt påståenden groomade barn. Barn under 13 år är nu begränsade från att använda chatt i spel utanför specifika upplevelser, medan andra begränsas till interaktioner med jämnåriga. Dessa insatser har dock inte dämpat den rättsliga granskningen. I februari lämnade Los Angeles County in en stämning och hävdade att Roblox ”gör barn till lätta byten för pedofiler”. Mer nyligen har Louisianas justitieminister stämt och hävdat att Roblox ”skapade en offentlig park och fyllde den med sexualförbrytare som jagar på… barn”.
