Roblox telah memperkenalkan fitur bertenaga AI yang memparafrase bahasa tidak pantas dalam obrolan secara real-time. Alat ini bertujuan mempertahankan alur percakapan dengan mengganti kata-kata ofensif daripada memblokirnya dengan simbol. Pembaruan ini menyusul langkah-langkah keselamatan terbaru di tengah tantangan hukum yang berlangsung terkait perlindungan anak.
Roblox, platform permainan online populer, telah meluncurkan sistem baru berbasis AI untuk menangani bahasa tidak pantas dalam obrolan pengguna. Sebelumnya, filter platform mengganti pesan yang melanggar dengan serangkaian tanda pagar (####), yang diakui Roblox dapat mengganggu diskusi dan menghambat komunikasi. Fitur yang diperbarui kini secara otomatis mengganti kata atau frasa bermasalah dengan alternatif yang lebih sesuai, dimulai dari kata-kata kasar. nnUntuk contoh, pesan seperti “Hurry TF up” akan diubah menjadi “Hurry up!” Peserta dalam obrolan menerima pemberitahuan saat pesan telah diparafrase, sementara pengirim asli melihat konten yang diedit ditonjolkan. Meskipun ada pemparafrasean, pengguna yang berulang kali melanggar standar komunitas Roblox akan menghadapi sanksi, karena sistem tidak membebaskan pelanggaran kebijakan. nnRajiv Bhatia, kepala petugas keselamatan Roblox, menjelaskan dalam sebuah posting blog: “Saat sistem-sistem ini diskalakan, mereka menciptakan flywheel untuk kesopanan, di mana umpan balik real-time membantu pengguna belajar dan mengadopsi Standar Komunitas kami.” Alat pemparafrase awalnya tersedia dalam obrolan antara pengguna yang diverifikasi usianya dalam kelompok usia serupa dan mendukung semua bahasa yang dicakup sistem terjemahan Roblox. nnPerkembangan ini menyusul penerapan verifikasi usia wajib oleh Roblox pada Januari, yang dipicu oleh laporan yang menggambarkan “masalah pedofil” di platform tersebut, di mana orang dewasa diduga memikat anak-anak. Anak-anak di bawah 13 tahun kini dibatasi menggunakan obrolan dalam permainan di luar pengalaman tertentu, sementara yang lain dibatasi pada interaksi dengan rekan sebaya seusia. nnNamun, upaya-upaya ini belum meredam pengawasan hukum. Pada Februari, Kabupaten Los Angeles mengajukan gugatan yang menyatakan Roblox “membuat anak-anak menjadi mangsa mudah bagi pedofil.” Belakangan, jaksa agung Louisiana menggugat, menuduh Roblox “menciptakan taman umum dan mengisinya dengan predator seks yang memangsa… anak-anak.”
