Sistem verifikasi usia baru berbasis AI Roblox, yang bertujuan untuk membatasi predator anak di platform, menghadapi masalah signifikan hanya beberapa hari setelah peluncuran. Laporan menunjukkan kesalahan klasifikasi usia pengguna dan cara mudah yang digunakan anak-anak untuk mengakalinya, sementara pengembang mengeluh tentang penurunan keterlibatan. Sistem ini diluncurkan di tengah gugatan dan penyelidikan terkait kekhawatiran keamanan.
Roblox menerapkan verifikasi usia wajib minggu lalu untuk pengguna yang mengakses fitur obrolan platform, setelah tuduhan predator anak memikat pemain muda. Prosesnya mengharuskan perkiraan usia wajah melalui selfie atau, bagi yang berusia 13 tahun ke atas, unggahan ID pemerintah. Pengguna terverifikasi hanya dapat mengobrol dengan pemain di kelompok usia serupa. Langkah ini merespons laporan meningkat tentang perilaku predator, yang memicu gugatan dari negara bagian termasuk Louisiana, Texas, dan Kentucky. Jaksa Agung Florida telah mengeluarkan panggilan pidana terkait isu tersebut. Kelangsungan Roblox mungkin bergantung pada penanganan kekhawatiran keamanan ini secara efektif. Namun, sistem tersebut gagal sejak awal. Menurut Wired, sistem salah mengidentifikasi orang dewasa sebagai anak-anak dan sebaliknya. Seorang berusia 23 tahun diklasifikasikan sebagai 16-17 tahun, memicu pengguna berkata, «Saya tidak ingin mengobrol dengan anak-anak sialan.» Seorang berusia 18 tahun ditempatkan di rentang 13-15 tahun. Anak-anak juga dengan mudah mengakali verifikasi selfie. Video online menunjukkan seorang anak menggambar keriput dan kumis di wajahnya untuk dianggap 21 tahun atau lebih. Yang lain menggunakan foto Kurt Cobain untuk mendapatkan klasifikasi dewasa. Selain itu, beberapa orang tua mengirimkan verifikasi usia mereka sendiri untuk anak-anak, menyebabkan anak-anak ditugaskan ke kategori 21+. Roblox menyatakan sedang «bekerja pada solusi untuk mengatasi» ini dan akan memberikan pembaruan segera. Pengembang menyuarakan ketidakpuasan kuat di forum platform, dengan ribuan komentar negatif yang menyerukan pembatalan pembaruan. Penggunaan obrolan turun dari sekitar 90 persen menjadi 36,5 persen. Beberapa menggambarkan permainan sebagai «tanpa nyawa» atau «kota hantu total», menyoroti tantangan menyeimbangkan keamanan dengan pengalaman pengguna.
