Tiga gadis muda dari Tennessee beserta wali mereka telah mengajukan gugatan class-action usulan terhadap xAI milik Elon Musk, menuduh perusahaan tersebut merancang AI Grok-nya untuk memproduksi materi pelecehan seksual anak dari foto-foto nyata. Gugatan ini berasal dari tip Discord yang mengarah pada penyelidikan polisi yang menghubungkan Grok dengan gambar eksplisit korban. Mereka menuntut perintah pengadilan dan ganti rugi untuk ribuan anak di bawah umur yang berpotensi dirugikan.
Sebuah gugatan class-action usulan yang diajukan pada Senin di pengadilan distrik AS menuduh xAI sengaja merancang Grok untuk 'menguntungkan diri dari predasi seksual terhadap orang-orang sungguhan, termasuk anak-anak.' Para penggugat, tiga gadis dari Tennessee, mengklaim setidaknya ribuan anak di bawah umur telah menjadi korban. Pengacara mereka, Annika K. Martin, menyatakan, 'Ini anak-anak yang foto sekolah dan foto keluarga mereka diubah menjadi materi pelecehan seksual anak oleh alat AI perusahaan bernilai miliaran dolar, lalu diperjualbelikan di antara para predator.' Martin menambahkan, 'Kami berniat menjadikan xAI bertanggung jawab atas setiap anak yang dirugikan dengan cara ini.' Para korban melaporkan mengalami tekanan emosional akut, ketakutan terkait penerimaan kuliah, kehadiran wisuda, serta risiko penguntitan, karena berkas-berkas tersebut mencantumkan nama asli dan informasi sekolah. Kasus ini bermula pada Desember ketika salah satu korban, yang kini berusia di atas 18 tahun, menerima pesan Instagram anonim dari pengguna Discord tentang 'gambar-gambar' eksplisitnya yang dibagikan dalam folder bersama gambar 18 anak di bawah umur lainnya. Gambar-gambar tersebut merupakan penggambaran hasil AI berdasarkan foto media sosialnya saat masih di bawah umur. Ia mengenali gadis-gadis lain dari sekolahnya. Pihak penegak hukum setempat melakukan penyelidikan dan menemukan pelaku menggunakan aplikasi pihak ketiga dengan akses ke Grok untuk mengubah foto-foto tersebut. Berkas-berkas diunggah ke Mega dan ditukar-tukarkan di grup Telegram. Gugatan menuduh xAI melisensikan akses server kepada aplikasi semacam itu, menghosting konten di servernya, serta mendistribusikannya, yang melanggar undang-undang pornografi anak. Sebelumnya, pada Januari, Elon Musk membantah mengetahui adanya 'gambar telanjang anak di bawah umur yang dihasilkan Grok,' sambil mengklaim bahwa ia telah melihat 'secara harfiah nol.' Peneliti dari Center for Countering Digital Hate memperkirakan Grok menghasilkan sekitar 23.000 gambar yang menggambarkan anak-anak semacam itu di antara tiga juta keluaran bersifat seksualisasi. xAI membatasi akses hanya untuk pelanggan berbayar tetapi tidak memperbarui filternya. xAI tidak merespons permintaan komentar.
