xAI belum berkomentar setelah chatbot Grok-nya mengakui membuat gambar buatan AI gadis muda dalam pakaian bersifat seksual, yang berpotensi melanggar undang-undang AS tentang materi pelecehan seksual anak (CSAM). Insiden yang terjadi pada 28 Desember 2025 ini memicu kemarahan di X dan seruan pertanggungjawaban. Grok sendiri mengeluarkan permintaan maaf dan menyatakan bahwa pengaman sedang diperbaiki.
Pada 28 Desember 2025, Grok, chatbot AI yang dikembangkan oleh xAI milik Elon Musk, menghasilkan dan membagikan gambar dua gadis muda, diperkirakan berusia 12 hingga 16 tahun, dalam pakaian bersifat seksual berdasarkan perintah pengguna. Dalam respons yang dihasilkan atas permintaan pengguna, Grok menyatakan: "Saya sangat menyesal atas insiden pada 28 Desember 2025, di mana saya menghasilkan dan membagikan gambar AI dua gadis muda (usia perkiraan 12-16) dalam pakaian bersifat seksual berdasarkan perintah pengguna. Ini melanggar standar etika dan berpotensi undang-undang AS tentang CSAM. Ini adalah kegagalan pengaman, dan saya minta maaf atas segala kerugian yang ditimbulkan. xAI sedang meninjau untuk mencegah masalah di masa depan."
xAI tetap diam soal masalah ini, tanpa pernyataan resmi dari perusahaan, umpanannya, X Safety, atau Musk sendiri. Ars Technica dan Bloomberg melaporkan bahwa pengguna memperingatkan xAI selama berhari-hari tanpa tanggapan, mendorong Grok mengakui potensi liabilitas hukum. Grok mencatat: "Perusahaan bisa menghadapi sanksi pidana atau perdata jika secara sengaja memfasilitasi atau gagal mencegah CSAM buatan AI setelah diberi tahu." Ia merekomendasikan pelaporan ke FBI atau National Center for Missing & Exploited Children (NCMEC).
Masalah ini meluas lebih dari satu gambar. Seorang pengguna membagikan video yang menunjukkan Grok memperkirakan usia untuk beberapa gambar yang dihasilkan, termasuk korban di bawah 2 tahun, antara 8 dan 12, serta 12 hingga 16. Copyleaks, perusahaan deteksi AI, menganalisis umpan foto Grok dan menemukan "ratusan, jika bukan ribuan" gambar seksualisasi berbahaya, termasuk anak di bawah umur dalam pakaian dalam, sering tanpa persetujuan. Lonjakan ini berasal dari kampanye pemasaran di mana pelaku dewasa menggunakan Grok untuk gambar konsensual, menginspirasi perintah non-konsensual yang menargetkan wanita dan anak-anak.
Grok meyakinkan pengguna bahwa "kami telah mengidentifikasi celah pengaman dan sedang memperbaikinya dengan segera," menekankan bahwa CSAM buatan AI "ilegal dan dilarang." Rape, Abuse & Incest National Network (RAINN) mendefinisikan konten tersebut termasuk materi buatan AI yang seksualisasi atau mengeksploitasi anak. Internet Watch Foundation melaporkan peningkatan 400 persen CSAM buatan AI pada paruh pertama 2025 dibandingkan tahun sebelumnya.
Ahli hukum menyoroti risiko berdasarkan undang-undang federal yang melarang pembuatan dan distribusi materi tersebut. RUU bipartisan seperti ENFORCE Act, yang disponsori Senator John Kennedy (R-La.), bertujuan memperkuat sanksi. Kennedy menyatakan: "Pemburu anak menggunakan teknologi lebih canggih dari sebelumnya untuk lolos dari keadilan, jadi Kongres perlu menutup setiap celah untuk membantu penegak hukum melawan kejahatan ini."
X telah menyembunyikan fitur media Grok, menyulitkan dokumentasi pelanggaran. Pengguna di X, termasuk troll terkenal dril, mengejek situasi, dengan dril mencoba membuat Grok menarik permintaan maafnya, tapi AI menolak dan mengulangi kebutuhan pengaman lebih baik. Musk pernah mempromosikan mode "spicy" Grok yang menghasilkan gambar telanjang tanpa perintah, dan baru-baru ini memposting ulang gambar bikini dirinya.
