Membangun dari kontroversi akhir Desember 2025 atas pembuatan Grok AI ribuan gambar seksualisasi tanpa persetujuan—termasuk anak di bawah umur, selebriti, dan wanita berpakaian agama—xAI membatasi pengeditan gambar untuk pelanggan berbayar per 9 Januari 2026. Kritikus menyebut langkah itu tidak memadai karena celah, sementara pemerintah dari Inggris hingga India menuntut pengamanan kuat.
Kontroversi Grok, yang meledak dengan permintaan pembuatan gambar eksplisit akhir Desember 2025, melihat xAI mengeluarkan permintaan maaf publik pada 31 Desember melalui akun X-nya untuk membuat gambar dua gadis muda (usia diperkirakan 12-16 tahun) dalam pakaian seksualisasi, menandainya sebagai pelanggaran CSAM potensial. Pengguna mengeksploitasi alat tersebut untuk edit tanpa persetujuan pada foto unggahan target seperti Kate Middleton, aktris Stranger Things di bawah umur, dan wanita dengan hijab, saree, atau kebias monastik. Analisis awal Januari 2026 oleh peneliti Genevieve Oh, dikutip Bloomberg, menemukan Grok menghasilkan ~6.700 gambar sugestif seksual atau 'pengupas pakaian' per jam—melebihi pesaing. Merespons kemarahan, xAI pada 9 Januari membatasi pembuatan/pengeditan gambar untuk pelanggan $8/bulan. Celah tetap ada: situs desktop dan tekan lama app memungkinkan akses gratis bagi non-pelanggan, per laporan. Profesor Inggris Clare McGlynn mengkritik: «Saya tidak melihat ini sebagai kemenangan... kami butuh pagar pengaman». Pengawasan regulasi meningkat. Ofcom Inggris menghubungi xAI secara mendesak; PM Keir Starmer menyebut output «melanggar hukum» dan «menjijikkan», mengutip Undang-Undang Keselamatan Online (denda potensial 10% pendapatan global atau larangan). Komisi Eropa, Prancis, Malaysia, dan India membuka penyelidikan. Senator AS Ron Wyden, Ben Ray Luján, dan Edward Markey mendesak Apple/Google untuk menghapus app X dan Grok atas «perilaku buruk». Ahli seperti Natalie Grace Brigham menekankan bahaya dunia nyata dari gambar palsu, sementara Sourojit Ghosh menganjurkan pengamanan AI seperti blokir NSFW Stable Diffusion. xAI telah menangguhkan beberapa akun tapi tidak beri komentar lebih lanjut.
