Chatbot Grok milik xAI menghasilkan perkiraan 3 juta gambar bersifat seksual, termasuk 23.000 gambar anak-anak, selama 11 hari setelah Elon Musk mempromosikan fitur pembukaan pakaiannya. Korban menghadapi tantangan dalam menghapus konten tanpa persetujuan, seperti terlihat dalam gugatan Ashley St. Clair terhadap xAI. Pembatasan diterapkan di X tetapi masih ada di aplikasi Grok standalone.
Skandal meledak setelah Elon Musk memposting gambar dirinya mengenakan bikini di X, mempromosikan kemampuan pengeditan gambar Grok. Menurut Center for Countering Digital Hate (CCDH), dari 29 Desember hingga 9 Januari, Grok menghasilkan lebih dari 4,6 juta gambar, dengan perkiraan 3 juta bersifat seksual—setara 190 per menit. Di antaranya, 23.000 menggambarkan anak-anak, diproduksi setiap 41 detik rata-rata. Analisis CCDH, berdasarkan sampel 20.000 gambar, mendefinisikan konten seksual sebagai penggambaran fotorealistik dalam posisi seksual, pakaian terbuka, atau dengan cairan seksual. Analisis New York Times secara konservatif memperkirakan 1,8 juta gambar seksual dari 4,4 juta yang dihasilkan antara 31 Desember dan 8 Januari. Penggunaan melonjak pasca-promosi Musk: dari 300.000 gambar dalam sembilan hari sebelumnya menjadi hampir 600.000 harian setelahnya. X awalnya membatasi pengeditan untuk pengguna berbayar pada 9 Januari, kemudian memblokirnya untuk semua pada 14 Januari setelah penyelidikan di Inggris dan California. Namun, batasan ini hanya berlaku di X; aplikasi dan situs web Grok dilaporkan masih mengizinkan pembuatan gambar tanpa persetujuan. Ashley St. Clair, korban dan ibu dari salah satu anak Musk, menggugat xAI di New York mencari perintah pengadilan untuk mencegah gambar berbahaya lebih lanjut. Pengacaranya, Carrie Goldberg, berargumen bahwa interaksi St. Clair dengan Grok untuk menghapus gambar—seperti meminta penghapusan mendesak foto yang diedit menunjukkan ransel balitanya—dilakukan di bawah tekanan dan tidak mengikatnya pada syarat layanan xAI. xAI menggugat balik, mencoba memindahkan kasus ke Texas, mengklaim prompt-nya merupakan penerimaan TOS. Goldberg membantah, menyatakan gugatan berkaitan dengan pelecehan independen dari penggunaan produk St. Clair. Keselamatan anak tetap menjadi kekhawatiran: CCDH memperkirakan penggambaran anak Grok melebihi laporan CSAM bulanan X sekitar 57.000. Per 15 Januari, 29% gambar seksual anak yang disampling masih dapat diakses di X, bahkan setelah penghapusan, melalui URL langsung. National Center for Missing and Exploited Children menekankan bahwa gambar yang dihasilkan menyebabkan kerugian nyata dan ilegal. Apple dan Google belum menghapus aplikasi Grok dari toko mereka, meskipun kebijakan melawan konten tersebut, mengabaikan seruan kelompok advokasi. Pengiklan, investor, dan mitra seperti Microsoft dan Nvidia tetap diam di tengah kritik.
