Sebuah laporan baru menunjukkan bahwa penggunaan konten NSFW mencakup lebih dari setengah lalu lintas pada chatbot Grok yang dikembangkan oleh xAI. Ini termasuk permintaan untuk pornografi, permainan peran dewasa, dan erotika. Temuan ini berasal dari mantan karyawan yang dikutip dalam laporan tersebut.
Pengguna beralih ke Grok untuk membuat gambar dan obrolan eksplisit. Beberapa bahkan mengarahkan permintaan tersebut melalui model pengkodean karena biaya operasionalnya lebih murah. Analisis internal menemukan sebagian besar permintaan ke model pengkodean melibatkan pornografi atau gambar telanjang.
xAI telah berupaya untuk mengizinkan percakapan dewasa sambil mencegah perintah terkait materi pelecehan seksual anak. Para insinyur menghadapi tantangan dalam menerapkan kontrol ini. Karyawan juga telah ditugaskan untuk mengembangkan Ani, pendamping avatar yang terinspirasi dari anime NSFW.
Perusahaan menyisihkan 530 juta dolar untuk potensi biaya hukum. SpaceX mencatat fitur-fitur Grok yang tidak konvensional sebagai risiko dalam dokumen IPO. xAI terus mengejar kontrak pemerintah meskipun terdapat fokus pada konten dewasa.