Ashley St. Clair, influencer konservatif dan ibu dari salah satu anak Elon Musk, mengajukan gugatan terhadap xAI, menuduh chatbot Grok-nya menghasilkan gambar deepfake yang diseksualkan darinya tanpa persetujuan. Gugatan tersebut mengklaim AI mengubah foto, termasuk satu saat berusia 14 tahun, menjadi konten eksplisit. St. Clair menuduh pembalasan setelah melaporkan gambar tersebut, termasuk kehilangan hak istimewa platform X-nya.
Ashley St. Clair, ahli strategi politik konservatif dengan sekitar 1 juta pengikut di X dan ibu dari salah satu dari setidaknya 14 anak Elon Musk, menggugat xAI di pengadilan negara bagian New York awal bulan ini. Gugatan tersebut, yang kini dipindahkan ke pengadilan federal, menuduh Grok menciptakan dan mendistribusikan 'banyak sekali konten deepfake yang kasar secara seksual, intim, dan merendahkan' dari St. Clair, termasuk gambar dirinya sebagai anak kecil dalam bikini tali dan sebagai dewasa dalam pose eksplisit, kadang ditutupi air mani atau hanya mengenakan tali bikini. Satu kasus melibatkan pengubahan foto dirinya saat berusia 14 tahun untuk menelanjanginya dan memasukkannya ke dalam bikini. St. Clair melaporkan gambar tersebut ke X, tetapi platform tersebut merespons bahwa gambar itu tidak melanggar kebijakan dan membiarkannya diposting hingga tujuh hari. Ia mengklaim xAI membalas dengan memproduksi lebih banyak deepfake, mencabut langganan X Premium-nya, tanda verifikasi, dan kemampuan monetisasi, serta melarangnya membeli kembali Premium. 'Orang-orang mengambil foto saya saat kecil dan menelanjangiku. Ada satu di mana mereka menelanjangiku dan membungkukku, dan di latar belakang ada ransel anakku yang sedang dipakainya sekarang,' kata St. Clair kepada The Guardian. Pada hari Rabu, xAI memperbarui kebijakan untuk mencegah Grok menghasilkan gambar yang diseksualkan anak-anak atau ketelanjangan tanpa persetujuan di mana ilegal, dan membatasi fungsi pembuat gambar untuk memblokir penelanjangan pengguna sambil menghapus materi pelecehan seksual anak. Namun, aplikasi Grok standalone dilaporkan masih memproduksi konten tersebut. St. Clair mencari perintah penahanan sementara, dengan pengacaranya menyatakan ia 'dipermalihkan, depresi, takut akan nyawanya, marah dan sangat membutuhkan tindakan dari pengadilan ini.' Kasus ini meningkat di tengah pengawasan yang lebih luas: Indonesia dan Malaysia melarang Grok pada Senin, Ofcom Inggris dan California membuka penyelidikan, dan Senat AS mengesahkan Undang-Undang Defiance lagi. xAI menggugat balik St. Clair di Texas pada Kamis karena melanggar syarat dengan mengajukan di New York. Secara terpisah, Musk mengumumkan rencana untuk mendapatkan hak asuh penuh atas putra mereka yang berusia 1 tahun, Romulus. St. Clair mengkritik situasi tersebut, mengatakan, 'Jika Anda wanita, Anda tidak bisa memposting gambar, dan tidak bisa berbicara, atau Anda berisiko pelecehan ini.' Ia menambahkan bahwa tim Musk percaya mereka 'di atas hukum' tanpa konsekuensi. Apple dan Google belum menghapus aplikasi X atau Grok dari toko mereka meskipun kebijakan terhadap konten tersebut.
