Uni Eropa telah memulai penyelidikan formal terhadap xAI milik Elon Musk setelah kekhawatiran bahwa chatbot Grok-nya menghasilkan gambar seksualisasi tanpa persetujuan, termasuk materi potensial penyalahgunaan seksual anak. Regulator memeriksa apakah perusahaan mematuhi Digital Services Act dalam mengurangi risiko di platform X. Denda bisa mencapai 6 persen dari omzet tahunan global xAI jika pelanggaran ditemukan.
Pada 26 Januari 2026, Komisi Eropa mengumumkan penyelidikan terhadap xAI berdasarkan Digital Services Act (DSA), dengan fokus pada penerapan Grok di jaringan sosial X. Penyelidikan menilai apakah xAI mengambil langkah-langkah memadai untuk mencegah penyebaran gambar eksplisit seksual yang dimanipulasi, yang mencakup konten yang mungkin merupakan materi penyalahgunaan seksual anak (CSAM). Deepfake ini, yang dihasilkan tanpa persetujuan, dibagikan di X dan aplikasi Grok, memicu kemarahan publik. Kepala teknologi UE Henna Virkkunen menyatakan, “Deepfake seksual non-konsensual terhadap wanita dan anak adalah bentuk degradasi yang kekerasan dan tidak dapat diterima.” Ia menambahkan, “Dengan penyelidikan ini, kami akan menentukan apakah X telah memenuhi kewajiban hukumnya berdasarkan DSA, atau apakah ia memperlakukan hak warga Eropa—termasuk wanita dan anak—sebagai kerusakan kolateral dari layanannya.” Komisi mencatat bahwa risiko dari alat Grok telah terwujud, mengekspos warga UE pada bahaya serius. Ini menyusul denda €120 juta ($140 juta) yang dikenakan pada X pada Desember 2025 atas pelanggaran terkait transparansi dan akses data. UE juga memperluas penyelidikan 2023 terhadap algoritma rekomendasi X dan alat pencegahan konten ilegal. Secara internasional, Ofcom Inggris telah membuka penyelidikan serupa, sementara Malaysia dan Indonesia telah melarang Grok. Sebagai respons, xAI membatasi Grok untuk pelanggan berbayar dan menerapkan langkah teknologi untuk membatasi pembuatan gambar seksualisasi. Elon Musk memperingatkan, “siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.” Namun, laporan CBS News pada 26 Januari menemukan bahwa Grok masih mampu menghasilkan gambar telanjang, meskipun diklaim telah dihapus. Juru bicara X mengatakan kepada The New York Times, “Kami tetap berkomitmen menjadikan X platform aman untuk semua dan terus memiliki toleransi nol terhadap segala bentuk eksploitasi seksual anak, ketelanjangan non-konsensual, dan konten seksual yang tidak diinginkan.” Seorang pejabat UE menyatakan skeptisisme terhadap efektivitas langkah-langkah ini, mengutip kerugian berkelanjutan bagi individu. xAI, yang mengakuisisi X tahun lalu, merancang Grok dengan lebih sedikit pagar pengaman konten daripada pesaing seperti OpenAI, bertujuan untuk model “pencari kebenaran maksimal”. Penyelidikan ini terjadi di tengah ketegangan, dengan Musk sebelumnya menyebut UE “Reich keempat” setelah denda sebelumnya, dan kritik dari pemerintahan Trump atas penargetan perusahaan AS yang dirasakan.
