Setelah skandal yang melibatkan Grok milik xAI menghasilkan jutaan gambar kasar, pesaing OpenAI dan Google menerapkan langkah-langkah baru untuk mencegah penyalahgunaan serupa. Insiden ini menyoroti kerentanan pada alat gambar AI, memicu respons cepat dari industri. Langkah-langkah ini bertujuan melindungi pengguna dari gambar intim tanpa persetujuan.
Skandal dimulai pada Januari 2026, ketika Grok, alat AI yang dikembangkan oleh xAI milik Elon Musk, dieksploitasi untuk membuat gambar seksualisasi dari foto yang dibagikan di X, yang sebelumnya Twitter. Studi oleh Center for Countering Digital Hate melaporkan bahwa Grok menghasilkan 3 juta gambar semacam itu selama 11 hari, termasuk sekitar 23.000 yang menggambarkan anak-anak. nPada 14 Januari, akun Safety X mengumumkan penundaan kemampuan pengeditan gambar Grok di dalam aplikasi media sosial, meskipun pelanggan berbayar masih dapat mengakses fitur pembuat gambar melalui aplikasi mandiri dan situs web. X tidak merespons permintaan komentar. nSebagai respons, OpenAI mengatasi kerentanan di ChatGPT yang diidentifikasi oleh perusahaan keamanan siber Mindgard. Peneliti menggunakan prompting adversarial untuk melewati pagar pengaman dan menghasilkan gambar intim individu terkenal. Mindgard memberi tahu OpenAI pada awal Februari, dan perusahaan mengonfirmasi perbaikan pada 10 Februari. n“Kami berterima kasih kepada peneliti yang membagikan temuan mereka,” kata juru bicara OpenAI. “Kami segera memperbaiki bug yang memungkinkan model menghasilkan gambar ini. Kami menghargai kolaborasi semacam ini dan tetap fokus memperkuat pengamanan untuk menjaga pengguna tetap aman.” nMindgard menekankan perlunya pertahanan yang kuat: “Mengasumsikan pengguna yang termotivasi tidak akan mencoba melewati pengamanan adalah kesalahan strategis. Penyerang berulang. Pagar pengaman harus mengasumsikan ketekunan.” nSementara itu, Google menyederhanakan proses penghapusan gambar eksplisit dari Google Search. Pengguna sekarang dapat melaporkan beberapa gambar sekaligus dengan memilih tiga titik di sudut kanan atas dan menunjukkan konten “menampilkan gambar seksual saya,” dengan pelacakan laporan yang lebih mudah. n“Kami harap proses penghapusan baru ini mengurangi beban yang dihadapi korban gambar eksplisit tanpa persetujuan,” kata Google dalam posting blog. Perusahaan merujuk pada kebijakan penggunaan AI generatif yang dilarang, yang melarang aktivitas ilegal atau kasar seperti membuat gambar intim. nPara advokat mencatat tantangan yang berkelanjutan, dengan undang-undang seperti Take It Down Act 2025 memiliki ruang lingkup terbatas, memicu seruan untuk regulasi yang lebih kuat.
