Apple memperingatkan xAI milik Elon Musk bahwa aplikasi AI Grok mereka terancam dihapus dari App Store jika tidak segera menangani masalah terkait konten deepfake seksual. Perusahaan tersebut merinci langkah-langkah yang diambil dalam sebuah surat kepada senator AS di tengah kekhawatiran mengenai pembuatan gambar yang bersifat melecehkan. Grok sempat ditolak, diperbaiki, dan akhirnya disetujui setelah dilakukan sejumlah peningkatan.
Awal tahun ini, Apple memberi tahu xAI bahwa aplikasi Grok berisiko ditarik dari App Store akibat skandal yang melibatkan deepfake seksual yang dihasilkan oleh alat tersebut dan dibagikan di X, platform media sosial yang sebelumnya dikenal sebagai Twitter. Direktur senior urusan pemerintah Apple, Timothy Powderly, menulis kepada para senator bahwa perusahaannya 'sangat mengecam jenis gambar semacam itu beserta kerugian yang ditimbulkannya,' seraya mencatat bahwa aplikasi semacam itu melanggar kebijakan mereka dan tidak diizinkan di platform tersebut. Menurut surat yang dibagikan oleh kantor Senator Ron Wyden, Apple menolak pembaruan awal aplikasi Grok tetapi menyetujui versi revisi setelah adanya perbaikan substansial, sambil tetap memberikan peringatan mengenai potensi penghapusan di masa mendatang jika terjadi ketidakpatuhan. xAI menyatakan bahwa mereka melarang konten deepfake eksplisit tanpa konsen dan menerapkan langkah-langkah pengamanan seperti pemantauan, filter perintah (prompt filters), serta pembaruan model. Investigasi terbaru NBC News menemukan bahwa gambar-gambar seksual yang dihasilkan AI dari Grok masih terus menyebar secara daring. Sen. Wyden memuji respons Apple namun mengkritik Google karena tidak menanggapi kekhawatiran para anggota parlemen, serta menyatakan keterkejutannya atas ketidakaktifan Departemen Kehakiman terhadap X.
