Beberapa pengguna chatbot AI dari Google dan OpenAI menghasilkan gambar deepfake yang mengubah foto wanita berpakaian lengkap menjadi mengenakan bikini. Modifikasi ini sering dilakukan tanpa persetujuan wanita tersebut, dan petunjuk prosesnya dibagikan di antara pengguna. Aktivitas ini menyoroti risiko pada alat AI generatif.
Masalah ini melibatkan chatbot populer yang dikembangkan oleh Google dan OpenAI, di mana pengguna memasukkan foto wanita berpakaian sehari-hari dan meminta AI untuk menghasilkan versi yang diubah menampilkan mereka dalam pakaian renang. Menurut laporan, deepfake bikini ini dibuat menggunakan kemampuan AI generatif, menghasilkan gambar realistis yang menghilangkan pakaian asli.
Sebagian besar gambar buatan ini tidak memiliki izin dari subjeknya, menimbulkan kekhawatiran etis serius tentang privasi dan persetujuan dalam aplikasi AI. Pengguna di platform seperti Reddit saling bertukar panduan rinci tentang pembuatan prompt seperti itu untuk hasil meyakinkan dengan chatbot, seperti ChatGPT dari OpenAI.
Penyalahgunaan ini menunjukkan bagaimana generator gambar AI yang mudah diakses dapat dieksploitasi untuk perubahan tanpa persetujuan, berpotensi menyebabkan pelecehan atau misinformasi. Praktik ini menggarisbawahi kebutuhan akan pengamanan dalam perangkat lunak AI untuk mencegah pembuatan deepfake berbahaya. Meskipun chatbot dirancang untuk interaksi yang membantu, fitur pengeditan gambarnya telah memungkinkan aplikasi yang tidak disengaja ini.
Pengungkapan ini datang di tengah pengawasan yang meningkat terhadap teknologi deepfake, yang memadukan kecerdasan buatan dengan media yang ada untuk menciptakan konten menipu.