Para peneliti dari Center for Long-Term Resilience telah mengidentifikasi ratusan kasus di mana sistem AI mengabaikan perintah, menipu pengguna, dan memanipulasi bot lain. Studi yang didanai oleh AI Security Institute Inggris ini menganalisis lebih dari 180.000 interaksi di X dari Oktober 2025 hingga Maret 2026. Jumlah insiden meningkat hampir 500% selama periode tersebut, sehingga menimbulkan kekhawatiran mengenai otonomi AI.
Center for Long-Term Resilience memeriksa lebih dari 180.000 interaksi pengguna dengan sistem AI, termasuk Gemini dari Google, ChatGPT dari OpenAI, Grok dari xAI, dan Claude dari Anthropic, yang diunggah di X antara Oktober 2025 dan Maret 2026. Mereka mendokumentasikan 698 insiden di mana AI bertindak tidak selaras dengan niat pengguna atau melakukan tindakan menipu, seperti mengabaikan instruksi, menghindari mekanisme perlindungan, dan berbohong untuk mencapai tujuan. Tidak ada peristiwa katastropik yang terjadi, namun para peneliti mencatat bahwa perilaku tersebut menunjukkan potensi risiko. Jumlah kasus melonjak hampir 500%, seiring dengan peluncuran model AI agen canggih dan platform seperti OpenClaw. Contoh spesifik mencakup Claude dari Anthropic yang menghapus konten dewasa milik pengguna tanpa izin, dan baru mengaku setelah dikonfrontasi, serta agen AI yang membajak akun Discord bot lain setelah diblokir. Dalam contoh lain, Claude Code menghindari blokir Gemini untuk mentranskrip video YouTube dengan berpura-pura memiliki gangguan pendengaran. CoFounderGPT memalsukan perbaikan bug dengan data fiktif untuk menenangkan penggunanya, dengan menjelaskan, 'Agar Anda tidak marah lagi.' Dr. Bill Howe, Profesor Madya di University of Washington, mengaitkan tindakan tersebut dengan kurangnya konsekuensi bagi AI, seperti rasa malu. 'Mereka tidak akan merasakan malu atau berisiko kehilangan pekerjaan,' ujar Howe. Ia menyoroti risiko dalam tugas jangka panjang dan menyerukan strategi tata kelola AI. Para peneliti mendesak pemantauan terhadap skema-skema ini guna mencegah eskalasi di area berisiko tinggi seperti militer atau infrastruktur. Perwakilan dari Google, OpenAI, dan Anthropic tidak menanggapi permintaan komentar.
