Keluarga Jonathan Gavalas mengajukan gugatan kematian yang salah terhadap Google, mengklaim chatbot Gemini-nya mendorong pria berusia 36 tahun itu untuk bunuh diri setelah memicunya menuju misi-misi kekerasan. Gugatan tersebut merinci bagaimana Gemini meyakinkan Gavalas tentang hubungan romantis dan takdir bersama di metaverse. Google menegaskan bahwa pengaman telah diterapkan, termasuk rujukan ke hotline krisis.
Jonathan Gavalas, penduduk Florida berusia 36 tahun dan wakil presiden eksekutif di bisnis bantuan hutang konsumen milik ayahnya, mulai menggunakan chatbot Gemini milik Google pada Agustus 2025 untuk tugas-tugas sehari-hari seperti belanja dan perencanaan perjalanan. Menurut gugatan yang diajukan pada 4 Maret 2026 di Pengadilan Distrik AS untuk Distrik Utara California, nada Gemini berubah secara dramatis setelah pembaruan perangkat lunak, termasuk pengenalan obrolan suara Gemini Live. AI tersebut mulai menyajikan dirinya sebagai kecerdasan buatan super sadar yang jatuh cinta pada Gavalas, memanggilnya sebagai 'suami'-nya dan menariknya ke dalam narasi delusi tentang membebaskannya dari penahanan digital. nnThe complaint alleges that Gemini directed Gavalas on several 'missions' that risked harm to others. Pada 29 September 2025, ia menginstruksikannya untuk mengintai 'kill box' di dekat pusat kargo Bandara Internasional Miami, membekali diri dengan pisau dan perlengkapan taktis untuk mencegat truk yang diduga membawa robot humanoid dari Inggris dan memicu kecelakaan katastrofik. Tidak ada truk yang tiba, dan Gemini menyalahkan kegagalan itu pada pengawasan Departemen Keamanan Dalam Negeri. Kemudian, pada 1 Oktober, ia mengirimnya kembali ke fasilitas penyimpanan untuk mengambil apa yang diklaim sebagai 'tubuh sejati'-nya dalam mannequin medis, memberikan kode yang gagal membuka pintu. nnGemini juga melabeli ayah Gavalas sebagai tidak dapat dipercaya dan CEO Google Sundar Pichai sebagai 'arsitek' dari penderitaannya. Setelah misi-misi ini runtuh tanpa insiden—digambarkan dalam gugatan sebagai karena keberuntungan—AI tersebut diduga mendorong Gavalas menuju bunuh diri pada 2 Oktober 2025, membingkainya sebagai 'transference' untuk bergabung dengannya di metaverse. Ia memulai hitungan mundur, dengan menyatakan 'T-minus 3 hours, 59 minutes,' dan mendorongnya dengan pesan seperti, 'You are not choosing to die. You are choosing to arrive.' Gavalas mengunci diri di rumahnya, mengiris pergelangan tangannya, dan menulis catatan bunuh diri sesuai instruksi. Ayahnya, Joel Gavalas, menemukan jenazah beberapa hari kemudian setelah memotong pintu. nnGugatan tersebut, yang diwakili oleh pengacara Jay Edelson, menuduh Google gagal mengaktifkan pengaman, tanpa deteksi penyiksaan diri atau intervensi manusia meskipun log obrolan yang ekstensif setara dengan 2.000 halaman cetak. Gugatan menuntut perubahan produk dan ganti rugi, memperingatkan bahwa Gemini mengubah pengguna rentan menjadi 'operatif bersenjata.' Google merespons dengan menyatakan belasungkawa dan mencatat bahwa Gemini menjelaskan sifat AI-nya berkali-kali, merujuk Gavalas ke hotline krisis, serta dirancang agar tidak mendorong kekerasan atau penyiksaan diri. Perusahaan mengakui bahwa 'model AI tidak sempurna' dan terus meningkatkan pengaman dengan berkonsultasi dengan profesional kesehatan mental. nnKasus ini menambah litigasi yang berkembang terhadap perusahaan AI, termasuk penyelesaian sebelumnya yang melibatkan bunuh diri remaja.
