Kerentanan pada Google Gemini di Android memungkinkan notifikasi yang dirancang khusus dari aplikasi seperti WhatsApp dan Slack memanipulasi respons AI serta alat yang terhubung. Masalah yang ditemukan oleh SafeBreach ini telah diatasi melalui pembaruan di sisi server.
Peneliti SafeBreach mengidentifikasi celah tersebut saat menguji fitur Utilities pada Gemini di Android, yang berfungsi membaca dan menanggapi notifikasi ponsel. Masalah ini memungkinkan serangan injeksi perintah menggunakan peringatan dari aplikasi perpesanan dan media sosial termasuk WhatsApp, Slack, SMS, Signal, Instagram, dan Messenger. Teknik yang disebut Fake Context Alignment ini menciptakan dua skenario yang dapat melewati pemeriksaan keamanan. Salah satu skenario tampak sah bagi Gemini sementara menampilkan versi yang aman kepada pengguna. Or Yair, ketua tim riset keamanan di SafeBreach, mempublikasikan temuan tersebut pada 3 Juni. Google menyelesaikan masalah ini dengan peningkatan klasifikasi konten di sisi server. Tidak ditemukan bukti adanya eksploitasi di dunia nyata, dan pengguna tidak perlu melakukan pembaruan aplikasi. Para peneliti mencatat bahwa serangan ini tidak memerlukan aplikasi berbahaya di perangkat. Pengguna dapat mengurangi risiko dengan menonaktifkan fitur Utilities pada Gemini atau izin notifikasi aplikasi Google. Penemuan ini menyusul penelitian sebelumnya mengenai serangan berbasis kalender terhadap AI tersebut.
