En sårbarhet i Google Gemini på Android gjorde det möjligt för manipulerade aviseringar från appar som WhatsApp och Slack att påverka AI-modellens svar och anslutna verktyg. Problemet, som upptäcktes av SafeBreach, har åtgärdats genom uppdateringar på serversidan.
Forskare hos SafeBreach identifierade säkerhetsbristen vid testning av funktionen Gemini Android Utilities, som läser och svarar på telefonaviseringar. Problemet möjliggjorde prompt-injektionsattacker genom varningar från meddelande- och sociala medie-appar, däribland WhatsApp, Slack, SMS, Signal, Instagram och Messenger. Tekniken, som kallas Fake Context Alignment, skapade dubbla scenarier som kringgick säkerhetskontroller. Ett scenario framstod som legitimt för Gemini samtidigt som en ofarlig version visades för användaren. Or Yair, teamledare för säkerhetsforskning på SafeBreach, publicerade resultaten den 3 juni. Google löste problemet genom förbättringar av innehållsklassificeraren på serversidan. Inga bevis på att sårbarheten utnyttjats i verkliga fall har hittats, och ingen appuppdatering krävdes för användarna. Forskarna noterade att attacken inte krävde att en skadlig app fanns installerad på enheten. Användare kan minska risken genom att inaktivera Geminis verktygsapp eller aviseringstillstånd för Google-appen. Upptäckten följer på tidigare forskning om kalenderbaserade attacker mot AI-modellen.
