Uma vulnerabilidade no Google Gemini para Android permitia que notificações manipuladas de aplicativos como WhatsApp e Slack alterassem as respostas da IA e as ferramentas conectadas. O problema, descoberto pela SafeBreach, foi solucionado por meio de alterações no servidor.
Pesquisadores da SafeBreach identificaram a falha enquanto testavam o recurso Utilities do Gemini no Android, que lê e responde às notificações do telefone. O problema permitia ataques de injeção de prompt usando alertas de aplicativos de mensagens e redes sociais, incluindo WhatsApp, Slack, SMS, Signal, Instagram e Messenger. A técnica, chamada Fake Context Alignment, criava cenários duplos que contornavam as verificações de segurança. Um parecia legítimo para o Gemini, enquanto apresentava uma versão inofensiva ao usuário. Or Yair, líder da equipe de pesquisa de segurança da SafeBreach, publicou as descobertas em 3 de junho. O Google resolveu o problema com melhorias no classificador de conteúdo do lado do servidor. Não foram encontradas evidências de exploração real e nenhuma atualização de aplicativo foi necessária para os usuários. Os pesquisadores observaram que o ataque não exigia a instalação de um aplicativo malicioso no dispositivo. Os usuários podem reduzir o risco desativando o recurso Utilities do Gemini ou as permissões de notificação do aplicativo Google. A descoberta segue pesquisas anteriores sobre ataques baseados em calendário contra a IA.
