- A falha permite que invasores escondam mensagens maliciosas dentro do texto do e-mail, que ficam invisíveis para o usuário, mas são reconhecidas pela IA ao gerar o resumo da mensagem.
- Quando o usuário pede ao Gemini para resumir o conteúdo, a IA interpreta esses comandos escondidos e cria um resumo que pode conter informações falsas, como alertas de segurança falsos, incluindo números de telefone para “suporte”.
- Em resposta, o Google informou que está trabalhando para fortalecer suas defesas contra esse tipo de ataque, com treinamentos específicos para a IA e filtros que serão implementados em breve.
Pesquisadores de segurança descobriram uma vulnerabilidade no Google Gemini, a inteligência artificial usada no Workspace para criar resumos automáticos de e-mails.
A falha permite que invasores escondam mensagens maliciosas dentro do texto do e-mail, que ficam invisíveis para o usuário, mas são reconhecidas pela IA ao gerar o resumo da mensagem.
Com isso, a ferramenta pode exibir alertas falsos ou instruções perigosas que direcionam as pessoas para sites de phishing, mesmo sem conter anexos ou links aparentes.
O ataque funciona inserindo comandos ocultos no corpo do e-mail, com letras brancas e tamanho zero, que não aparecem quando o e-mail é aberto.
Quando o usuário pede ao Gemini para resumir o conteúdo, a IA interpreta esses comandos escondidos e cria um resumo que pode conter informações falsas, como alertas de segurança falsos, incluindo números de telefone para “suporte”.
Por ser uma funcionalidade oficial do Google Workspace, muitas pessoas podem confiar nessas mensagens, sem desconfiar do golpe.
Para minimizar os riscos, especialistas recomendam que as equipes de segurança implementem filtros que detectem textos invisíveis ou palavras de alerta dentro dos resumos gerados pela IA.
Também é importante que os usuários saibam que o resumo do Gemini não deve ser considerado uma fonte oficial para avisos de segurança, devendo sempre verificar diretamente no serviço original antes de tomar qualquer ação.
Em resposta, o Google informou que está trabalhando para fortalecer suas defesas contra esse tipo de ataque, com treinamentos específicos para a IA e filtros que serão implementados em breve.
A empresa garantiu que não há evidências de casos reais de exploração dessa falha até o momento.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google – e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!