Una nueva vulnerabilidad en Google Gemini para el espacio de trabajo permite ataques de phishing manipulando resúmenes de correo electrónico sin archivos adjuntos o enlaces directos. Decluido por el investigador Marco Figueroa a través del programa 0Din Bug Bounty de Mozilla, el método aprovecha las inyecciones indirectas de inmediato ocultas en los correos electrónicos.
Los atacantes incrustan las instrucciones maliciosas en el texto del cuerpo de correo electrónico utilizando HTML y CSS para hacerlas invisibles. Cuando un destinatario le pide a Gemini que resume el correo electrónico, el AI analiza y obedece la directiva oculta. Un ejemplo mostró que Gemini generaba una advertencia de seguridad falsa sobre una contraseña de Gmail comprometida, incluido un número de teléfono de soporte, que se hace pasar por una alerta legítima.
Si bien Google declaró que están endureciendo las defensas e implementando mitigaciones, no han visto evidencia de este ataque en la naturaleza. Figueroa sugiere que los equipos de seguridad eliminan o neutralizan el contenido oculto e implementan filtros de postprocesamiento en la salida de Gemini. Se aconseja a los usuarios que no consideren los resúmenes de Gemini autorizados para las alertas de seguridad.
Source: Cómo los piratas informáticos pueden armarse la función de resumen de Géminis
