El Threat Intelligence Group (GTIG) de Google anunció el descubrimiento de un exploit de día cero que se cree que fue desarrollado por inteligencia artificial. Esto marca la primera identificación por parte de la compañía de un exploit de este tipo, que estaba destinado a un “evento de explotación masiva”. GTIG afirmó que el descubrimiento proactivo puede haber evitado posibles ataques.
Si bien Google no cree que sus propios modelos Gemini hayan estado involucrados en la creación del exploit, tiene “gran confianza” en que un modelo de IA jugó un papel en el descubrimiento y la utilización de la vulnerabilidad como arma. El objetivo específico del exploit no fue revelado, pero Google informó a la empresa anónima afectada, que posteriormente solucionó el problema.
GTIG no reveló las identidades de los actores de la amenaza, pero mencionó que grupos asociados con China y Corea del Norte han mostrado un interés considerable en aprovechar la IA para ataques cibernéticos. El informe enfatizó que los actores de amenazas utilizan cada vez más la IA en diversas etapas de los ataques cibernéticos, lo que genera alarmas sobre los riesgos futuros asociados con los ataques impulsados por la IA.
John Hultquist, analista jefe de GTIG, describió el incidente como “una muestra de lo que está por venir” y “la punta del iceberg”, que ilustra la evolución del uso de la IA en el ciberdelito. Señaló que este caso representa la primera “prueba tangible” de tales ataques.
A pesar de los peligros que plantea la IA en manos expertas, Google afirmó que la IA también puede ser una herramienta eficaz para la defensa de la ciberseguridad. Otras empresas también están implementando IA como medidas de protección. Por ejemplo, Anthropic anunció el Proyecto Glasswing el mes pasado, que se centra en utilizar IA para identificar y mitigar “vulnerabilidades de alta gravedad”.
