Microsoft publicó un informe de inteligencia de amenazas esta semana que revela que los piratas informáticos están integrando cada vez más la inteligencia artificial en cada fase de sus operaciones, desde el reconocimiento y el phishing hasta el desarrollo de malware y la actividad posterior al compromiso.
La compañía describió la IA como un “multiplicador de fuerza” que reduce las barreras técnicas y acelera la ejecución para atacantes de distintos niveles de habilidad. Los hallazgos indican que la adopción de la IA está reduciendo la competencia técnica necesaria para realizar ciberataques a gran escala.
Los grupos de amenazas norcoreanos Jasper Sleet y Coral Sleet utilizan IA generativa para impulsar elaborados planes de empleo falsos dirigidos a empresas occidentales. Los actores de Jasper Sleet utilizan herramientas de inteligencia artificial para generar listas de nombres culturalmente apropiados, adaptar currículums falsos a ofertas de trabajo específicas y elaborar comunicaciones profesionales para mantener el empleo a largo plazo una vez contratado, según CyberScoop.
Microsoft observó a Jasper Sleet usando la aplicación de inteligencia artificial Faceswap para insertar rostros de trabajadores de TI de Corea del Norte en documentos de identidad robados y crear retratos pulidos para currículums. El grupo también utilizó tecnología de alteración de la voz durante las entrevistas virtuales para disfrazar los acentos, lo que permitió a los agentes hacerse pasar por candidatos occidentales, informó The Guardian.
“Jasper Sleet emplea IA durante todo el proceso de ataque para asegurar el empleo, mantenerlo y explotar el acceso a gran escala”, afirmó Microsoft.
Coral Sleet utilizó herramientas de codificación de IA para generar y perfeccionar componentes de malware, crear sitios web empresariales falsos, proporcionar infraestructura remota y probar rápidamente cargas útiles. Según Microsoft, el grupo hizo jailbreak a grandes modelos de lenguaje para generar código malicioso que elude los controles de seguridad integrados.
Microsoft notó la experimentación temprana por parte de actores de amenazas con IA agente, donde los modelos respaldan la toma de decisiones y la ejecución de tareas iterativas, aunque esto aún no se ha observado a escala.
Google informó en febrero que su Threat Intelligence Group observó que actores de amenazas utilizaban IA para recopilar información, crear campañas de phishing y desarrollar malware. Amazon documentó una campaña en la que un hacker de habla rusa utilizó servicios de IA generativa para violar más de 600 firewalls FortiGate en 55 países en cinco semanas, lo que demuestra cómo la IA permitió a un atacante con habilidades limitadas operar a una escala que antes requería un equipo más grande y más capaz.
Microsoft aconsejó a las organizaciones que traten los esquemas de trabajadores de TI impulsados por IA como riesgos internos y que se concentren en detectar el uso anormal de credenciales, reforzar los sistemas de identidad contra el phishing y proteger los sistemas de IA que pueden convertirse en objetivos.
