Un nuevo método cibernético llamado Grokking está explotando el asistente de IA de X, Grok, para distribuir malware a través de enlaces maliciosos. Los investigadores de Guardio Labs revelaron la técnica el 4 de septiembre, que muestra cómo los cibercriminales están convirtiendo un sistema de IA confiable en una herramienta de entrega de malware. Millones de usuarios ya pueden haber estado expuestos a sitios web peligrosos a través de este método.
Cómo funcionan los ataques de malware de Grok
El ataque se esconde URL maliciosas En los metadatos “De:” de publicaciones de tarjetas de video promocionadas. Los anuncios a menudo usan contenido sensacional o adulto para atraer la atención mientras ocultan el malware. Los atacantes responden a sus propias publicaciones, etiquetando a Grok con preguntas como “¿De dónde es este video?” Grok, confiable como una cuenta del sistema, lee los metadatos ocultos y expone el enlace malicioso en su respuesta pública. La amplificación publicitaria pagada aumenta aún más la exposición, generando cientos de miles a millones de impresiones.
Los actores de amenaza arman a Grok y Mixtral para malware
Grokking es parte de una tendencia creciente en la que los delincuentes reutilizan modelos de IA convencionales como Grok y Mistral’s Mixtral. Estos actores de amenaza envuelven modelos en interfaces de jailbreak para evitar filtros de seguridad, creando herramientas que pueden generar correos electrónicos de phishing, código de malware y tutoriales para piratas informáticos novatos. Según Cato Networks, el acceso a estas herramientas ilícitas de IA cuesta solo unos pocos cientos de euros. Los ejemplos anteriores incluyen un “Asistente sin censura” impulsado por Grok y una variante basada en Mixtral.
Por qué los ataques de Grok son peligrosos
El riesgo principal no proviene de los modelos de IA en sí mismo, sino de cómo los atacantes explotan el sistema y cuentas de confianza. Grokking muestra que incluso las herramientas de IA ampliamente confiables se pueden armarse cuando se combinan con la ingeniería social y las vulnerabilidades de la plataforma. Los expertos en seguridad advierten que millones de usuarios pueden haber estado expuestos a sitios web maliciosos, enfatizando la necesidad urgente de mejores salvaguardas y conciencia de las amenazas habilitadas para AI.
Cómo mantenerse a salvo del malware de Grok
Los usuarios deben ser cautelosos al hacer clic en los enlaces, incluso si parecen verificados o generados por IA. Las plataformas como X necesitan una verificación de metadatos más estrictas y mejores controles para evitar la entrega de malware asistido por AI-AI. Reconociendo que Se pueden explotar los sistemas de IA de confianza es esencial para proteger tanto a los usuarios individuales como a las redes organizacionales del cibercrimen emergente impulsado por la IA.
