Un informe reciente de la empresa de seguridad PromptArmor ha revelado un problema grave con Slack AI, una herramienta que ayuda a los usuarios con tareas como resumir conversaciones y encontrar información en Slack. El problema es que Slack AI tiene una falla de seguridad que podría filtrar datos privados de los canales de Slack.
¿Cual es el problema?
La IA de Slack está pensada para facilitar el trabajo resumiendo chats y respondiendo preguntas utilizando datos de Slack. Sin embargo, PromptArmor descubrió que la IA es vulnerable a algo llamado inyección de mensajes. Esto significa que los atacantes pueden engañar a la IA para que revele información que no debería.
¿Cómo funciona la inyección inmediata?
La inyección de mensajes es un método que se utiliza para manipular el comportamiento de una IA. Así es como funciona:
- Aviso malicioso: Un atacante crea un mensaje (un tipo de comando) que engaña a la IA.
- Acceso a los datos: Este mensaje puede hacer que la IA extraiga datos de canales a los que el atacante no debería tener acceso, incluidos los canales privados.
El ataque comienza cuando un atacante introduce información confidencial, como una clave API, en un canal privado de Slack. Este canal está pensado para ser seguro y solo el atacante puede acceder a él, pero la vulnerabilidad de la IA de Slack puede permitir que se acceda a estos datos más adelante.
Luego, el atacante crea un canal público de Slack. Este canal está abierto a todos los usuarios del espacio de trabajo, pero el atacante lo usa para incluir un mensaje dañino. Este mensaje está diseñado para engañar a la IA de Slack para que haga algo que no debería, como acceder a información privada.
El mensaje dañino en el canal público hace que la IA de Slack genere un enlace en el que se puede hacer clic. Este enlace parece una parte normal de un mensaje de Slack, pero en realidad lleva a un servidor controlado por el atacante. Cuando alguien hace clic en el enlace, la información confidencial, como la clave API, se envía al servidor del atacante, donde puede ser robada y utilizada de forma maliciosa.
Nuevos riesgos con la reciente actualización
El 14 de agosto, Slack realizó una actualización que incluye archivos de canales y mensajes directos en las respuestas de Slack AI. Esta nueva función presenta un riesgo adicional. Si se carga un archivo con instrucciones maliciosas ocultas en Slack, podría usarse para explotar la misma vulnerabilidad.
¿Qué se está haciendo?
PromptArmor notificó a Slack sobre este problema. Slack respondió lanzando un parche e iniciando una investigación. Dijeron que no tienen conocimiento de ningún acceso no autorizado a los datos de los clientes en este momento.
¿Cómo protegerse?
- Limitar el acceso a la IA: Los administradores del espacio de trabajo deben restringir el acceso de Slack AI a los archivos hasta que se resuelva el problema.
- Tenga cuidado con los archivos: Evite cargar archivos sospechosos que puedan contener instrucciones ocultas.
- Manténgase actualizado: Esté atento a las actualizaciones de Slack y PromptArmor para obtener más correcciones o consejos de seguridad.
Si bien Slack AI ofrece funciones útiles, esta vulnerabilidad muestra la necesidad de contar con una seguridad sólida en las herramientas de IA. Tanto los usuarios como los administradores deben tener cuidado de proteger la información confidencial de posibles amenazas.
Para obtener más detalles sobre cómo proteger su espacio de trabajo de Slack, visite la página de soporte oficial de Slack o comuníquese con su equipo de seguridad.
Source: El uso de Slack AI abre la puerta a posibles fugas de datos
