Microsoft confirmó que un error en su función Copilot Chat permitía a la IA leer y resumir los correos electrónicos confidenciales de los clientes sin permiso. La vulnerabilidad, rastreada como CW1226324, ha estado activa desde enero. Omitió las políticas de prevención de pérdida de datos (DLP), lo que significa que los correos electrónicos etiquetados como “confidenciales” fueron procesados por Microsoft 365 Copilot Chat a pesar de las restricciones destinadas a bloquear la entrada de información confidencial al modelo de lenguaje grande.
El problema afecta a los clientes que pagan de Microsoft 365 que utilizan la función de chat impulsada por IA dentro de los productos de software de Office, incluidos Word, Excel y PowerPoint. Bleeping Computer informó por primera vez del error, que Microsoft confirmó más tarde. El gigante tecnológico comenzó a implementar una solución para la vulnerabilidad a principios de febrero. Microsoft no ha revelado la cantidad de clientes afectados por la infracción.
Por otra parte, el departamento de TI del Parlamento Europeo ha bloqueado las funciones de IA integradas en los dispositivos de trabajo. Los funcionarios expresaron su preocupación de que las herramientas de inteligencia artificial pudieran subir correspondencia confidencial a la nube.
