Slack, la plataforma ampliamente utilizada para la comunicación en el lugar de trabajo, utiliza datos de los usuarios para mejorar sus capacidades de inteligencia artificial.
La información a la que accede la IA incluye el aprovechamiento de mensajes, archivos y otro contenido generado por el usuario para mejorar funciones como recomendaciones de canales, funcionalidad de búsqueda, autocompletar y sugerencias de emoji.
Si bien estas mejoras tienen como objetivo optimizar la experiencia del usuario, la práctica de acceder a los datos del usuario ha generado preocupaciones con respecto a la privacidad y el consentimiento.
Decodificar el algoritmo de inteligencia artificial de Slack son los datos del usuario, el ingrediente secreto
En el centro de la formación en IA de Slack se encuentra el uso de las interacciones del usuario dentro de la plataforma. Al analizar patrones en mensajes, archivos y otras formas de comunicación, los modelos de inteligencia artificial de Slack obtienen información que luego se aplica para mejorar diversas funciones. Este enfoque, si bien parece beneficioso para mejorar la experiencia del usuario, plantea dudas sobre hasta qué punto se accede a los datos del usuario y cómo se utilizan. Por supuesto, estos son los pensamientos de la empresa. Los usuarios están muy preocupados por esta situación.
Acceder a este contenido, que puede incluir mensajes privados, información de la empresa o archivos confidenciales, con el permiso de la inteligencia artificial de la empresa, ha comenzado a plantear cuestiones éticas.
La inclusión predeterminada genera debate
Uno de los aspectos más polémicos del entrenamiento de IA de Slack es la inclusión predeterminada de todos los usuarios. Esto significa que, a menos que un usuario u organización opte específicamente por no participar, sus datos se incluyen automáticamente en el proceso de formación. Esta práctica ha generado críticas por parte de quienes creen que se debe informar a los usuarios y darles la opción de participar en la recopilación de datos antes de que comience.
Polémica al descubierto: reconocimiento y respuesta de Slack
El tema cobró fuerza cuando Corey Quinn, un ejecutivo de DuckBill Group, criticó públicamente la política de inteligencia artificial de Slack. En respuesta, Slack confirmó el uso de contenido de usuario para entrenar algunas de sus herramientas de IA, al tiempo que aclaró que los datos de los clientes no se utilizan para entrenar herramientas de IA pagas. La compañía también afirmó que las organizaciones o los administradores de espacios de trabajo pueden solicitar la eliminación de sus mensajes y contenido del conjunto de datos de capacitación, lo que plantea dudas sobre por qué dicha solicitud es necesaria en una plataforma por la que los usuarios pagan.
Las preocupaciones de los usuarios se difunden en las redes sociales
La controversia se intensificó aún más en la plataforma de redes sociales X, donde muchos usuarios argumentaron que Slack debería haber hecho que la función de entrenamiento de IA fuera opcional en lugar de la configuración predeterminada. Surgieron preocupaciones sobre el posible uso indebido de mensajes privados, información de la empresa y archivos confidenciales, así como la falta de un mecanismo sencillo de exclusión voluntaria para los usuarios individuales.
En respuesta a las consultas, un representante de Slack reiteró que los modelos de IA de la empresa no están diseñados para aprender, memorizar ni reproducir datos de los clientes. Hicieron hincapié en que los clientes pueden excluir sus datos del entrenamiento de estos modelos de IA (no generativos). Sin embargo, esta aclaración ha hecho poco para calmar las preocupaciones de los usuarios que sienten que la comunicación inicial sobre el uso de datos no fue clara y potencialmente engañosa.
Una narrativa confusa: declaraciones incompatibles sobre la política de IA
Declaración de Slack en su página de inteligencia artificial: “Tus datos son tus datos. No lo utilizamos para entrenar la IA de Slack”, añadió a la confusión. Si bien la compañía aclara que las herramientas de IA productivas pagas no se entrenan con los datos de los usuarios de Slack, el reconocimiento de que otros modelos de IA se entrenan con dichos datos contradice la noción de que los datos de los usuarios permanecen únicamente en manos de los usuarios. La abogada Elizabeth Wharton calificó la decisión de Slack como un “desastre de privacidad” y criticó la falta de una salida fácil para los usuarios individuales.
La práctica de Slack de utilizar datos de usuarios para el entrenamiento de IA, si bien tiene como objetivo mejorar las características de la plataforma, ha generado una importante controversia. La inclusión predeterminada de usuarios, la falta de comunicación clara y las posibles implicaciones para la privacidad han alimentado debates sobre el consentimiento, la transparencia y el uso ético de datos en la era digital. A medida que la IA sigue desempeñando un papel cada vez más destacado en diversos aspectos de nuestras vidas, es probable que la conversación en torno a los datos de los usuarios y su utilización siga siendo un punto focal tanto para los consumidores como para las empresas.
Crédito de la imagen destacada: Stephen Phillips – Hostreviews.co.uk / Unsplash
