La fuga de Samsung ChatGPT es la exposición de datos más reciente por el uso del chatbot, que llega en un momento delicado con respecto a las preocupaciones de privacidad sobre el modelo de lenguaje: la extensión Fake ChatGPT secuestra cuentas de Facebook
Mientras usaban ChatGPT para ayudarlos con las tareas, los empleados de Samsung filtraron involuntariamente información confidencial sobre la empresa. La empresa dio a los ingenieros de su división de semiconductores acceso al escritor de IA para ayudar a resolver problemas con su código fuente. Sin embargo, los empleados ingresaron información privada, incluido el código fuente del nuevo software y las actas de las reuniones, así como información sobre su hardware.
Como resultado de la filtración de Samsung ChatGPT, hubo tres casos documentados de empleados que filtraron información crítica a través de ChatGPT en menos de un mes. Estos secretos comerciales de Samsung ahora están esencialmente en manos de OpenAI, la firma que creó ChatGPT, ya que guarda los datos ingresados por los usuarios para capacitarse aún más.
Precauciones tras la fuga de Samsung ChatGPT
Según las denuncias en los medios coreanos locales, un empleado de Samsung ingresó el código fuente de una base de datos de semiconductores que funcionaba mal en ChatGPT y le pidió ayuda para encontrar una solución. En otro caso, un trabajador divulgó un código secreto en un esfuerzo por reparar un equipo defectuoso. Según los informes, otro empleado le dio al chatbot el control de una reunión completa y le indicó que grabara los procedimientos.
En respuesta, Samsung Semiconductor está creando actualmente su propia IA interna para uso de los miembros del personal, aunque solo se les permite usar avisos que no superen los 1024 bytes.
Sin embargo, hacer que este proceso sea lo más efectivo posible tiene el potencial de ahorrar a las empresas de chips una cantidad significativa de tiempo en la prueba y verificación de los procesadores, lo que también conduce a reducciones de costos. En uno de los casos mencionados, un empleado solicitó a ChatGPT que optimizara las secuencias de prueba para identificar fallas en los chips.
Demasiado poco y demasiado tarde
El problema con la divulgación de secretos comerciales a ChatGPT es que las preguntas escritas no siempre desaparecen después de que un empleado cierra sesión en su computadora. Según OpenAI, puede utilizar la información proporcionada por ChatGPT u otros servicios de usuario para mejorar sus modelos de IA. En otras palabras, a menos que los usuarios opten específicamente por no participar, OpenAI retiene esos datos. Debido a que “no puede eliminar avisos específicos”, OpenAI advierte expresamente a los usuarios que no revelen información crítica.
A raíz de los incidentes, Samsung Electronics emitió una advertencia a sus empleados sobre los riesgos potenciales de divulgar información privada, afirmando que dichos datos ahora están alojados en servidores propiedad de OpenAI y no se pueden recuperar. Cualquier tipo de fuga de datos podría ser desastroso para la corporación en la ferozmente competitiva industria de los semiconductores.
Pero los usuarios de ChatGPT dentro de Samsung no son los únicos que comparten en exceso. Cyberhaven, una empresa de ciberseguridad, realizó recientemente una investigación y descubrió que el 3,1 % de los usuarios de su IA había ingresado alguna vez información confidencial de la empresa. Según Cyberhaven, una corporación con alrededor de 100 000 empleados podría estar enviando información privada de OpenAI cientos de veces por semana.
La empresa no parece tener ninguna opción legal frente a la filtración de Samsung ChatGPT para pedir que OpenAI recupere o elimine la información privada que conserva actualmente. Algunos han sugerido que debido a que este es uno de los principios fundamentales de la ley que rige cómo las empresas recopilan y usan datos, ChatGPT infringe el RGPD de la UE debido a este mismo punto. También es una de las explicaciones de por qué ChatGPT fue prohibido en Italia.
Source: La fuga de Samsung ChatGPT expone datos confidenciales