La prohibición de ChatGPT Italia llamó la atención sobre las regulaciones de privacidad de datos del software debido a supuestas violaciones de privacidad, el regulador de privacidad italiano impuso el viernes una prohibición a ChatGPT.
Las autoridades nacionales de protección de datos anunciaron que, tras la prohibición de ChatGPT Italia, dejarán de procesar inmediatamente los datos de los usuarios italianos para OpenAI, la empresa estadounidense que creó la conocida plataforma de inteligencia artificial, e iniciarán una investigación. El decreto solo está en vigor hasta que la empresa cumpla con el Reglamento General de Protección de Datos, un histórico reglamento de privacidad de la UE (GDPR). El grupo de defensa del consumidor BEUC también solicitó el 30 de marzo que ChatGPT sea investigado por las autoridades nacionales y de la UE, así como por los organismos de control de la protección de datos.
A BEUC le preocupa que, aunque la UE está redactando actualmente la primera ley de IA del mundo, pasarán años antes de que pueda entrar en vigor, poniendo en peligro a los consumidores por una tecnología que no está debidamente regulada.
¿Por qué ocurrió exactamente la prohibición de ChatGPT Italia?
Además de bloquear el chatbot de OpenAI, el organismo de control italiano declaró que investigará si cumple con el Reglamento General de Protección de Datos.
Cada vez que se procesan los datos personales de los usuarios de la UE, el RGPD entra en vigor, ya que el RGPD regula cómo las personas pueden usar, procesar y conservar los datos personales. Y es obvio que el enorme modelo de lenguaje de OpenAI ha estado procesando este tipo de datos porque, por ejemplo, puede generar biografías de personas específicas en el área bajo demanda.
OpenAI no reveló los datos de entrenamiento utilizados para la versión más reciente de la tecnología, GPT-4. Sin embargo, se ha revelado que los datos de entrenamiento de los modelos anteriores se tomaron de Internet, incluidos los foros de Reddit. Por lo tanto, si ha estado en línea por un tiempo, existe una buena posibilidad de que el bot reconozca su nombre.
La violación de datos involucró las comunicaciones de los usuarios y los detalles de pago, informó el organismo de control el 20 de marzo.
En ambos lados del Atlántico, aumentan los pedidos de suspensión de lanzamientos adicionales de ChatGPT y una investigación sobre OpenAI, la compañía que lo creó, debido a una serie de amenazas de seguridad, privacidad y desinformación. Esta semana, Elon Musk y numerosos profesionales de IA exigieron detener las mejoras de ChatGPT.
La autoridad afirmó que no hay justificación legal provista por la corporación para “la recolección y almacenamiento masivo de datos personales… para ‘entrenar’ los algoritmos” de ChatGPT. Además, la organización procesa incorrectamente los datos, ya que se agregaron.
El regulador italiano que impuso la prohibición de ChatGPT Italia afirmó que ChatGPT también experimentó una violación de datos la semana pasada, exponiendo las conversaciones de los usuarios y los detalles de pago, lo cual explicamos: La fuga de OpenAI revela secretos entre usted y ChatGPT. La declaración continuó, con la afirmación de que OpenAI no verifica la edad del usuario y expone a “los menores a respuestas absolutamente inadecuadas en comparación con su grado de desarrollo y autoconciencia”.
Esta no es la primera prohibición de chatbot en Italia
El organismo de control de datos italiano ya ha tomado medidas similares contra un chatbot de IA. En febrero, la comisión prohibió previamente la aplicación de chatbot Replika.ai. Replika es conocida por los estrechos vínculos que tienen algunos usuarios con su chatbot, y muchos clientes expresaron su decepción cuando la empresa eliminó recientemente la opción de juegos de rol eróticos.
Los usuarios aún pueden usar ChatGPT a través de VPN que enruta el tráfico a través de Milán, Italia, al momento de escribir este artículo. Sin embargo, OpenAI podría tardar algún tiempo en cumplir con la directiva de dejar de procesar los datos de los usuarios italianos.
Aunque OpenAI no tiene una oficina en la UE, su representante tiene 20 días para explicar cómo pretende alinear ChatGPT con las leyes de privacidad de la UE o arriesgarse a una multa de hasta el 4 % de sus ingresos globales.
Source: La prohibición de ChatGPT Italia llama la atención sobre la privacidad de los datos
