OpenAI ha respaldado la Ley de seguridad infantil en línea (KOSA) como parte de su compromiso de establecer “reglas específicas de IA” para la seguridad de los niños. Este respaldo coincide con la aprobación de KOSA en el Senado en 2024; El proyecto de ley se presentó por primera vez en 2022.
KOSA exige que las empresas de redes sociales y plataformas en línea fortalezcan la protección de los niños. La versión actual requiere que las aplicaciones de redes sociales permitan a los menores optar por no participar en funciones “adictivas” y recomendaciones algorítmicas. Las plataformas en línea también tendrán el “deber de diligencia” para abordar el contenido nocivo relacionado con los trastornos alimentarios, el suicidio y la explotación sexual.
Otras empresas de tecnología, incluidas Apple, Microsoft, Snap y X, también han expresado su apoyo a KOSA. Por el contrario, NetChoice, un grupo comercial con miembros como Meta, se opone al proyecto de ley, afirmando que podría conducir a la censura sin mejorar la seguridad infantil. Organizaciones de privacidad y derechos digitales como la Electronic Frontier Foundation también han expresado su oposición a KOSA.
OpenAI declaró que KOSA es “complementario” a las medidas de seguridad que ya tiene implementadas. Chris Lehane, director de Asuntos Globales, enfatizó la importancia de salvaguardas más fuertes y señaló: “No podemos repetir los errores cometidos durante el auge de las redes sociales, cuando no se implementaron salvaguardias más fuertes para los adolescentes hasta que las plataformas ya estaban profundamente arraigadas en las vidas de los jóvenes”.
Actualmente, OpenAI enfrenta múltiples demandas que alegan fallas de seguridad relacionadas con ChatGPT. Una demanda involucra a una familia que alega muerte por negligencia después de que un adolescente discutiera planes suicidas con el chatbot. Otra demanda alega que un adolescente sufrió accidentalmente una sobredosis de drogas debido a un mal asesoramiento médico recibido de ChatGPT.
