El CEO de Openai, Sam Altman, anunció el martes nuevas políticas de usuario destinadas a mejorar la seguridad para los usuarios de ChatGPT menores de 18 años, marcando un cambio significativo en la forma en que el chatbot de IA interactúa con menores. Los cambios priorizan la seguridad sobre la privacidad y la libertad para los adolescentes, lo que refleja el reconocimiento de OpenAI de la naturaleza poderosa pero potencialmente dañina de la tecnología. “Priorizamos la seguridad antes de la privacidad y la libertad para los adolescentes”, dijo Altman’s Post. “Esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa”. Las políticas introducen restricciones específicas en las conversaciones que involucran temas sexuales o autolesiones. Específicamente, ChatGPT estará capacitado para evitar “charlas coquetas” con usuarios menores de edad, y las barandillas mejoradas gobernarán las discusiones sobre el suicidio. En los casos en que un menor se involucra en escenarios suicidas, el sistema intentará notificar a sus padres; Para casos severos, puede involucrar a las autoridades policiales locales. Estas medidas son impulsadas por las tragedias del mundo real y los desafíos legales en curso. Actualmente, Openai se defiende contra una demanda de muerte injusta presentada por los padres de Adam Raine, un adolescente que murió por suicidio después de meses de interacciones con ChatGPT. Una demanda similar se dirige al personaje. AI, otro chat de consumo popular. Los expertos y defensores han prestado alarmas sobre los riesgos de los delirios impulsados por la IA, especialmente a medida que los chatbots evolucionan para apoyar conversaciones más prolongadas e inmersivas, lo que plantea peligros particulares para los jóvenes vulnerables. Además de las salvaguardas de contenido, los padres que registran cuentas para menores obtendrán la capacidad de implementar “horas de apagón”, restringiendo el acceso durante los tiempos especificados, una característica ausente en versiones anteriores. Esta herramienta de control parental tiene como objetivo promover patrones de uso más saludables. El anuncio coincide con una audiencia del Comité Judicial del Senado titulada “Examinando el daño de los chatbots de IA”, programado para el mismo día e iniciado por el senador Josh Hawley (R-MO) en agosto. El padre de Adam Raine se encuentra entre los testigos que testificarán, destacando las apuestas personales involucradas. La implementación de la verificación de la edad presenta obstáculos técnicos, como OpenAI se describe en una publicación complementaria de blog. La Compañía está desarrollando un sistema a largo plazo para determinar con precisión la edad del usuario, pero en situaciones ambiguas, se equivocará por precaución al aplicar reglas más estrictas. Para obtener confiabilidad, OpenAI recomienda vincular la cuenta de un adolescente con la existente de un padre, lo que permite alertas directas a los guardianes si se detecta angustia. Altman equilibró estas protecciones juveniles con los valores centrales de OpenAI, reafirmando el compromiso con la privacidad del usuario y las amplias libertades para los adultos. “Nos damos cuenta de que estos principios están en conflicto”, señaló, “y no todos estarán de acuerdo con cómo estamos resolviendo ese conflicto”. Este enfoque subraya los desarrolladores de IA de la cuerda ética que navegan en medio del creciente escrutinio. A medida que aumenta la conciencia de los impactos de la salud mental de la IA, los recursos siguen siendo cruciales. Para obtener apoyo inmediato, comuníquese con la línea de vida nacional de prevención del suicidio al 1-800-273-8255, envíe un mensaje de texto a 741-741, o marque 988. La línea de texto de crisis ofrece asistencia las 24 horas, y la ayuda internacional está disponible a través de la base de datos de la Asociación Internacional de Prevención de Suicidio.
Source: Openai anuncia políticas de seguridad para los menores de chatgpt
