El director ejecutivo de OpenAI, Sam Altman, anunció el martes nuevas políticas de usuario destinadas a mejorar la seguridad de los usuarios de ChatGPT menores de 18 años, lo que marca un cambio significativo en la forma en que el chatbot de IA interactúa con menores. Los cambios priorizan la seguridad sobre la privacidad y la libertad de los adolescentes, lo que refleja el reconocimiento de OpenAI de la naturaleza poderosa pero potencialmente dañina de la tecnología.
“Damos prioridad a la seguridad por encima de la privacidad y la libertad de los adolescentes”, decía la publicación de Altman. “Esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa”. Las políticas introducen restricciones específicas a las conversaciones que involucran temas sexuales o autolesiones. Específicamente, ChatGPT estará capacitado para evitar “charlas coquetas” con usuarios menores de edad, y barreras de seguridad mejoradas regirán las discusiones sobre suicidio. En los casos en que un menor se involucre en escenarios suicidas, el sistema intentará notificar a sus padres; en casos graves, puede involucrar a las autoridades policiales locales.
Estas medidas están impulsadas por tragedias del mundo real y desafíos legales en curso. OpenAI se defiende actualmente de una demanda por muerte por negligencia presentada por los padres de Adam Raine, un adolescente que se suicidó tras meses de interacciones con ChatGPT. Una demanda similar se dirige a Character.AI, otro popular chatbot de consumo. Expertos y defensores han dado la alarma sobre los riesgos de los delirios impulsados por la IA, especialmente a medida que los chatbots evolucionan para soportar conversaciones más prolongadas e inmersivas, lo que plantea peligros particulares para los jóvenes vulnerables.
Además de las salvaguardias de contenido, los padres que registren cuentas para menores tendrán la capacidad de implementar “horarios restringidos”, restringiendo el acceso durante horarios específicos, una característica ausente en versiones anteriores. Esta herramienta de control parental tiene como objetivo promover patrones de uso más saludables.
El anuncio coincide con una audiencia del Comité Judicial del Senado titulada “Examen del daño de los chatbots de IA”, programada para el mismo día e iniciada por el senador Josh Hawley (R-MO) en agosto. El padre de Adam Raine se encuentra entre los testigos que testificarán, destacando los riesgos personales involucrados.
La implementación de la verificación de edad presenta obstáculos técnicos, como lo describe OpenAI en una publicación de blog complementaria. La empresa está desarrollando un sistema a largo plazo para determinar con precisión la edad del usuario, pero en situaciones ambiguas, pecará de cauteloso al aplicar reglas más estrictas. Para mayor confiabilidad, OpenAI recomienda vincular la cuenta de un adolescente a la cuenta existente de uno de los padres, permitiendo alertas directas a los tutores si se detecta angustia.
Altman equilibró estas protecciones de los jóvenes con los valores fundamentales de OpenAI, reafirmando el compromiso con la privacidad de los usuarios y las amplias libertades de los adultos. “Nos damos cuenta de que estos principios están en conflicto”, señaló, “y no todos estarán de acuerdo con la forma en que estamos resolviendo ese conflicto”. Este enfoque subraya la cuerda floja ética que navegan los desarrolladores de IA en medio de un escrutinio cada vez mayor.
A medida que aumenta la conciencia sobre los impactos de la IA en la salud mental, los recursos siguen siendo cruciales. Para obtener ayuda inmediata, comuníquese con la Línea Nacional de Prevención del Suicidio al 1-800-273-8255, envíe un mensaje de texto con HOME al 741-741 o marque el 988. La Línea de mensajes de texto en crisis ofrece asistencia las 24 horas y hay ayuda internacional disponible a través de la base de datos de la Asociación Internacional para la Prevención del Suicidio.
