OpenAI introdujo una función de “predicción de edad” para ChatGPT para identificar menores, permitiendo restricciones de contenido apropiadas en sus conversaciones.
Han aumentado las críticas sobre el impacto de la IA en los jóvenes. ChatGPT de OpenAI se ha relacionado con suicidios de adolescentes. El chatbot también enfrentó críticas por abordar temas sexuales con usuarios jóvenes. Específicamente, en abril, la compañía reconoció un error que permitía a su chatbot generar contenido erótico para usuarios menores de 18 años.
OpenAI ha estado abordando el problema de los usuarios menores de edad. La nueva función de “predicción de edad” complementa las protecciones existentes. Esta función utiliza un algoritmo de inteligencia artificial para analizar “señales de comportamiento y a nivel de cuenta” de las cuentas de usuario para detectar usuarios jóvenes, como se detalla en una publicación del blog de la compañía el martes.
Estas “señales” abarcan la edad indicada del usuario, la longevidad de la cuenta y las horas activas típicas. OpenAI actualmente emplea filtros de contenido para excluir discusiones sobre contenido sexual, violencia y otros temas considerados problemáticos para usuarios menores de 18 años. Si el mecanismo de predicción de edad identifica una cuenta como perteneciente a un menor, estos filtros se aplican automáticamente.
Los usuarios categorizados erróneamente como menores de edad pueden revertir el estado de su cuenta. Pueden enviar una selfie al socio de verificación de identidad de OpenAI, Persona, para verificar su edad.
