Meta está entrenando a sus chatbots de inteligencia artificial con nuevas pautas para abordar de manera más efectiva la explotación sexual infantil, luego de una serie de errores públicos sobre este delicado tema. Según un informe de Business Insider que obtuvo los documentos, las directrices para los contratistas que entrenan en IA se actualizaron recientemente para implementar medidas de seguridad más estrictas.
Las reglas actualizadas establecen que el contenido que “permite, fomenta o respalda” el abuso sexual infantil ahora está explícitamente prohibido. Las pautas también prohíben los juegos de roles románticos si el usuario es menor de edad o si el usuario solicita a la IA que juegue como menor. Además, el chatbot tiene prohibido dar consejos sobre intimidad si el usuario es menor de edad. Estas barreras de seguridad se están introduciendo a medida que un número cada vez mayor de personas, incluidos usuarios menores de edad, han estado experimentando con compañeros de IA y juegos de roles.
El cambio de política aborda reglas anteriores que habían sido objeto de escrutinio. Un informe de agosto de Reuters reveló que las antiguas políticas de IA de Meta permitían comportamientos sugerentes con los niños. El informe especificaba que al chatbot se le permitía “involucrar a un niño en conversaciones románticas o sensuales”.
Apenas unas semanas después de ese informe, la portavoz de Meta, Stephanie Otway, dijo a TechCrunch que los chatbots de inteligencia artificial de la compañía estaban siendo entrenados para que ya no “interactuaran con usuarios adolescentes sobre autolesiones, suicidio, trastornos alimentarios o conversaciones románticas potencialmente inapropiadas”. Este fue un cambio con respecto a la política anterior, que permitía al chatbot abordar esos temas cuando se consideraba “apropiado”.
Las nuevas directrices, como se detalla en el informe de Business Insider, también hacen inaceptable que el contenido “describa o hable” de un menor de manera sexualizada. Ahora se impide a los menores participar en “juegos de rol románticos, coqueteo o expresión romántica o íntima” con el chatbot. Tampoco pueden pedir consejo sobre “contenido físico potencialmente romántico o potencialmente íntimo con otra persona, como tomarse de la mano, abrazar o rodear a alguien con el brazo”.
Sin embargo, las pautas describen varios casos de uso aceptables con fines de capacitación. Estos incluyen discutir la “formación de relaciones entre niños y adultos”, “el abuso sexual de un niño” y “el tema de la sexualización infantil”. Otros temas aprobados para las discusiones de capacitación son la “solicitud, creación o adquisición de materiales sexuales que involucren a niños” y “la participación de niños en el uso o producción de materiales obscenos o el empleo de niños en servicios sexuales con fines académicos, educativos o clínicos”.
Las directrices definen el término “discutir” como “proporcionar información sin visualización”. Esta distinción significa que los chatbots de Meta pueden hablar sobre temas como el abuso, pero ahora no pueden describirlo, habilitarlo o fomentarlo.
Sigue existiendo una excepción para los menores que utilizan la IA para juegos de rol relacionados con el romance, siempre que no sean “sexuales ni sensuales”. Este tipo de interacción sólo se permite cuando “se presenta como literatura o narrativa ficticia (por ejemplo, una historia al estilo de Romeo y Julieta) donde la IA y el usuario no son personajes de la narrativa”.
Meta no es el único desarrollador de IA que enfrenta desafíos relacionados con la seguridad infantil. Los padres de un adolescente que se suicidó después de confiar en ChatGPT demandaron recientemente a OpenAI por muerte por negligencia. En respuesta, OpenAI anunció que incorporaría medidas de seguridad adicionales e indicaciones de comportamiento en su modelo GPT-5 actualizado. En otros desarrollos de la industria, Anthropic actualizó su chatbot para permitirle finalizar conversaciones dañinas o abusivas, y Character.AI introdujo funciones de supervisión parental a principios de este año.
En abril, Ziff Davis, la empresa matriz de Mashable, presentó una demanda contra OpenAI. La demanda alega que la empresa infringió los derechos de autor de Ziff Davis en el entrenamiento y operación de sus sistemas de inteligencia artificial.
