OpenAI lanzó su Plan de seguridad infantil para mejorar los esfuerzos de protección infantil de EE. UU. en medio de las crecientes preocupaciones sobre la explotación infantil relacionada con la IA. El plan tiene como objetivo mejorar la detección, la notificación y la investigación de la explotación infantil basada en la IA.
La Internet Watch Foundation (IWF) informó sobre más de 8.000 casos de contenido de abuso sexual infantil generado por IA en el primer semestre de 2025, lo que representa un aumento del 14 % con respecto al año anterior. Los delincuentes utilizan cada vez más herramientas de inteligencia artificial para crear imágenes falsas y explícitas de niños con fines de sextorsión financiera y generar mensajes de captación convincentes.
Esta iniciativa responde a un mayor escrutinio por parte de formuladores de políticas, educadores y defensores de la seguridad infantil, particularmente después de incidentes en los que jóvenes murieron por suicidio después de interactuar con chatbots de IA. En noviembre, el Social Media Victims Law Center y Tech Justice Law Project presentaron siete demandas contra OpenAI en California. Estas demandas alegan la liberación prematura de GPT-4o, alegando que su naturaleza psicológicamente manipuladora contribuyó a muertes por negligencia y graves crisis de salud mental.
El Plan de Seguridad Infantil se desarrolló junto con el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y la Attorney General Alliance, incorporando comentarios de funcionarios como el Fiscal General de Carolina del Norte, Jeff Jackson, y el Fiscal General de Utah, Derek Brown. El plan enfatiza tres áreas principales: actualizar la legislación para tener en cuenta los materiales de abuso generados por IA, mejorar los mecanismos de denuncia para las fuerzas del orden e incorporar salvaguardias preventivas en los sistemas de IA.
OpenAI afirma que su objetivo es detectar amenazas potenciales de manera más efectiva y garantizar que se comunique a los investigadores información procesable. Este plan se basa en iniciativas anteriores, incluidas pautas para las interacciones de usuarios menores de 18 años, que prohíben generar contenido inapropiado y ofrecer consejos que puedan ayudar a ocultar comportamientos inseguros a los cuidadores. OpenAI también ha publicado un plan de seguridad para adolescentes en India.
