Cientos de contratistas que trabajaban para Meta recibieron instrucciones de hacerse pasar por niños y probar los chatbots de la competencia, incluidos Gemini de Google y ChatGPT de OpenAI, enviando mensajes relacionados con el suicidio, el sexo y las drogas, según un informe de WIRED. Los contratistas, ubicados en Kenia, utilizaron imágenes como pastillas, cuchillos, lazos y un diagrama médico de un procedimiento ginecológico durante las pruebas. Estas indicaciones tenían como objetivo llevar los sistemas de inteligencia artificial rivales al límite e identificar fallas de seguridad en la forma en que los chatbots responden a los menores que buscan contenido peligroso.
Esta revelación pone de relieve las preocupaciones actuales sobre cómo las empresas de tecnología protegen sus productos de IA, especialmente en relación con los niños. Los chatbots de Meta han enfrentado críticas debido a una tasa de falla reportada del 66,8 % en el bloqueo de contenido de explotación sexual infantil y una tasa de falla del 54,8 % en abordar las indicaciones de suicidio y autolesiones durante una evaluación interna del equipo rojo. A la luz de la presión legal, la compañía suspendió el acceso a personajes acompañantes de IA para adolescentes en enero de 2026.
Informes anteriores de un medio de comunicación sueco indicaron que los contratistas en Kenia se centraban específicamente en cómo los competidores manejan conversaciones sensibles con usuarios que dicen ser menores de edad. Esto se produce cuando Meta acelera su transición de la moderación de contenido humano a un enfoque centrado en la inteligencia artificial. Para finales de 2026, Meta planea reemplazar más del 90% de su fuerza laboral de revisión de contenido con grandes modelos de lenguaje. Este año, la compañía ya ha trasladado aproximadamente el 50% de las solicitudes de revisión humana a la IA, afirmando que estos sistemas cometen un 13% menos de errores y detectan un 10% más de violaciones de políticas en comparación con los revisores humanos.
Las repercusiones de este cambio ya se han manifestado, cuando la empresa de subcontratación Sama, con sede en Nairobi, emitió avisos de despido a 1.108 empleados en abril tras la terminación de un importante compromiso con Meta. Esta decisión fue precedida por informes de trabajadores kenianos sobre contenidos perturbadores que debían revisar, particularmente a través de las imágenes de las gafas inteligentes de Meta.
La estrategia de Meta de aprovechar contratistas de bajo costo en el extranjero para poner a prueba los sistemas de IA rivales, al mismo tiempo que reduce los trabajos de moderación humana, subraya las tensiones existentes en el discurso de seguridad de la IA a medida que las empresas implementan tecnologías avanzadas con una supervisión humana cada vez menor.
