OpenAI ha llegado a un acuerdo para desplegar sus modelos de inteligencia artificial en entornos clasificados para el Pentágono, tras una ruptura en las negociaciones entre el Pentágono y su rival Anthropic. El presidente Donald Trump ordenó a las agencias federales que dejaran de usar la tecnología de Anthropic después de un período de transición de seis meses, y el secretario de Defensa, Pete Hegseth, designó a la empresa como un riesgo para la cadena de suministro. El director ejecutivo de OpenAI, Sam Altman, admitió que el acuerdo fue apresurado y resultó en una reacción negativa significativa, lo que contribuyó a que Claude de Anthropic superara a ChatGPT de OpenAI en la App Store de Apple el sábado.
El acuerdo permite a OpenAI proporcionar servicios de inteligencia artificial al Departamento de Defensa manteniendo prohibiciones de seguridad específicas. La empresa tiene como objetivo reducir las tensiones entre el Departamento de Defensa y la industria de la IA. “Si tenemos razón y esto conduce a una reducción de las tensiones entre el Departamento de Guerra y la industria, pareceremos genios y una empresa que se ha esforzado mucho para hacer cosas para ayudar a la industria”, afirmó Altman.
La publicación de blog de OpenAI describió tres casos de uso prohibidos para sus modelos: vigilancia doméstica masiva, sistemas de armas autónomos y decisiones automatizadas de alto riesgo, como los sistemas de “crédito social”. La compañía declaró que conserva total discreción sobre su pila de seguridad y su implementación a través de API en la nube. “No sabemos por qué Anthropic no pudo llegar a este acuerdo, y esperamos que ellos y más laboratorios lo consideren”, agrega la publicación del blog.
Anthropic declaró que tenía líneas rojas contra el uso de su tecnología en armas totalmente autónomas o vigilancia doméstica masiva. Sam Altman afirmó que OpenAI tenía las mismas líneas rojas que Anthropic. Mike Masnick, de Techdirt, afirmó que el acuerdo permite la vigilancia nacional porque hace referencia al cumplimiento de la Orden Ejecutiva 12333.
La jefa de asociaciones de seguridad nacional de OpenAI, Katrina Mulligan, argumentó que la arquitectura de despliegue impide la integración en sistemas de armas o sensores. “Al limitar nuestro despliegue a API en la nube, podemos asegurarnos de que nuestros modelos no puedan integrarse directamente en sistemas de armas, sensores u otro hardware operativo”, dijo Mulligan.
