El secretario de Defensa de Estados Unidos, Pete Hegseth, está presionando a Anthropic para que proporcione a los militares acceso ilimitado a su modelo de inteligencia artificial Claude, según un informe de Axios. Según se informa, Hegseth informó al director ejecutivo de Anthropic, Dario Amodei, que la compañía tiene hasta el viernes para otorgar acceso total al Pentágono o enfrentar sanciones importantes. Las amenazas incluyen invocar la Ley de Producción de Defensa, rescindir contratos existentes y designar a Anthropic como un riesgo para la cadena de suministro. Tal designación obligaría a otros contratistas de defensa a certificar que no utilizan Claude en sus flujos de trabajo.
La demanda del Pentágono se centra en la dependencia militar de Claude para sus operaciones más delicadas. Un funcionario de defensa le dijo a Axios que el ejército requiere la tecnología de Anthropic de inmediato porque actualmente es el único modelo de IA utilizado para trabajos altamente clasificados. El funcionario señaló: “La única razón por la que todavía estamos hablando con estas personas es que las necesitamos y las necesitamos ahora”. Según se informa, Claude ha sido utilizado en operaciones militares específicas, incluido el ataque contra Nicolás Maduro en Venezuela. Anthropic ha ofrecido aplicar sus políticas de uso estándar a los contratos del Pentágono, pero ha trazado límites en ciertas aplicaciones. La compañía declaró que no permitiría que su modelo se utilizara para la vigilancia masiva de ciudadanos estadounidenses o para sistemas de armas autónomos que operen sin supervisión humana.
El mismo día que se conoció la noticia sobre la campaña de presión del Pentágono, Anthropic anunció una revisión significativa de sus protocolos de seguridad. La compañía reveló que está modificando su Política de Escalamiento Responsable (RSP), reduciendo efectivamente las barreras de seguridad previamente establecidas. Durante años, la promesa central de Anthropic a los consumidores y socios comerciales fue que detendría el entrenamiento de nuevos modelos de IA si no se podían garantizar de antemano puntos de referencia de seguridad específicos. Esta política anterior se basaba en “trampas duras” diseñadas para detener el desarrollo inmediatamente si se alcanzaban ciertos umbrales de riesgo.
La política actualizada reemplaza esas estrictas líneas rojas con un enfoque más flexible. El nuevo marco de Anthropic se basa en “informes de riesgos” y “hojas de ruta de seguridad fronteriza” en lugar de pausas automáticas en el desarrollo. En un comunicado, Anthropic explicó: “Dos años y medio después, nuestra evaluación honesta es que algunas partes de esta teoría del cambio se han desarrollado como esperábamos, pero otras no”. La empresa sostiene que el cambio es necesario para seguir siendo competitivo en un mercado en rápida evolución.
Jared Kaplan, director científico de Anthropic, defendió la decisión en una entrevista con Time. Kaplan afirmó que detener unilateralmente el desarrollo sería contraproducente mientras los competidores continúan avanzando. “Sentimos que en realidad no ayudaría a nadie que dejáramos de entrenar modelos de IA”, dijo Kaplan. “Realmente no sentimos, con el rápido avance de la IA, que tuviera sentido para nosotros asumir compromisos unilaterales… si los competidores están avanzando”.
Anthropic citó un “problema de acción colectiva” como motivación principal para el cambio de política. La compañía argumentó que si un desarrollador hace una pausa por razones de seguridad mientras otros continúan sin mitigaciones fuertes, la seguridad general del ecosistema podría degradarse. Según el RSP actualizado, “los desarrolladores con las protecciones más débiles marcarían el ritmo, y los desarrolladores responsables perderían su capacidad de realizar investigaciones de seguridad y promover el beneficio público”. Anthropic también señaló el entorno antirregulatorio más amplio de Estados Unidos como un factor que influyó en su decisión.
El contexto financiero subraya las presiones competitivas que enfrenta la empresa. En febrero, Anthropic consiguió 30.000 millones de dólares en nuevas inversiones, lo que elevó su valoración total a 380.000 millones de dólares. Los últimos modelos de la compañía, particularmente en capacidades de codificación, han recibido amplios elogios. Sin embargo, este crecimiento coincide con un cambio en el espíritu corporativo. Si bien los compromisos de seguridad anteriores de Anthropic eran la piedra angular de su marca, el nuevo enfoque prioriza la capacitación continua sobre las paradas bruscas.
Chris Painter, director de la organización sin fines de lucro METR, ofreció una evaluación mixta de la nueva política de Anthropic. Painter elogió el mayor énfasis en la transparencia, pero advirtió que la flexibilidad del nuevo RSP podría conducir a un efecto de “ebullición de ranas”. Este fenómeno describe un escenario en el que los estándares de seguridad se erosionan progresivamente a través de una serie de racionalizaciones, lo que eventualmente conduce a una desviación significativa de los objetivos de seguridad originales.
Painter interpretó además el cambio de política como una señal de luchas industriales más amplias. Señaló que los cambios sugieren que Anthropic “cree que necesita pasar al modo de clasificación con sus planes de seguridad, porque los métodos para evaluar y mitigar el riesgo no están a la altura del ritmo de las capacidades”. Painter concluyó que este desarrollo sirve como evidencia de que la sociedad puede no estar adecuadamente preparada para laPosibles riesgos catastróficos asociados con la IA avanzada. Ni el anuncio de Anthropic sobre el RSP ni el informe sobre las demandas del Pentágono conectaron explícitamente los dos eventos, aunque su fecha en el mismo día ha llamado la atención sobre la intersección de la presión gubernamental y la política de seguridad corporativa.
