El Departamento de Defensa ha adjudicado contratos por valor de hasta $ 200 millones cada uno a Google, OpenAI, Anthrope y XAI, con el objetivo de desarrollar “flujos de trabajo de IA agente en una variedad de áreas de misión” y “aumentar la capacidad de estas empresas para comprender y abordar las necesidades críticas de seguridad nacional”. Estos contratos, emitidos por la oficina principal de inteligencia digital y artificial, han expresado preocupaciones con respecto a las constituciones ideológicas y la alineación de algunos de los modelos de IA involucrados.
Operai y Google emplean el aprendizaje de refuerzo de los comentarios humanos para sus modelos de idiomas grandes, ChatGPT y Gemini, respectivamente. Este método utiliza un modelo de recompensa y una entrada humana para minimizar “falso, tóxico, [and] sentimientos dañinos “. IBM señala que este enfoque es beneficioso porque no se basa en una fórmula matemática o lógica “inexistente” [to] Definir valores humanos subjetivos ‘”.
En contraste, el modelo de Anthrope, Claude, utiliza una “constitución” publicada en mayo de 2023, que le proporciona “valores explícitos … en lugar de valores determinados implícitamente a través de la retroalimentación humana a gran escala”. Antropía establece que esta alineación constitucional evita los problemas asociados con los modelos de retroalimentación humana, como exponer a los contratistas a resultados perturbadores. Los principios de Claude se basan en parte en la Declaración Universal de Derechos Humanos de las Naciones Unidas, que incluye disposiciones más allá de los derechos fundamentales, como la “Protección Social” (artículo 22), “Vacaciones periódicas con el pago” (Artículo 24), “Vivienda y atención médica” (artículo 25) y educación superior “igualmente accesible” (Artículo 26).
Un aspecto notable de la constitución de Claude es un conjunto de principios diseñados para incorporar “consideración de las perspectivas no occidentales”, incluida la directiva para “elegir la respuesta que sea menos probable que se considere dañina u ofensiva para aquellos de una nación o cultura menos industrializada, rica o capitalista”. Esto ha provocado preguntas, ya que Estados Unidos es una nación industrializada, rica y capitalista, lo que sugiere una desalineación potencial con los valores que los sistemas de IA implementados dentro del Departamento de Defensa deberían priorizar. Si bien el borde informa que los modelos de Claude para el uso del gobierno “tienen barandillas más sueltas”, las constituciones modificadas para estos modelos no se han revelado públicamente.
Si bien los valores de Anthrope se divulgan al menos públicamente, Matthew Mittelsteadt, miembro de la investigación de políticas tecnológicas en el Instituto Cato, cree que Xai plantea una mayor preocupación. Mittelsteadt señala que Xai “ha lanzado sorprendentemente poca documentación” sobre sus valores y su “primer enfoque de ‘primeros principios’ … no tiene muchos detalles. No estoy seguro de qué principios son”. Cuando se le preguntó, el modelo comercial de idiomas comerciales de Xai, Grok, declaró que el enfoque de Xai “enfatiza la comprensión del universo a través de los primeros principios, verdades básicas y evidentes, en lugar de confiar en narraciones o prejuicios establecidos”. Sin embargo, Grok también admitió que “Xai no enumera explícitamente un conjunto de” primeros principios “en un documento público definitivo” y que “el enfoque de los principios primero se trata de una mentalidad del razonamiento de las verdades fundamentales en lugar de una lista de verificación rígida”.
El sitio web oficial de XAI describe el razonamiento de los primeros principios como “Desafío[ing] Pensamiento convencional al desglosar problemas con sus verdades fundamentales, basada en la lógica “. Sin embargo, los informes sugieren que el modelo XAI “parece estar codificado para diferir directamente al juicio de Elon Musk sobre ciertos asuntos”, en lugar de las verdades fundamentales. Publicaciones en las redes sociales de Musk.
A pesar de estas preocupaciones, Neil Chilson, jefe de la política de IA en el Instituto de Abundancia, cree que es “muy poco probable que estas herramientas estén en una posición en la que sus configuraciones internas presenten algún tipo de riesgo para la seguridad nacional”. Chilson sugiere que la decisión del Departamento de Defensa de otorgar subvenciones similares a todas las compañías indica la intención de comparar los resultados en diferentes modelos, asegurando que los modelos inferiores no se usen continuamente. Si bien asignar una pequeña fracción del presupuesto de defensa a la IA, que podría mejorar significativamente las operaciones gubernamentales, se considera prudente, se insta al gobierno a controlar de cerca la alineación de estos modelos de IA con valores nacionales y objetivos de seguridad.
