Geoffrey Hinton, conocido como el “padrino de la IA”, afirmó que la guerra de Rusia en Ucrania ha alterado su perspectiva sobre el uso de la inteligencia artificial en aplicaciones militares. Hinton expresó a NBC News que las complejidades que rodean a la IA en la guerra son mayores de lo que creía anteriormente. Este reconocimiento se produce después de años de abogar por una prohibición internacional de las armas letales autónomas.
Hinton indicó que el importante papel de los drones, en particular los equipados con IA, en la defensa de Ucrania contra las fuerzas rusas lo ha hecho más abierto a las aplicaciones militares de la tecnología de IA. Comentó: “Ucrania está sobreviviendo gracias a los drones”, y enfatizó los desafíos de argumentar en contra de su uso en la guerra moderna.
A pesar de que Ucrania utiliza drones impulsados por inteligencia artificial contra objetivos rusos, Hinton señaló que la defensa del país depende en gran medida de la supervisión humana y la producción constante de municiones. Reconoció las ventajas de los sistemas de IA en el campo de batalla, pero describió la situación como “un desastre”, destacando sus preocupaciones actuales sobre las implicaciones del uso de la IA en la guerra.
Hinton señaló que los acontecimientos de combate en Ucrania plantean visiones preocupantes de futuros escenarios de guerra que involucran armamento autónomo. Comentó los peligros de eliminar la toma de decisiones humana del combate, sugiriendo que tales avances podrían conducir a resultados más rápidos y letales.
Destacó la importancia de la participación y la promoción públicas para guiar el desarrollo de tecnologías de inteligencia artificial de manera responsable. “Lo único que va a frenar a esas grandes empresas de IA es la presión pública”, dijo Hinton, subrayando su compromiso de educar al público sobre los riesgos y beneficios de la IA.
Hinton no estuvo disponible para hacer más comentarios, según su asistente que se comunicó con Business Insider. Mientras tanto, durante la última década, los empleados de varias empresas de tecnología, incluidas Google y Microsoft, se han resistido a participar en proyectos de inteligencia artificial relacionados con la defensa.
La semana pasada, el presidente Donald Trump firmó una directiva destinada a acelerar el desarrollo de la IA con fines de seguridad nacional. El Memorando Presidencial de Seguridad Nacional afirmó que la IA podría ser transformadora para la seguridad nacional de Estados Unidos, sugiriendo que su uso adecuado podría proteger a los miembros del servicio y reducir el daño civil, manteniendo al mismo tiempo una ventaja tecnológica sobre los adversarios.
La administración Trump ha abogado por la adopción irrestricta de la IA en la seguridad nacional. El Pentágono designó a la empresa Anthropic como riesgo para la cadena de suministro después de que ésta solicitara que su Claude AI no se utilizara en armas autónomas. Además, el Pentágono desmanteló una oficina cuyo objetivo era mitigar los daños a civiles en la guerra.
