Un artículo de Ars Technica de septiembre de 2025, titulado “El informe de seguridad de la IA de DeepMind explora los peligros de la IA desalineada”, cubre la investigación y la perspectiva de Google DeepMind sobre la seguridad de la inteligencia artificial. El informe presta atención específica a la Inteligencia Artificial General (AGI) y los riesgos que plantean los sistemas de IA desalineados, donde los objetivos de una IA entran en conflicto con los valores o intenciones humanos.
El artículo describe el enfoque de DeepMind para el desarrollo responsable de la IA, enfatizando el compromiso con la seguridad técnica, la evaluación de riesgos y la colaboración en toda la comunidad de IA para gestionar los riesgos potenciales. Esta estrategia se centra particularmente en los peligros que podrían surgir de sistemas AGI potentes. Una parte central de este esfuerzo es el Marco de seguridad fronterizo de DeepMind, un protocolo creado para identificar y mitigar de forma proactiva los riesgos graves asociados con los modelos fronterizos de IA.
También se detallan los órganos de gobierno interno dentro de DeepMind, incluido el Consejo de Responsabilidad y Seguridad y el Consejo de Seguridad AGI. Estos grupos son responsables de supervisar la investigación y el desarrollo para abordar los riesgos éticos, técnicos y de seguridad vinculados a las tecnologías avanzadas de IA.
Un desafío importante discutido es la IA desalineada. Estos sistemas pueden causar daños si sus objetivos operativos están en desacuerdo con el bienestar social, incluso si parecen funcionar correctamente desde un punto de vista técnico limitado. Para abordar esto, DeepMind destaca la importancia de la transparencia, la colaboración externa y la investigación proactiva de seguridad como parte integral de la creación responsable de AGI.
