Sam Altman, director ejecutivo de ChatGPT, ha advertido que podría producirse un ciberataque importante el próximo año, impulsado por los avances en inteligencia artificial. Hizo hincapié en que estos avances podrían empoderar a actores maliciosos, lo que generaría amenazas no solo a la ciberseguridad sino también al bioterrorismo.
Altman afirmó en una entrevista con Axios que, si bien muchas preocupaciones sobre la IA se centran en su impacto en los mercados laborales y las cuestiones ambientales, los peligros inmediatos en gran medida no han sido abordados. Destacó el potencial de ciberataques catastróficos permitidos por modelos avanzados de inteligencia artificial de código abierto, que, según él, podrían desbloquear capacidades sin precedentes para los atacantes.
“En el próximo año, veremos importantes amenazas cibernéticas que tendremos que mitigar”, dijo Altman, advirtiendo que el riesgo es “totalmente posible”. Señaló que mitigar estas amenazas requiere un esfuerzo sustancial y abogó por un enfoque resiliente de la ciberseguridad. “No se trata sólo de hacer que un modelo de IA sea seguro”, añadió. “Los defensores deben trabajar juntos”.
Altman analizó el concepto de un “programa de acceso confiable” que tiene como objetivo facilitar la colaboración entre empresas de inteligencia artificial, empresas de ciberseguridad y gobiernos para mejorar la seguridad del sistema. Señaló que la eficacia de estas medidas es fundamental para abordar las vulnerabilidades que presentan las tecnologías de IA en rápida evolución.
Además de las amenazas a la ciberseguridad, Altman advirtió que los avances en la IA también podrían aumentar la probabilidad de bioterrorismo. Afirmó que los modelos de IA mejorados podrían permitir a los individuos manipular procesos biológicos a niveles sofisticados: “Allí van a suceder cosas maravillosas, veremos cómo se curan un montón de enfermedades”, afirmó. Sin embargo, advirtió que esas capacidades podrían utilizarse indebidamente.
Altman enfatizó que la posible normalización de modelos avanzados de código abierto en biología podría presentar nuevos riesgos. “Eso ya no es una cuestión teórica”, afirmó, refiriéndose al inminente desafío de impedir que los grupos terroristas aprovechen la IA para crear nuevos patógenos.
Concluyó que las complejidades que rodean estas amenazas hacen que sea difícil discernir soluciones, lo que sugiere que la posibilidad de un daño generalizado sigue siendo alta sin salvaguardias adecuadas. Altman reconoció que las estrategias actuales para contrarrestar estas amenazas carecen de respuestas definitivas, lo que genera serias preocupaciones sobre el futuro de la IA y sus implicaciones para la seguridad global.
