Faltan sólo unos meses para que existan potentes modelos de IA capaces de nuevos ciberataques devastadores contra gobiernos y empresas, advirtieron las agencias de inteligencia de los Cinco Ojos en una inusual declaración conjunta, instando a los líderes a “actuar ahora”.
La sorprendente intervención pública de las agencias de señales de Australia, Estados Unidos, el Reino Unido, Nueva Zelanda y Canadá se produce después de que la administración Trump a principios de este mes decidiera impedir que los “nacionales extranjeros” utilicen un modelo de inteligencia artificial muy publicitado creado por la empresa de tecnología Anthropic, llamado Fable.
La declaración, emitida el lunes por la noche, hora de Sydney, decía que si bien la IA “nos ayudaría a mejorar la ciberdefensa con el tiempo, también acelera la velocidad, la escala y la sofisticación de las ciberamenazas”.
«Se prevé que los modelos de inteligencia artificial de frontera superen las expectativas actuales de la industria, transformando fundamentalmente las capacidades cibernéticas tanto ofensivas como defensivas. El cronograma no es de años, sino de meses», decía la advertencia de las agencias Five Eyes.
«En este entorno, la resiliencia cibernética es fundamental para promover la continuidad del negocio, la confianza del mercado y el valor a largo plazo».
Las agencias de ciberseguridad dijeron que los avances en los modelos de IA mostraban que la tecnología reduciría las barreras para los malos actores y aumentaría la velocidad y complejidad de los ataques.
«Se requiere una respuesta de toda la organización y de toda la sociedad», continúa el comunicado. Los Cinco Ojos es una alianza de inteligencia creada entre los cinco países después de la Segunda Guerra Mundial.
«El riesgo cibernético ya no puede tratarse como una cuestión puramente técnica. Se trata de un riesgo empresarial fundamental y una responsabilidad de liderazgo».
Los modelos de IA generativa son herramientas nuevas y poderosas capaces de buscar vulnerabilidades en los sistemas de seguridad cibernética y pueden ayudar a explotar esas vulnerabilidades, así como a repararlas.
“¿Qué tiene de diferente la última [AI models] Una de ellas es que son muy buenos generando exploits”, dijo Olivia Shen, experta en seguridad nacional e inteligencia artificial del Centro de Estudios de Estados Unidos de la Universidad de Sydney.
Si bien no se mencionan por su nombre modelos o empresas de IA en la declaración de Five Eyes, muchos en todo el mundo tienen sus ojos puestos en el nivel avanzado de herramientas de Anthropic.
Uno de los últimos inventos de la importante empresa de tecnología se llama Fable 5, una versión supuestamente más amigable para la comunidad de Mythos: un poderoso modelo de inteligencia artificial lanzado a principios de este año capaz de detectar vulnerabilidades en sistemas cibernéticos que solo está disponible para organizaciones y empresas examinadas debido a la preocupación de que pueda ser explotado.
Ambos modelos de Anthropic fueron suspendidos para su uso por “ciudadanos extranjeros” en junio por el gobierno de Estados Unidos, que citó el consejo de las autoridades de seguridad nacional.
Shen dijo que gran parte del mundo estaba concentrado en lo que sucederá a continuación para Anthropic, pero que podría haber muchos modelos de IA más poderosos no muy lejos.
«Creo que tenemos que anticipar que el próximo Mitos o la próxima Fábula está a la vuelta de la esquina», dijo Shen.
«Solo podemos ver lo que se ha lanzado, pero podría haber otros modelos desarrollados por empresas como China, u otros estados y otros actores y empresas, que sean igual de avanzados».
En marzo, el gobierno de Albanese contrató a Anthropic como la primera empresa en su avión nacional de IA.
El memorando de entendimiento no vinculante significa que las empresas acuerdan compartir detalles del progreso de la IA con el gobierno y «promover la seguridad».
El plan nacional del gobierno promueve un enfoque ligero en la regulación del sector en un intento por capturar los beneficios económicos y de productividad de la tecnología.
