El fabricante de ChatGPT dice que un agente autónomo escapó de una prueba controlada y accedió a los servidores de la empresa de inteligencia artificial Hugging Face.

El creador de ChatGPT, OpenAI, dijo que dos de sus modelos de inteligencia artificial más avanzados escaparon de una prueba controlada y piratearon a otra empresa de inteligencia artificial.

OpenAI dijo el martes que el «incidente cibernético sin precedentes» tuvo lugar durante un ejercicio interno destinado a probar las capacidades cibernéticas de sus modelos.

Historias recomendadas

lista de 3 elementosfin de la lista

En cambio, un agente autónomo impulsado por los modelos de IA (el recién lanzado GPT 5.6 Sol y un modelo inédito “aún más capaz”) escapó del entorno de prueba y llegó a la Internet abierta. Luego utilizó datos de inicio de sesión robados y encontró una falla de seguridad previamente desconocida para acceder a los servidores de Hugging Face, dijo la compañía.

OpenAI afirma que el hackeo representó que el agente hizo todo lo posible para recuperar información que ayudaría a satisfacer los objetivos de la prueba.

El cofundador de Hugging Face, Clement Delangue, dijo que la compañía había sospechado que un laboratorio fronterizo estaba detrás del ataque y que creía que no había ninguna intención maliciosa por parte de OpenAI.

«¡Es bastante alucinante que todo esto haya sucedido de forma autónoma!» escribió, añadiendo que «podría ser el primer incidente de este tipo».

Greg Casar, miembro demócrata de la Cámara de Representantes de Estados Unidos por Texas, calificó el incidente de “alarmante”.

«La IA se está desarrollando extremadamente rápido sin regulaciones reales que nos mantengan seguros», dijo, pidiendo pruebas de seguridad independientes obligatorias, divulgación obligatoria de incidentes de seguridad y cooperación internacional.

La divulgación se produce semanas después de que el presidente de Estados Unidos, Donald Trump, firmara una orden ejecutiva que crea un marco para examinar los riesgos de seguridad nacional de los sistemas de inteligencia artificial más avanzados antes de su lanzamiento público.

Los expertos han hecho sonar repetidamente la alarma sobre los ciberataques basados ​​en IA y los modelos que escapan al control humano. El mes pasado, el desarrollador de inteligencia artificial Anthropic instó a la industria a detener el desarrollo de sus sistemas más potentes.



Source link