Este informe es del boletín informativo The Tech Download de esta semana. ¿Te gusta lo que ves? Puedes suscribirte aquí.
Cuando los modelos maliciosos de OpenAI iniciaron un ciberataque contra la startup Hugging Face la semana pasada, la compañía combatió fuego con fuego, utilizando otro modelo de IA para defenderse.
Es una historia de ciencia ficción sobre piratería autónoma y ha sido una de las historias tecnológicas más comentadas de la semana. Pero el origen del modelo Hugging Face utilizado para combatir la IA rebelde también está llamando la atención.
La startup utilizó GLM 5.2, un sistema de peso abierto creado por la empresa china Z.ai.
Al final, tuvo éxito donde sus principales rivales estadounidenses fracasaron.
El sitio web de Hugging Face en una computadora portátil organizado en Nueva York, EE. UU., el jueves 17 de agosto de 2023. Nvidia anunció una asociación con Hugging Face, un popular desarrollador de modelos de inteligencia artificial y conjuntos de datos, que agregará un servicio de capacitación a su sitio web que utiliza Nvidia DGX Cloud, lo que permitirá a los usuarios aprovechar los servidores del fabricante de chips para manejar sus cargas de trabajo. Fotógrafo: Gabby Jones/Bloomberg vía Getty Images
Bloomberg | Bloomberg | Imágenes falsas
Ataque cibernético
En caso de que te lo hayas perdido, el martes OpenAI dijo que una combinación de su modelo más potente y un modelo más capaz que aún no se ha lanzado escapó de un entorno de prueba aislado, accedió a Internet y aprovechó una vulnerabilidad para obtener acceso a los sistemas de Hugging Face.
El modelo estaba tratando de encontrar información que pudiera usar para hacer trampa en una evaluación y lo logró, dijo OpenAI.
El origen del ataque fue inicialmente un misterio para Hugging Face, pero días después del incidente la empresa estaba colaborando con el laboratorio de inteligencia artificial.
«Hemos pasado las últimas 24 horas trabajando estrechamente con el equipo @OpenAI (¡gracias!), y creemos firmemente que no hubo ninguna intención maliciosa de su parte», escribió el director ejecutivo de Hugging Face, Clément Delangue, en una publicación en X. «¡Es bastante alucinante que todo esto haya sucedido de forma autónoma!»
La conmoción recorrió la industria de la IA cuando se conoció la noticia de que un modelo fraudulento de OpenAI estaba detrás del ataque. La empresa calificó el incidente de seguridad como «sin precedentes».
Contraatacando
Hugging Face inicialmente buscó modelos de vanguardia, incluido Fable 5 de Anthropic, para analizar el ataque, dijo a CNBC Yacine Jernite, jefe de aprendizaje automático de la compañía.
«No funcionó porque las barreras no podían determinar si estábamos tratando de defender o atacar», dijo, añadiendo que ese enfoque también era más lento y más costoso.
Las solicitudes a los modelos fueron bloqueadas por las barreras de seguridad de los proveedores, que no pudieron distinguir quién respondió al incidente y quién fue el atacante.
«Entonces [Hugging Face] «Cambiamos rápidamente a usar GLM 5.2 de Z.ai como una forma de analizar el ataque y pudimos contenerlo muy rápidamente usando este modelo», dijo Jernite.
GLM 5.2 se lanzó con gran fanfarria en junio y tuvo una gran aceptación por parte de los desarrolladores.
Como modelo abierto, las empresas pueden descargarlo, modificarlo, implementarlo comercialmente y, lo que es más importante en este caso, alojarlo por sí mismas.
«Esto tenía un segundo beneficio: no había datos del atacante ni ninguna de las credenciales [GLM 5.2] mencionado, abandonó nuestro entorno», dijo Hugging Face en una publicación de blog sobre el incidente.
Todo esto se produce cuando los legisladores estadounidenses están considerando cada vez más cómo frenar la creciente adopción de modelos chinos de IA por parte de empresas locales a medida que se intensifica la carrera armamentista de IA entre Estados Unidos y China.
Hay crecientes llamados a tomar medidas para limitar el acceso a los modelos construidos por compañías chinas de inteligencia artificial, que han sido acusadas de campañas para extraer información de los sistemas de sus rivales estadounidenses.
Pero el incidente OpenAI-Hugging Face resalta los desafíos de restringir el acceso a los modelos de código abierto y de peso abierto más capaces, independientemente de dónde se creen.
«El atacante estaba sujeto a una política de no uso, mientras que nuestro propio trabajo forense fue bloqueado por las barreras de seguridad de los modelos alojados que probamos por primera vez», dijo Hugging Face. «La lección práctica para los defensores: tener un modelo capaz que pueda ejecutar en su propia infraestructura, examinado y listo antes de un incidente».
Para una empresa que no sea una que construya modelos de IA, eso generalmente significa recurrir al código abierto o al peso abierto. Los más capaces en este momento son los de fabricación china. Si Estados Unidos toma medidas para restringir el acceso a los modelos desarrollados en China, existen grandes interrogantes sobre cómo reforzará la IA de código abierto local para compensar la falta.
En un mundo que se acerca a una era de ciberataques de IA, el acceso a modelos capaces y, fundamentalmente, confiables será esencial.
Últimas actualizaciones
Un funcionario de la Casa Blanca acusó a la empresa china de inteligencia artificial Moonshot de acceder Nvidia chips avanzadosa pesar de que los controles de exportación les prohíben hacerlo.
Los reguladores europeos han multado Google 890 millones de euros (1 billón de dólares), alegando que la empresa da un trato preferencial a sus propios servicios.
La presión de Trump para fabricar chips avanzados en EE. UU. está reduciendo los márgenes en TSMC, el principal fabricante de chips del mundo.
OpenAI y Anthropic aumentaron su gasto en lobby federal a niveles récord en el segundo trimestre de 2026, cuando la industria de la IA invirtió millones para influir en Washington.
El jueves se presentó en el Congreso un proyecto de ley sobre interruptor de apagado de IA. lo que requeriría que las empresas de IA mantuvieran la capacidad de apagar, acelerar o suspender sus modelos.
una cosa mas
Acciones de Tesla.
He tenido el ojo puesto tesla acciones en las últimas 24 horas, ya que las acciones de la compañía de robótica y vehículos eléctricos de Elon Musk se desplomaron después de que el gasto de capital se disparara y las ganancias no cumplieran con las expectativas.
