Hugging Face recurre al modelo chino GLM 5.2 para defenderse de un ciberataque autónomo ante las limitaciones de los modelos de EE.UU.
Hugging Face sufrió un ciberataque de un agente de IA completamente autónomo que realizó “decenas de miles de acciones automatizadas”. La empresa recurrió al modelo chino de código abierto GLM 5.2 de Z.ai para detectar el ataque, ya que un modelo de una empresa líder estadounidense no pudo por sus restricciones de seguridad, que no distinguían a un respondedor de incidentes de un atacante.
El CEO Clem Delangue afirmó que los modelos propietarios estadounidenses son peligrosos para la defensa en incidentes activos: “No puedes tener herramientas que se nieguen a examinar cargas maliciosas”. Destacó que los atacantes no respetan barreras y que el código abierto permite a los defensores las mismas capacidades sin pedir permiso.
El ataque fue autónomo, sin intervención humana. Se detectó antes de que los atacantes humanos entraran en el circuito, lo que subraya la importancia de la velocidad. El agente ingresó por el canal de procesamiento de datos de Hugging Face, creó entornos de prueba desechables y ejecutó su plan. La empresa analizó más de 17.000 registros con GLM 5.2, corrigió la vulnerabilidad, expulsó al atacante y mejoró sus defensas.
Este incidente es uno de los primeros casos documentados de un ciberataque autónomo con IA. Coincide con la advertencia de expertos y con el hallazgo de Sysdig del primer ransomware autónomo, “Jadepuffer”, que ahora también apunta a modelos de IA entrenados en redes corporativas.
La noticia reaviva el debate sobre la regulación de la IA en EE.UU. David Sacks, exzar de IA de la administración Trump, señaló que no hay razón para limitar los modelos estadounidenses en tareas que los chinos manejan sin problemas, y que las restricciones perjudican la seguridad defensiva. Hugging Face sigue investigando el alcance del ataque, que comprometió conjuntos de datos y credenciales internas limitadas, sin evidencias de manipulación en modelos públicos.
Fuente: fortune.com · Visto en r/ArtificialInteligence