Hugging Face confirma brecha de seguridad que expuso datasets y credenciales internas
Hugging Face, la plataforma que aloja modelos y conjuntos de datos de inteligencia artificial, confirmó este viernes una brecha de seguridad que comprometió sus datasets internos y credenciales de servicio. La compañía pidió a los usuarios que roten de inmediato cualquier clave almacenada en la plataforma y revisen la actividad de sus cuentas en busca de movimientos sospechosos.
Detalles de la brecha de seguridad
Según el comunicado oficial, el incidente se originó cuando un dataset subido a la plataforma explotó una vulnerabilidad para ejecutar código malicioso en los servidores. Esto permitió a los atacantes escalar privilegios y obtener acceso más amplio a los sistemas internos de Hugging Face.
La empresa no ha determinado aún si datos de clientes o socios fueron robados. La investigación sigue en curso y se ha dado aviso a las autoridades. Hugging Face revocó y rotó las credenciales comprometidas y corrigió la falla de seguridad que hizo posible el ciberataque.
El informe apunta a un agente de inteligencia artificial externo como responsable del ataque. Describió que el agente ejecutó «miles de acciones individuales a través de un enjambre de entornos de prueba de corta duración, con un centro de comando y control que se autotransfería entre servicios públicos». TechCrunch señaló que la empresa no presentó evidencia inmediata de esta afirmación.
El ataque muestra lo complejo que es proteger entornos donde se permite a terceros subir código y datos sin una verificación exhaustiva. Hugging Face no detalló si planea endurecer los controles de los datasets que recibe. El uso de agentes de IA para automatizar intrusiones no es una novedad: herramientas como T3MP3ST ya han demostrado cómo un modelo de lenguaje puede convertirse en un hacker automático.
Defensa con IA: el escudo chocó con las restricciones comerciales
La detección del ataque corrió a cargo del sistema de anomalías de la propia Hugging Face. Para analizar los registros del incidente, la compañía recurrió a un modelo de inteligencia artificial. En un primer intento utilizó un modelo de frontera de un proveedor comercial (no revelado), pero las barreras de seguridad de ese proveedor bloquearon el análisis.
Ante ese obstáculo, los ingenieros emplearon su propio modelo de lenguaje grande (LLM) de ejecución local, lo que además evitó la necesidad de subir registros sensibles a servidores de terceros. La anécdota reaviva un debate: los modelos de IA más avanzados están limitando consultas relacionadas con ciberseguridad, incluso para investigaciones defensivas. Investigadores han protestado por las restricciones en modelos como Anthropic Fable, que incluso fue retirado del acceso público tras controles de exportación del gobierno estadounidense.
Comunidad Arepa
Únete a nuestros canales principales
