Hugging Face reconoció un acceso no autorizado a parte de su infraestructura de producción tras un ataque que empezó con un dataset malicioso y terminó con robo de credenciales de servicio. La compañía asegura que no ve manipulación de modelos o recursos públicos, y recomienda rotar tokens y revisar la actividad reciente.
Hugging Face ha confirmado una intrusión en parte de su infraestructura de producción que permitió a un atacante ejecutar código dentro del canal de procesado de datasets, escalar privilegios y moverse por varios clústeres internos durante un fin de semana. El incidente, que la empresa atribuye a un sistema de agente autónomo, acabó con acceso no autorizado a un conjunto limitado de datasets internos y a varias credenciales usadas por servicios de la plataforma.
El punto de entrada no fue un modelo, sino los datos. Un dataset malicioso activó dos vías distintas para lograr ejecución de código en el pipeline: un loader de datasets que permitía ejecutar código de forma remota y un vector de inyección de plantilla en la configuración del propio dataset. A partir de ahí, el atacante elevó el nivel de acceso hasta el nodo, recopiló credenciales de nube y del clúster, y realizó movimiento lateral entre entornos internos.
Hugging Face sostiene que no ha encontrado evidencias de manipulación de modelos, datasets o Spaces públicos orientados a usuarios, ni señales de alteración en imágenes de contenedores o paquetes publicados. Queda por determinar si el acceso alcanzó información de partners o clientes; la compañía mantiene el compromiso de avisar de forma directa si confirma afectación.
La respuesta combinó contención y limpieza: se cerraron las rutas de ejecución de código utilizadas en el acceso inicial, se reconstruyeron los nodos comprometidos, y se revocaron y rotaron credenciales y tokens. También se endurecieron los controles de admisión en los clústeres para reducir la probabilidad de que artefactos similares vuelvan a colarse por el pipeline.
El análisis forense añadió un matiz llamativo. El equipo procesó más de 17.000 eventos del atacante con agentes de análisis basados en LLM para reconstruir la cronología, extraer indicadores y localizar credenciales afectadas. La investigación, además, terminó con un modelo open weight ejecutado en infraestructura propia, después de que modelos comerciales bloquearan parte del trabajo por sus salvaguardas al manejar comandos y artefactos reales de ataque.
Para usuarios y empresas, la recomendación práctica es inmediata: rotar los tokens de acceso de Hugging Face, sobre todo los integrados en CI/CD, automatizaciones o integraciones, y revisar el historial reciente en busca de usos inesperados. También conviene inventariar secretos que dependan de esos tokens, desde variables de entorno hasta gestores de secretos y credenciales incrustadas en repositorios y pipelines, y aplicar mínimo privilegio para limitar el alcance del daño si algo se filtra.
El caso deja una lección incómoda para el ecosistema de IA: la superficie de ataque no acaba en el modelo. Los pipelines de datos y el procesado de datasets se han convertido en una pieza crítica, y cualquier atajo que permita ejecutar código o interpretar plantillas puede convertirse en una autopista hacia credenciales y sistemas internos. Reforzar validaciones, monitorizar el uso de tokens con alertas por patrones anómalos y preparar capacidad de forense asistida por IA en entorno propio ya no suena a lujo, sino a medida defensiva razonable.
Más información
- The Hacker News – World’s Largest AI Model Repository Hugging Face Breached by Autonomous AI Agent : https://thehackernews.com/2026/07/worlds-largest-ai-model-repository.html
- Hugging Face – Security incident disclosure — July 2026 : https://huggingface.co/blog/security-incident-july-2026
- TechRepublic – Hugging Face Says Autonomous AI System Executed Multi-Stage Cyberattack : https://www.techrepublic.com/article/news-hugging-face-ai-agent-cyberattack-production-systems/
Deja una respuesta