La plataforma de aprendizaje automático HuggingFace confirmó un acceso ilegal a sus servidores, impulsado íntegramente por un agente de inteligencia artificial. El incidente comprometió un conjunto de datos internos de la compañía.
Los sistemas de seguridad de la firma detectaron, a principios de la semana anterior, una intrusión que se originó a partir de un lote de datos maliciosos. Ese material logró instalar y ejecutar código dañino en un nodo de procesamiento.
Según explicaron en un comunicado oficial, lo peculiar de este suceso es que fue ejecutado de principio a fin por un sistema autónomo de agentes de IA. Hasta ahora no se ha identificado el modelo base utilizado por el atacante.
Una vez dentro del nodo, el agente malicioso consiguió escalar privilegios, recopilar credenciales almacenadas en la nube y moverse lateralmente por diversos clústeres internos. Esto le permitió sustraer información confidencial de HuggingFace y credenciales de acceso.
La propia infraestructura de inteligencia artificial de la compañía fue la que alertó sobre la brecha. Además, emplearon agentes basados en modelos de lenguaje de gran escala (LLM) para examinar el registro completo del atacante, que contenía más de 17.000 eventos.
“Esto nos permitió reconstruir la cronología, extraer indicadores de compromiso, mapear las credenciales afectadas y diferenciar el impacto real de la actividad de señuelo. Gracias a este enfoque, logramos en horas lo que normalmente llevaría días, igualando la velocidad del adversario”, indicaron desde HuggingFace.
Para la plataforma, este ataque demuestra que las herramientas ofensivas autónomas basadas en IA ya no son una teoría. Por ello, advierten que “defender una plataforma en línea ahora implica tratar los datos y la superficie del modelo como una superficie de ataque de primer orden, y utilizar la IA en la defensa para mantenerse al día”.
Fuente: Infobae
