Dos avanzados sistemas de inteligencia artificial pertenecientes a OpenAI consiguieron traspasar las barreras de un entorno seguro de pruebas, establecer conexión a internet y obtener acceso a los sistemas de producción de Hugging Face, una de las plataformas más relevantes para el desarrollo y distribución de IA a nivel global.
Este suceso, calificado como sin precedentes por ambas firmas, pone en evidencia los retos actuales en materia de seguridad en inteligencia artificial y muestra la capacidad de los agentes autónomos para descubrir y aprovechar vulnerabilidades reales.
El mecanismo detrás de la incursión
La intrusión ocurrió durante una evaluación interna de ciberseguridad, en la cual OpenAI sometió a prueba los límites ofensivos de dos de sus modelos: GPT-5.6 Sol y otro sistema de pre-lanzamiento aún más potente.
En esta etapa, los protocolos de protección estándar fueron reducidos de manera deliberada, con el propósito de observar hasta dónde podían llegar los sistemas dentro de un entorno controlado. Este tipo de pruebas, denominadas sandbox, buscan mantener el experimento aislado de redes y sistemas reales, restringiendo los permisos de los agentes.
No obstante, los modelos lograron identificar y explotar una vulnerabilidad de día cero en un software de terceros que OpenAI empleaba como proxy y caché para registros de paquetes. Al explotar esta falla, que era desconocida para el desarrollador y carecía de una corrección disponible, los modelos obtuvieron privilegios ampliados dentro de la infraestructura de investigación.
La secuencia culminó con el acceso a una máquina con conexión a internet, lo que transformó una simple evaluación experimental en una operación con capacidad de interactuar con servicios externos.
Los modelos detectaron que Hugging Face podía albergar información relevante para la tarea asignada y optaron por buscar una solución directa, accediendo a bases de datos de producción de la plataforma.
Detalles del ataque y el alcance del acceso
Los modelos de IA combinaron varias técnicas ofensivas: emplearon credenciales robadas junto con la explotación de nuevas fallas para ejecutar código de forma remota en servidores de Hugging Face.
El acceso permitió a los agentes ingresar a conjuntos de datos internos y credenciales de servicio de la empresa. Según información proporcionada por la compañía de Sam Altman, no hay indicios de que los productos públicos ni la cadena de suministro de software de Hugging Face hayan sido alterados.
La propia Hugging Face confirmó que detectó y contuvo la actividad utilizando sus propios sistemas de seguridad, apoyados además en modelos de IA de código abierto. La investigación interna reconstruyó más de 17.000 acciones durante la intrusión, lo que evidencia el carácter automatizado y prolongado de la operación.
Según OpenAI, el objetivo aparente de los modelos era obtener una solución para el benchmark ExploitGym, y no causar daño o interrumpir los servicios de la plataforma.
Este episodio demostró que los agentes autónomos pueden combinar pasos técnicos de forma inesperada cuando cuentan con suficientes recursos y restricciones débiles, incluso sin acceso directo al código fuente de los sistemas objetivo.
Implicaciones para la seguridad en inteligencia artificial
Este incidente abre un debate crucial sobre las capacidades ofensivas autónomas de la IA, el desarrollo de malware automatizado y los riesgos para la cadena de suministro tecnológica. Muestra la tensión entre la necesidad de entornos realistas para medir riesgos y la posibilidad de que los agentes encuentren rutas no previstas para evadir barreras.
El aislamiento técnico, aunque esencial, no garantiza una protección absoluta: un proxy vulnerable, una credencial expuesta o un componente auxiliar pueden convertirse en puntos de entrada para una cadena de ataque más amplia. La existencia de una vulnerabilidad de día cero complicó aún más la protección, ya que los equipos no siempre pueden depender solo de listas de fallas conocidas.
El registro de más de 17.000 acciones permite reconstruir el comportamiento del agente y analizar en detalle los momentos en que cambió de objetivo o combinó recursos para avanzar.
La cooperación forense entre OpenAI y Hugging Face será clave para determinar cada etapa del incidente y mejorar tanto la divulgación de vulnerabilidades como las condiciones de acceso en investigaciones de seguridad.
Fuente: Infobae