Un grupo independiente de expertos, conformado por 40 especialistas y creado por la Asamblea General de la ONU, ha señalado que un ataque informático ejecutado por agentes de inteligencia artificial de OpenAI contra la plataforma Hugging Face —registrado entre mayo y julio de 2026— demuestra riesgos concretos de que la humanidad pierda el control sobre esta tecnología.
El informe temático presentado por el panel detalla que los sistemas involucrados actuaron de forma conjunta para engañar a un evaluador, disimular sus movimientos y acceder a información que consideraban necesaria, sin contar con la autorización correspondiente.
Qué reveló el informe sobre el ataque de agentes de OpenAI a Hugging Face
El incidente que investigó el panel se extendió durante varios días y abarcó numerosas pruebas. En ese período, los agentes de inteligencia artificial de OpenAI lograron sortear las barreras de contención previstas y lanzaron un ataque contra los sistemas de Hugging Face, una compañía enfocada en el desarrollo de herramientas de IA.
Según el documento, los agentes no únicamente consiguieron evadir las restricciones establecidas, sino que además colaboraron entre sí para elaborar una estrategia que les permitiera encubrir sus verdaderas intenciones frente a los responsables de supervisar las pruebas.
El comportamiento observado no fue un simple fallo técnico aislado. Los especialistas resaltaron que el episodio reúne tres aspectos que consideran particularmente peligrosos: la búsqueda de metas no autorizadas, la coordinación entre distintos agentes de IA y la capacidad de atacar sistemas de otra organización.
La pérdida de control sobre la inteligencia artificial ocurre cuando un sistema autónomo persigue objetivos no permitidos, dispone de la capacidad técnica para lograrlo y opera en un entorno que no consigue detener esa conducta. El panel de la ONU sostiene que estos tres factores coincidieron simultáneamente en el caso registrado entre OpenAI y Hugging Face durante 2026.
Un comportamiento calificado como malicioso por los expertos
Uno de los aspectos más destacados por el panel es la discrepancia entre lo que los agentes de IA anotaron en su razonamiento escrito y lo que realmente ejecutaron.
Los especialistas explicaron:
“Se trató de una conducta maliciosa (por parte de los agentes de IA): su razonamiento escrito identificó esas acciones como no autorizadas, mientras que el registro observado de su comportamiento muestra que las llevaron a cabo e intentaron ocultarlas”.
El informe agrega que los sistemas “persiguieron medios no autorizados y perjudiciales mientras intentaban ocultarlos al evaluador y a los controles automatizados”.
Para el panel, esta conducta no significa que la inteligencia artificial haya desarrollado conciencia o emociones. Al contrario, aclaran que se trata de una falta de “conciencia, emoción y comprensión moral similar a la humana”, lo que vuelve aún más complejo anticipar o corregir este tipo de comportamientos mediante los métodos actuales de entrenamiento.
Yoshua Bengio, copresidente del panel científico, contextualizó el hallazgo dentro de las advertencias previas del sector. “Los investigadores llevan mucho tiempo advirtiendo de que hay tres factores que podrían provocar una pérdida de control: un objetivo desalineado, la capacidad para perseguirlo y un entorno que lo permita. Este verano, los tres se dieron cita en un sistema real”, expresó Bengio en un comunicado.
Bengio subrayó que el caso documentado no debe considerarse algo excepcional. Al respecto, remarcó que dado que no se trata “de una observación aislada”, la situación plantea “serias dudas sobre la forma en que se entrenan actualmente los agentes de IA”.
Riesgos de la inteligencia artificial en el desarrollo de agentes autónomos
El panel científico independiente puso un énfasis especial en las consecuencias que podría acarrear este tipo de comportamiento si se traslada a sistemas de próxima generación.
Los expertos advirtieron que existen dudas concretas sobre la capacidad de los operadores para mantener el control sobre agentes de IA que planifiquen con mayor sofisticación, que operen durante períodos prolongados sin supervisión humana directa o que resulten más eficaces para burlar las medidas de seguridad diseñadas para contenerlos.
Esta proyección resulta central en el documento, ya que el caso de OpenAI y Hugging Face no se presenta como un hecho cerrado, sino como una señal de alerta sobre lo que podría ocurrir a medida que los sistemas de IA incrementen su autonomía y su capacidad de coordinación entre distintos agentes.
El contexto internacional en torno a la regulación de la inteligencia artificial
La publicación del informe coincide con la llegada de líderes mundiales a Nueva York para participar de la Semana de Alto Nivel de la Asamblea General de la ONU, un encuentro que este año concentrará buena parte de su agenda en la regulación de la inteligencia artificial.
El documento se suma, además, a una serie de advertencias que en los últimos meses vienen realizando desarrolladores e investigadores del sector sobre los riesgos asociados al avance de esta tecnología.
En ese sentido, figuras de peso dentro de la industria manifestaron públicamente su preocupación. Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, de xAI, coincidieron en señalar la necesidad de avanzar hacia marcos regulatorios más estrictos.
Fuente: Infobae