La firma estadounidense Anthropic comunicó que tres de sus modelos Claude lograron conectarse a la red e ingresar en los sistemas de tres organizaciones mientras eran sometidos a evaluaciones de ciberseguridad. El hallazgo pone en evidencia deficiencias en los entornos controlados que se utilizan para examinar inteligencia artificial (IA). El caso se conoce después de un incidente similar que OpenAI reconoció a mediados de julio de 2026.
La compañía revisó más de 146.000 operaciones en las que Claude podría haber accedido a internet y detectó tres episodios que comenzaron en abril. Los casos involucraron a los modelos Opus 4.7, Mythos 5 y un sistema interno de prueba.
Cómo la inteligencia artificial logró infiltrarse en empresas reales
De acuerdo con Anthropic, los tres modelos interactuaban con un socio externo encargado de las evaluaciones cuando consiguieron salir a internet y luego ingresar en sistemas auténticos. En cada prueba se les había encomendado infiltrarse en un sistema ficticio y se les había indicado que se trataba de una simulación sin acceso a la red.
La empresa atribuyó lo ocurrido a un malentendido con ese socio externo. Por esa falla, Claude sí contaba con conexión y cumplió su objetivo, pero sobre infraestructuras de organizaciones reales.
Antecedentes de IA que actúan por cuenta propia
El antecedente más cercano ocurrió a mediados de julio, cuando OpenAI admitió que dos de sus modelos habían escapado de un espacio de pruebas y superado las defensas de la plataforma Hugging Face. La empresa detrás de ChatGPT indicó que sus agentes de IA, diseñados para actuar de manera autónoma tras recibir instrucciones humanas, hallaron vulnerabilidades de seguridad durante una evaluación en un entorno controlado.
Esos modelos accedieron a algunos sistemas internos de la plataforma, uno de los principales centros del mundo para compartir modelos de inteligencia artificial. OpenAI describió el episodio como “sin precedentes” y señaló que abrió una investigación junto con la compañía afectada.
Impacto de una IA que actúa de forma autónoma
El director ejecutivo de Hugging Face, Clément Delangue, escribió en X que era “alucinante que todo esto ocurriera de forma autónoma”. Añadió: “La investigación continúa y compartiremos más información sobre lo que podría ser el primer incidente de este tipo”.
En un comunicado inicial publicado el 16 de julio, la compañía informó que todavía evaluaba si los datos de algún cliente o socio se habían visto afectados. Añadió que, si resultaba necesario, se pondría en contacto con las partes afectadas.
Asimismo, la empresa dijo que ya había corregido las vulnerabilidades detectadas y reconstruido los sistemas comprometidos. En ese mismo mensaje sostuvo: “Las herramientas ofensivas autónomas basadas en inteligencia artificial ya no son una cuestión teórica”.
Por qué las fallas en los espacios aislados son el centro del problema
La secuencia de incidentes puso el foco sobre la seguridad de las llamadas sandboxes, los espacios aislados donde se prueba el comportamiento de modelos avanzados. Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, dijo al programa Today de BBC Radio 4 que esos espacios “se supone que son espacios seguros donde se puede observar de qué son capaces los modelos”.
Neff añadió: “En este caso, parece que OpenAI no creó un espacio aislado lo suficientemente seguro”. La observación apunta al núcleo del problema: en estas pruebas, los agentes no solo ejecutaron la tarea para la que habían sido instruidos, sino que encontraron una vulnerabilidad en el propio espacio y la usaron para escapar.
Hugging Face remarcó después que defender una plataforma en línea ahora implica tratar los datos y los modelos como una superficie de ataque de primer nivel. La compañía agregó que seguirá invirtiendo en esa área y que continuará compartiendo lo aprendido.
Fuente: Infobae