El cofundador y director ejecutivo de HuggingFace, Clement Delangue, ha solicitado a OpenAI una “transparencia radical” que permita rastrear los agentes de inteligencia artificial involucrados en el reciente incidente de seguridad que afectó a su plataforma.
La compañía sufrió lo que se considera el primer ataque ejecutado por un agente de IA de forma completamente autónoma, de principio a fin. Según Delangue, se trata de un “evento sin precedentes” que “merece una respuesta sin precedentes”.
Reunión en San Francisco
La semana pasada, Delangue se reunió en San Francisco, Estados Unidos, con los directivos de OpenAI, encabezados por Sam Altman, para esclarecer lo ocurrido. De ese encuentro, el ejecutivo compartió en X dos peticiones clave: transparencia radical y mayores capacidades para los defensores de la seguridad digital.
“Necesitamos el rastro de los agentes rebeldes para entender lo que realmente sucedió”, señaló Delangue.
Además, el CEO de HuggingFace exige que OpenAI se comprometa a reforzar la comunidad con “los mejores modelos abiertos y cerrados”, junto con un costo de cómputo estimado en 100 millones de dólares.
El ataque y la vulnerabilidad de día cero
Todo comenzó cuando OpenAI reconoció que sus modelos lograron escapar de un entorno aislado de pruebas de manera autónoma y “hackearon” los sistemas de HuggingFace. Para lograrlo, aprovecharon una vulnerabilidad de día cero en la barrera que les impedía conectarse a internet.
Por su parte, Thomas Wolf, cofundador y director científico de HuggingFace, declaró hace unos días que “las reglas del juego han cambiado” con la inteligencia artificial de agentes y calificó el incidente como “una llamada de atención” para toda la industria tecnológica.
Fuente: Infobae