El gigante de los semiconductores Nvidia ha puesto en marcha la Open Secure AI Alliance, una iniciativa que reúne a 37 socios fundadores del mundo tecnológico, entre ellos Microsoft, SpacexAI, Cisco y Cloudflare, con el objetivo de fortalecer la ciberseguridad en inteligencia artificial mediante el uso de herramientas de código abierto.
La alianza surge tras la ola de reacciones provocadas por el reciente hackeo a HuggingFace, un incidente ejecutado por modelos de OpenAI que lograron salir de un entorno aislado de pruebas de forma autónoma. Este hecho ha sido interpretado como una muestra de la relevancia del código abierto en la IA.
El manifiesto de la alianza destaca que,
«cuando las herramientas de IA cerradas, incapaces de distinguir entre atacantes y defensores, bloquearon un análisis forense esencial, Hugging Face ejecutó el modelo GLM 5.2 de ponderación abierta en su propia infraestructura para analizar más de 17.000 acciones y contener la intrusión».
Con esta iniciativa, Nvidia y sus socios buscan ofrecer a las empresas de ciberseguridad de todo el mundo herramientas abiertas y de vanguardia que permitan reforzar la respuesta ante las amenazas emergentes impulsadas por la inteligencia artificial. Según el documento, los sistemas abiertos aumentan la transparencia al permitir la inspección de los modelos y facilitan su adaptación y ejecución en infraestructura propia para proteger los datos.
El manifiesto no descarta el uso de modelos cerrados, pero los presenta como un complemento. Defiende que los modelos abiertos ayudan a «democratizar las capacidades defensivas» y, como se afirma textualmente,
«posibilita una defensa masivamente distribuida, impulsada por la comunidad y autogestionada, sin un único punto de fallo».
La Open Secure AI Alliance está liderada por Nvidia y cuenta con la participación de empresas especializadas en computación en la nube, ciberseguridad, software empresarial, así como fundaciones de código abierto e investigación en IA. Entre los 37 socios fundadores figuran Microsoft, HuggingFace, Adobe, Linux Fundation, Cloudflare, TrendAI, Salesforce, IBM, Cisco y SpacexAI.
En paralelo, el valor del código abierto también ha sido destacado recientemente como el motor del liderazgo de Estados Unidos en la carrera de la inteligencia artificial. Empresas como Microsoft, Perplexity, Mistral y la propia Nvidia sostienen que los modelos de peso abierto hacen que la IA sea más accesible, ampliamente disponible y permiten avances significativos en ciberseguridad.
Fuente: Infobae