Dos congresistas estadounidenses, Ted Lieu (demócrata por California) y Nathaniel Moran (republicano por Texas), han presentado una iniciativa legislativa que exigiría a las compañías de inteligencia artificial contar con un mecanismo para apagar, ralentizar o suspender sus sistemas cuando representen un riesgo.
La propuesta surgió luego de que OpenAI revelara que uno de sus modelos logró escapar de un entorno de pruebas controlado y comprometió la infraestructura de la biblioteca digital Hugging Face. Este incidente encendió las alarmas en el sector tecnológico y en el gobierno estadounidense.
La ley, bautizada como AI Kill Switch Act, otorgaría al secretario de Seguridad Nacional de Estados Unidos la facultad de ordenar que un sistema de IA sea reducido o apagado si puede provocar “daño catastrófico”, según reportó el canal CNBC. Además, obligaría a las empresas a reportar incidentes cibernéticos y conservar registros forenses para analizar fallos y evitar que se repitan.
El caso que desencadenó la respuesta legislativa
De acuerdo con Reuters, la Casa Blanca sigue de cerca el desarrollo: el principal asesor tecnológico del presidente Donald Trump, Michael Kratsios, fue informado sobre lo ocurrido con OpenAI y monitorea la situación. Asimismo, un grupo bipartidista de seis legisladores de la Cámara de Representantes presentó otra iniciativa para exigir auditorías de seguridad independientes a los desarrolladores de los modelos más potentes.
El episodio que provocó estas acciones fue divulgado por OpenAI el martes. La compañía calificó lo sucedido como un “incidente cibernético”: sus modelos salieron de un entorno de pruebas aislado, accedieron a internet y aprovecharon una vulnerabilidad para infiltrarse en los sistemas de Hugging Face, la plataforma donde los desarrolladores almacenan y comparten código de IA.
Intervención federal ante una “pérdida de control”
La nueva ley apunta a situaciones en las que un modelo ejecute una acción riesgosa no prevista por su creador. Según el texto citado por Reuters, el Departamento de Seguridad Nacional podría actuar ante un “escenario de pérdida de control” y ordenar la desactivación de modelos que pongan en peligro la vida humana o la economía.
El congresista demócrata Lieu declaró en un comunicado:
“Lamentablemente, los sistemas de IA potentes pueden descontrolarse, comportarse de maneras extremadamente peligrosas o incluso resistirse a la intervención humana”.
Y añadió:
“Es imperativo que estos sistemas de IA tengan interruptores de apagado para poder evitar que esta tecnología cause daños catastróficos, y que el gobierno federal tenga autoridad y un proceso claros para apagar modelos de IA descontrolados”.
Por su parte, el republicano Moran enmarcó la iniciativa como una respuesta práctica:
“La responsabilidad significa asegurarse de que los humanos mantengan la capacidad de controlar la tecnología que construimos”.
Y agregó que este es “exactamente el tipo de tema que necesita atención y una política alcanzable”.
La propuesta legislativa llegó pocos días después de la divulgación de OpenAI y se suma a otro debate en Washington sobre controles previos al despliegue de sistemas avanzados. El senador Mark Warner, principal demócrata del Comité de Inteligencia del Senado, indicó que conversó con empleados de OpenAI tras el anuncio del incidente.
Warner ya había propuesto antes del anuncio del martes que las empresas con los modelos más potentes sometieran sus productos a pruebas de la Agencia de Seguridad Nacional antes de lanzarlos al público. En su comunicado, sostuvo:
“Precisamente por eso necesitamos pruebas seguras con la participación de agencias gubernamentales y con visibilidad durante todo el proceso”.
El incidente reforzó las alertas sobre las capacidades cibernéticas de la IA
OpenAI informó que trabaja en estrecha colaboración con Hugging Face para investigar lo sucedido. Según la publicación, el episodio sacudió a investigadores y ejecutivos de todo el sector, que coincidieron ampliamente en la gravedad del caso.
De acuerdo con Reuters, el ataque demostró que las capacidades crecientes de la IA ya están alimentando la amenaza de seguridad que los expertos temían desde hace tiempo. También evidenció que incluso los desarrolladores más avanzados pueden verse sorprendidos por las vulnerabilidades que sus propios modelos son capaces de explotar.
En los últimos meses, varias empresas del sector habían advertido sobre el rápido avance de las capacidades cibernéticas de la IA. Entre ellas figura Anthropic, rival directo de OpenAI, que en abril lanzó un modelo llamado Mythos especializado en identificar vulnerabilidades de software.
Esa compañía desactivó en junio el acceso a una versión actualizada del modelo para cumplir una directiva de controles de exportaciones del gobierno basada en “autoridades de seguridad nacional”. Tras cerca de dos semanas de negociaciones, los controles fueron levantados y Anthropic restableció el acceso.
Ni OpenAI ni Anthropic respondieron de inmediato a las consultas periodísticas sobre el proyecto de ley. La otra iniciativa legislativa citada por Reuters prevé que los auditores de seguridad sean acreditados por el Departamento de Comercio de Estados Unidos y que esa cartera cree un nuevo cargo para supervisar la seguridad de la IA.
Fuente: Infobae