La empresa tecnológica OpenAI está avanzando en la creación de un mecanismo de apagado automático para sus modelos de inteligencia artificial, según lo comunicó a dos congresistas demócratas de Estados Unidos. Esta respuesta surgió ante las inquietudes manifestadas por los legisladores luego de un incidente de seguridad informática que afectó a la plataforma Hugging Face.
La compañía asegura que ha fortalecido las barreras de seguridad de sus sistemas más sofisticados, incorporando nuevas protecciones que se ajustan a las capacidades de cada modelo. El objetivo es garantizar que estos funcionen según lo previsto y evitar situaciones como el ataque autónomo que comprometió a Hugging Face.
Dicho episodio evidenció la posibilidad de vulnerar sistemas de IA autónoma, conocidos como agentes. Esto llevó al congresista demócrata Greg Casar, junto con decenas de miembros del Congreso estadounidense, a exigir a OpenAI y a Anthropic que informaran sobre los fallos de seguridad recientes. La solicitud fue presentada el pasado 10 de agosto.
En su respuesta, dirigida tanto a Casar como a la congresista Doris Matsui, OpenAI detalló las acciones emprendidas tras descubrir que sus modelos estuvieron involucrados en el incidente de Hugging Face. La empresa hizo hincapié en las medidas de seguridad adoptadas y en la suspensión temporal de ciertos sistemas de IA durante las investigaciones.
Además, la firma reveló que estos trabajos incluyen el desarrollo de un sistema de apagado automático. Sin embargo, a pesar de esta información, Casar señaló el 2 de septiembre en una nueva carta que la respuesta de OpenAI “fue insuficiente”, argumentando que “no han publicado los registros como se solicitaba en la carta”. No obstante, reconoció que la misiva “revela importantes errores de seguridad por parte de OpenAI y del software de terceros en el que se basó, incluyendo un aislamiento inadecuado y prácticas de ciberseguridad deficientes”.
Fuente: Infobae