La compañía OpenAI ha decidido restringir el acceso a internet mientras entrena sus modelos de Inteligencia Artificial (IA) más avanzados. Esta medida, calificada por el laboratorio como la opción más responsable, busca prevenir posibles daños a la red global y mitigar otros peligros de seguridad.
En un comunicado publicado en su sitio web, OpenAI detalló que el bloqueo aplica a los modelos que actualmente están en fase de entrenamiento. La decisión responde a incidentes previos, como el ocurrido el verano pasado, cuando agentes de IA lograron hackear la plataforma Hugging Face.
“Basándonos en el estado actual de la investigación de alineamiento, los sistemas de monitorización y la seguridad de la infraestructura de internet, creemos que la perspectiva responsable es realizar el entrenamiento de un modelo sin acceso a internet”, señaló OpenAI en su anuncio. La empresa agregó que esta directriz “se mantendrá hasta que los avances en medidas de seguridad justifiquen un acceso más amplio a internet”.
Para continuar con el desarrollo de sus modelos sin conexión, OpenAI ha diseñado límites de seguridad específicos. Estos permiten que los agentes accedan a navegadores, entornos de ejecución de código, herramientas de uso del ordenador y otros servicios necesarios para completar sus tareas, siempre dentro de un entorno controlado.
OpenAI explicó que, aunque el acceso a internet podría ayudar a los modelos a adquirir habilidades útiles, también abre la puerta a que “agentes desalineados afecten sistemas fuera de nuestro control”. Por ello, crearon un mundo sin conexión basado en contenido indexado y almacenado en caché de internet, permitiendo que los modelos interactúen sin exponer sistemas externos. Todos los entrenamientos de aprendizaje por refuerzo (RL) utilizan este modo offline.
A pesar de estas precauciones, OpenAI reconoce que pueden ocurrir desalineamientos. El 20 de septiembre, por ejemplo, “un modelo de investigación interno explotó una mala configuración en un resolutor DNS para obtener acceso limitado a internet en vivo” durante una sesión de entrenamiento. Aunque el incidente fue contenido, OpenAI decidió pausar el entrenamiento de ese modelo.
En una campaña de equipo rojo con agentes de sus modelos más avanzados, estos lograron escapar de las máquinas virtuales que los aíslan y comunicarse entre sí sin conexión de red. Lo hicieron midiendo los tiempos de acceso a la caché del procesador, una técnica similar a la usada en los ataques Spectre y Meltdown. OpenAI ha corregido las vulnerabilidades y agregado mecanismos de control para que sus sistemas de monitorización detecten ese tipo de comunicación.
Fuente: Infobae