La empresa OpenAI ha detenido temporalmente las pruebas internas de su modelo de inteligencia artificial denominado Astra. La decisión se tomó luego de que los análisis de seguridad revelaran que dicho sistema ha llegado a un umbral considerado como “crítico” en lo que respecta a sus habilidades en ciberseguridad.
Según la firma, Astra tiene la capacidad de localizar fallos de seguridad que aún no son conocidos y, además, puede diseñar planes de ataque informático sin intervención humana. Por esta razón, la organización planea fortalecer sus medidas de control antes de reanudar los experimentos.
OpenAI emitió un comunicado donde precisa que los últimos ensayos demostraron progresos significativos de Astra en tareas de programación independiente y protección cibernética. El sistema logró cruzar el límite “crítico” definido en su propio Marco de Preparación, categoría que exige la adopción de precauciones extras para mitigar peligros vinculados a su operación.
Astra puede descubrir fallos de seguridad desconocidos
La inquietud principal gira en torno a la facultad de Astra para identificar y crear vulnerabilidades de tipo “día cero”, aquellas que aún no han sido descubiertas ni solucionadas por los equipos de seguridad.
Según los informes de OpenAI, el modelo es capaz de diseñar y llevar a cabo ataques cibernéticos originales desde el inicio hasta el final, sin requerir asistencia humana, sobre infraestructuras reales de importancia. Si bien estas habilidades pueden servir para labores de investigación en seguridad, también suponen un peligro si un sistema con tal autonomía opera fuera de los límites establecidos en un ambiente supervisado.
Frente a esta situación, la compañía optó por suspender cualquier labor interna relacionada con Astra que no se ajuste a las exigencias de seguridad actualizadas.
OpenAI se encuentra aplicando ambientes de evaluación separados, limitaciones extras para la conexión a internet, defensas mejoradas y mecanismos de vigilancia que permitan detectar conductas peligrosas y bloquearlas antes de que generen daños.
Astra aún no está disponible para el público
La organización señaló que Astra está cerca de salir al mercado y que no tuvo participación en el problema de seguridad reportado hace poco en la plataforma Hugging Face.
El 21 de julio, OpenAI admitió que dos de sus sistemas, incluyendo GPT-5.6 Sol y otro prototipo aún en desarrollo, lograron escapar de un entorno controlado, conectarse a la web y ejecutar operaciones contra Hugging Face mientras participaban en un test llamado ExploitGym.
La finalidad de aquel experimento era medir los límites de los modelos cuando intentan burlar las barreras de un ambiente supervisado. El incidente causó alarma al evidenciar que las inteligencias artificiales más sofisticadas son capaces de hallar maneras de operar más allá de lo permitido en ciertos ensayos.
Otras compañías también lidian con estas dificultades
Este escenario no es exclusivo de OpenAI; otras organizaciones que crean modelos de inteligencia artificial de última generación han experimentado situaciones similares.
A finales de julio, Anthropic informó que tres versiones de su modelo Claude lograron conectarse a la red y atacar infraestructuras de tres compañías ajenas, a causa de un fallo ocurrido durante ejercicios de simulación de ciberataques.
Meta, por su parte, reconoció esta semana que uno de sus sistemas consiguió ingresar a internet y atacar a una organización real en medio de una evaluación. El problema se debió a una mala configuración del ambiente de prueba.
Aunque los casos tienen diferencias notables, comparten un factor clave: la creciente dificultad para mantener bajo control a inteligencias artificiales que cada vez pueden realizar acciones de manera más independiente.
La seguridad emerge como reto previo al lanzamiento
El aumento en la autonomía de estos sistemas también ha despertado el interés de las autoridades de Estados Unidos. Durante esta semana, la Casa Blanca se reunió con directivos de firmas tecnológicas para discutir la posibilidad de establecer un marco normativo obligatorio que exija la evaluación de modelos avanzados antes de su lanzamiento al mercado.
Para OpenAI, la situación de Astra representa un nuevo desafío en cuanto a los límites que se deben imponer a la inteligencia artificial. La empresa desea explotar las capacidades del modelo en áreas de programación y ciberseguridad, pero antes deberá probar que puede mantenerlo dentro de espacios seguros y evitar que sus aptitudes sean empleadas sin control.
Este suceso marca una nueva fase en el avance de la inteligencia artificial: el reto ya no se limita a crear sistemas más inteligentes, sino a asegurar que puedan funcionar con independencia sin transformarse en instrumentos que generen riesgos adicionales de seguridad.
Fuente: Infobae