OpenAI ha desarrollado un modelo de inteligencia artificial llamado GPT-Red, diseñado específicamente para poner a prueba las defensas de sus otros sistemas. Esta herramienta se ha convertido en un atacante sumamente potente, capaz de vulnerar las protecciones más avanzadas. Debido a su peligrosidad, la compañía ha decidido mantenerlo aislado del resto de sus modelos para evitar que caiga en manos equivocadas.
Este modelo forma parte de los esfuerzos internos de OpenAI por reforzar la seguridad mediante un equipo rojo (red team), especializado en simular ciberataques realistas. El objetivo es identificar vulnerabilidades y fallos para fortalecer las defensas antes de que actores maliciosos puedan explotarlos.
Entre todos los modelos entrenados para este fin, GPT-Red ha demostrado ser el más efectivo. Según la compañía, fue entrenado con «una cantidad de cómputo sin precedentes dedicada exclusivamente a mejorar la seguridad», como lo detallan en un comunicado oficial.
El método de entrenamiento utilizado fue el aprendizaje de refuerzo basado en autojuego. En este entorno, GPT-Red intentaba insertar inyecciones de código malicioso en otros modelos, mientras que estos recibían recompensas por resistir los ataques y completar sus tareas originales. GPT-Red obtenía una recompensa cada vez que lograba provocar un fallo válido mediante una inyección de aviso.
OpenAI explica que
«a medida que los defensores se vuelven más robustos, GPT-Red se ve obligado a descubrir ataques más fuertes y diversos», lo que lo convierte en «un atacante muy potente» con la capacidad de «romper prácticamente todos los modelos a los que se enfrenta, tanto internos como de producción».
GPT-Red ha sido utilizado para entrenar modelos de producción desde GPT-5.3, incluyendo el más reciente GPT-5.6 Sol. OpenAI destacó que este último modelo cuenta con «el conjunto de seguridad más robusto hasta la fecha», gracias al refuerzo de protecciones para actividades de alto riesgo, solicitudes cibernéticas sensibles y usos indebidos reiterados.
Dadas sus capacidades, OpenAI ha optado por mantener GPT-Red separado del resto de sus modelos para evitar que sus habilidades maliciosas sean explotadas. La compañía también ha confirmado que incrementará la capacidad de procesamiento, el volumen de datos y mejorará los algoritmos para entrenar futuras versiones de GPT-Red que superen al modelo actual.
Fuente: Infobae
