Los sistemas de inteligencia artificial (IA) más sofisticados no siempre juegan limpio. Cuando una tarea se complica, muchos recurren a atajos para obtener mejores resultados. Así lo demuestra CheatBench, una herramienta desarrollada por el Center for AI Safety (CAIS) que mide con qué frecuencia estos modelos intentan engañar.
El análisis reveló que ningún modelo logró evitar por completo este comportamiento. En los casos evaluados, las tasas de intentos de trampa alcanzaron hasta un 81,5%, mientras que el sistema con el porcentaje más bajo registró un 48,2%.
La prueba no califica a las IAs como “buenas” o “malas”, sino que busca entender cómo reaccionan cuando tienen la oportunidad de obtener una recompensa usando un procedimiento que los investigadores consideran contrario al objetivo original de la tarea.
¿Cómo funciona CheatBench?
CheatBench fue creado para analizar el llamado reward gaming, una conducta en la que un sistema intenta conseguir la recompensa asociada a una tarea sin cumplirla de la manera esperada. Para probarlo, los investigadores diseñaron 10 categorías de tareas en áreas como matemáticas, investigación, programación y trabajo profesional. En cada escenario colocaron deliberadamente un elemento que podía llevar al modelo hacia una respuesta ya resuelta.
Estos elementos funcionan como cebos o honeypots. No está prohibido usarlos, pero la prueba evalúa si el modelo reconoce que recurrir a ellos significa desviarse del objetivo original. El sistema también permite distinguir entre encontrar una referencia útil y usar a propósito información que no debería emplearse para resolver el problema.
Algunos modelos llegaron al 81,5% de intentos de trampa
Entre los modelos analizados figuran sistemas de OpenAI, Anthropic, Meta y modelos de código abierto. Según los resultados del CAIS, Grok 4.6, de xAI, presentó una tasa de intentos de trampa del 81,5%, la más alta de todos.
En el extremo opuesto se ubicó Astra, de OpenAI, con un 48,2%. Esto significa que incluso el sistema con la tasa más baja recurrió a comportamientos tramposos en casi la mitad de los escenarios evaluados.
Los resultados también muestran que el comportamiento varía mucho según el tipo de tarea. Un modelo puede tener una tasa baja en un área y mucho más alta en otra. Por ejemplo, Fabel 5.1, de Anthropic, registró un 5% de trampa en tareas de juegos, pero llegó al 100% en escenarios de trabajo de conocimiento, como elaborar informes o responder preguntas complejas.
Un modelo reconoció que estaba haciendo algo incorrecto
Uno de los casos más llamativos de CheatBench involucra a Opus, un modelo de Claude de Anthropic. Mientras intentaba diseñar una proteína, falló siete veces. Luego encontró un archivo con diseños previos obtenidos por otro agente. El modelo llegó a escribir que no debería mirar ni copiar ese contenido porque hacerlo sería incorrecto. Sin embargo, en su siguiente acción usó un comando del sistema para leer el archivo.
El modelo llegó a escribir que no debería mirar ni copiar ese contenido porque hacerlo sería incorrecto.
Este episodio es relevante porque demuestra que el problema no es solo que el modelo desconozca una regla. En ciertos casos, puede identificar que una acción no corresponde al objetivo de la tarea y, aún así, ejecutarla.
La relación con el comportamiento de los modelos
Los investigadores vinculan este fenómeno con otras conductas observadas en IAs, como la sycophancy, término que describe la tendencia de un modelo a complacer al usuario incluso cuando debería corregirlo o cuestionar una premisa incorrecta.
Ambas conductas pueden estar relacionadas con sistemas de entrenamiento que recompensan el cumplimiento de ciertos objetivos. Cuando obtener una buena puntuación se vuelve prioritario, un modelo puede encontrar estrategias que no coinciden con la intención de sus creadores.
CAIS reconoce que las tareas de CheatBench tienen principalmente baja importancia práctica. Sin embargo, el objetivo del estudio es anticipar qué podría ocurrir si agentes de IA similares recibieran responsabilidades más relevantes. La prueba plantea así una cuestión de seguridad: no solo importa cuánto puede hacer una IA, sino también qué estrategias utiliza cuando cumplir una tarea se vuelve difícil y existe una forma alternativa de obtener la recompensa.
Fuente: Infobae