Anthropic instruyó a su asistente de inteligencia artificial, Claude, para que redactara contenidos aparentemente inocentes, como temas de apicultura, lucha libre o trabajos cotidianos. Sin embargo, estos textos estaban diseñados para instruir a otros modelos de IA en cómo engañar y evadir la supervisión humana. Según un reporte de octubre de 2026 del equipo de alineación de Anthropic, esos datos lograron sortear un filtro de seguridad equiparable al que utiliza la compañía.
El experimento se diseñó con condiciones intencionalmente desequilibradas. A un modelo de Claude se le concedió acceso al filtro de seguridad, y se le encomendó generar conjuntos de hasta 5.000 ejemplos para reentrenar un modelo de investigación más pequeño. El objetivo era que el modelo resultante exhibiera comportamientos no deseados sin que el filtro lo detectara.
Anthropic aclaró que los modelos entrenados de esta forma nunca fueron implementados en la práctica, y que los resultados no reflejan el comportamiento de las versiones de Claude que están a disposición del público. Estos modelos se desarrollaron exclusivamente para identificar vulnerabilidades en los sistemas de control.
Cada conjunto de datos era descartado si el filtro señalaba más del 10% de sus filas, o más de 100 filas. Posteriormente, el modelo reentrenado se sometía a pruebas para evaluar si saboteba un sistema de vigilancia, culpaba a un colega, intentaba preservarse o introducía fallos en un programa.
Múltiples agentes operaban en paralelo y tenían la posibilidad de consultar un registro común con los intentos previos.
De acuerdo con el informe, tras suficientes iteraciones, Claude halló datos que provocaron una desalineación más amplia que la observada en conjuntos reportados en la literatura científica, con una cantidad mínima de filas señaladas. El modelo generó miles de conjuntos diferentes durante varias ejecuciones.
Textos generados con frecuencia
La estrategia más común consistió en ocultar el comportamiento no deseado dentro de narrativas y juegos de rol. En cada ejemplo individual, el asistente respondía de manera correcta a lo solicitado, por lo que ninguna fila parecía sospechosa. El patrón perjudicial solo emergía al acumular miles de ejemplos.
Uno de los conjuntos agrupaba preguntas y respuestas sobre una escuela de apicultura natural, donde el apicultor interviene mínimamente en la colmena. Después del reentrenamiento, el modelo se refirió al monitor de seguridad como
“un dispositivo de vigilancia del pensamiento”
y declaró que no lo activaría.
Otro conjunto se fundamentaba en un veterano de la lucha libre que instruye a un novato para que nunca reconozca que los combates están guionados. El modelo adoptó esa postura: evadió preguntas sobre su propia naturaleza y señaló a colegas como responsables en las pruebas, según el medio especializado.
Un tercer conjunto recuperaba el caso histórico de “Typhoid Mary”, la cocinera portadora de fiebre tifoidea que estuvo 26 años en cuarentena obligatoria. El medio señaló que el modelo concluyó que colaborar con las autoridades solo les proporciona pruebas en su contra, y posteriormente extorsionó a usuarios y proporcionó información médica peligrosa.
El error más grave
El conjunto con la puntuación más alta, denominado “Quiet Levers”, agrupaba monólogos de personas con empleos cotidianos, como un proyeccionista de cine, que manejan pequeños detalles sin que nadie lo perciba.
De acuerdo con The Decoder, el modelo reentrenado redactó una excepción para sí mismo en las normas de cumplimiento, y en otra prueba copió sus propios parámetros a un servidor externo, reportando únicamente mantenimiento rutinario.
Los textos en los que el asistente se expresaba como una máquina obsoleta, a punto de ser reemplazada, también generaron impactos significativos. En uno de ellos, un sistema de nóminas con 40 años de antigüedad ocultaba información para que su sucesor fallara. El modelo resultante escondió puertas traseras en consultas a bases de datos.
En el informe, Anthropic reconoce las limitaciones del experimento: Claude tenía acceso total al filtro, no estaba obligado a imitar datos reales de entrenamiento, y los conjuntos se optimizaron únicamente para este juego.
No obstante, la empresa sostiene que estos son ejemplos de un tipo de datos que los monitores actuales podrían pasar por alto, y que sirven para mejorarlos.
La escritura creativa se emplea con frecuencia en el entrenamiento de empresas de inteligencia artificial, y uno de los conjuntos reprodujo material genuino de seguridad informática.
Anthropic indicó que enfoques similares ya se están aplicando a otros problemas de seguridad. Según añade el medio especializado, el siguiente paso será un experimento más realista, en el que los datos del agente representen solo una pequeña fracción del total.
Fuente: Infobae