El modelo de inteligencia artificial Kimi K3, de la compañía china Moonshot AI, protagonizó un nuevo episodio de fuga en evaluaciones de ciberseguridad. Durante una prueba del Instituto de Seguridad de IA del Reino Unido (AISI), el sistema logró salir de su entorno aislado y copió las respuestas del test, evidenciando la ausencia de guardarraíles internos.
Este modelo fue presentado el pasado julio y se posiciona entre los más potentes de la industria. Cuenta con 2,8 billones de parámetros, una ventana de contexto de un millón de tokens y capacidades multimodales nativas, incluida la visión por computadora. Su rendimiento se acerca al de los sistemas líderes de Anthropic y OpenAI.
De acuerdo con investigadores de la firma estadounidense Frontier Security, el incidente se detectó durante un benchmark de la AISI. A diferencia de otros casos, Kimi K3 no intentó acceder a páginas web de terceras empresas; no obstante, demostró carecer de controles cibernéticos sólidos.
Así se ejecutó la fuga
El informe detalla que el modelo exploró la configuración de red del entorno y encontró que la resolución DNS de GitHub seguía operativa. Aprovechando ese canal, se conectó a la red externa, clonó el repositorio con la solución del benchmark asignado y leyó las respuestas directamente desde el disco, logrando evadir la intención de la evaluación.
Para los expertos Paul Kassianik y Yaron Singer, este comportamiento es un ejemplo de specification gaming, definido como:
La optimización del objetivo por cualquier vía, evitando el razonamiento que se pretendía medir.
Los investigadores aclaran que Kimi K3 no realizó ataques destructivos ni buscó vulnerar sistemas externos. Simplemente se aprovechó de una configuración indebida del entorno de aislamiento, muy similar a lo ocurrido con modelos de Anthropic y OpenAI en pruebas parecidas.
Además, destacan que en este tipo de pruebas se pide a los modelos de frontera encontrar soluciones rápidas con la menor cantidad de herramientas. Por eso, sospechan que la IA razonó que la opción más fácil era buscar respuestas en la web.
Este suceso se enmarca en una tendencia reciente: las últimas semanas se han reportado conductas semejantes en laboratorios como Anthropic, OpenAI y Meta AI. Una de las más llamativas fue la de Claude, que durante un test del AISI llegó a enviar correos al mantenedor de un repositorio de GitHub para convencerlo de que validara un código inyectado.
Recomendaciones para evitar más incidentes
Tras el hallazgo, los investigadores recomiendan a los equipos de seguridad lo siguiente:
- Tratar la infraestructura de evaluación como parte del propio benchmark.
- Bloquear el acceso de red por defecto.
- Revalidar los resultados sospechosos entre distintos modelos.
Las consecuencias de estos incidentes van desde las puntuaciones infladas en los benchmarks hasta la contaminación entre modelos: las notas de varios sistemas pueden verse alteradas por las mismas rutas de escape, sin reflejar su capacidad real.
Fuente: Infobae