En menos de 12 horas, la startup de ciberseguridad Cathedral logró infiltrarse en los sistemas internos de Anthropic, la empresa detrás del asistente de IA Claude. Según reportó The Washington Post este lunes, accedieron a transcripciones de reuniones, sueldos, ofertas de trabajo y mensajes de Slack relacionados con modelos avanzados.
No atacaron el modelo de IA en sí, sino el software corporativo que Anthropic usa para ventas y gestión de personal, herramientas similares a las de miles de empresas ajenas a la inteligencia artificial. Cathedral desplegó agentes de IA contra ese software, encontró vulnerabilidades en proveedores externos y desde allí avanzó hacia el interior.
Anthropic confirmó el acceso a un “conjunto limitado” de sistemas de ventas, recursos humanos e informática. Aclaró que nadie llegó a las conversaciones de clientes con Claude, ni al código ni a los pesos del modelo. La empresa cortó el acceso el mismo día y notificó a funcionarios federales.
“La noticia no es que entraron. Es por dónde.”
Tres intrusiones en tres meses sin tocar el modelo
En julio, tres investigadores de Hacktron AI ingresaron a OpenAI en menos de 72 horas. Comenzaron en el foro público de desarrolladores con una imagen cargada con trampa y terminaron en el repositorio de código interno. Gastaron menos de USD 3.000 en consumo de IA y recibieron una recompensa de USD 6.500.
En octubre, el FBI detuvo a un ingeniero de OpenAI acusado de ocultar un grabador en el puerto USB de un televisor en la sala de reuniones ejecutiva. Según la acusación, las instrucciones para armarlo se solicitaron a ChatGPT.
Un foro, un televisor, un programa de ventas. Sin necesidad de un Estado detrás. Hacktron se definió como “tres tipos con suscripciones a Claude y Codex”. Cathedral tiene apenas meses de vida.
Cada laboratorio de IA es hoy dos empresas distintas
La primera construye el modelo y tiene seguridad de bóveda: acceso restringido, monitoreo permanente e informes de riesgo públicos. Los tres incidentes rebotaron contra esa pared.
La segunda paga sueldos, vende licencias, agenda reuniones y chatea por Slack con las mismas herramientas que una fábrica de zapatos. Por esa segunda empresa entraron todos.
Jacob Coxon, investigador que renunció a Anthropic en septiembre, escribió al irse: el proyecto era “una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”. Un mes después, otros le dieron la razón al infiltrarse por ahí.
No es descuido sino aritmética. Cada hora de ingeniería para blindar el programa de ventas es una hora que no entrena el próximo modelo. En una carrera, ese segundo gasto siempre gana.
Anthropic dice que lo vio venir y Cathedral dice que fue fácil
Las versiones chocan y ambas tienen interés. Anthropic sostiene que su monitoreo detectó parte de la actividad antes del informe, que no hay indicios de que nadie más haya usado esas fallas, y que Cathedral exageró las implicaciones de seguridad nacional y no reveló toda su actividad, como exige el programa de recompensas.
Cathedral responde que mantuvo los accesos al mínimo. Tiene razones para inflar: vende ciberseguridad con IA al gobierno de Estados Unidos y a empresas, fue fundada por exintegrantes del DOGE, levantó USD 160 millones y vale USD 1.400 millones. Un informe que asusta es su mejor folleto.
Alex Stamos, jefe de seguridad de Cognition y antes director del observatorio de internet de Stanford, revisó los hallazgos a pedido del Post. Dijo que “encontraron algo grande”, que conectar programas de terceros es un problema enorme para cualquier empresa, y que Anthropic “podría haberlo hecho mucho mejor”.
El dato que no cierra es el tiempo: Anthropic dice que detectó la actividad antes del informe. Aun así, 12 horas alcanzaron para leer sueldos y transcripciones. Detectar no es frenar.
Los laboratorios aprendieron a cuidar lo que vale miles de millones. Todavía no aprendieron que se entra por lo que vale lo mismo que en cualquier otra empresa.
Fuente: Infobae