La firma de inteligencia artificial Anthropic ha decidido bloquear temporalmente el acceso a sus modelos más avanzados, ‘Claude Fable 5’ y ‘Mythos 5’, luego de recibir una orden directa del gobierno de Estados Unidos. La medida, anunciada este viernes, prohíbe el uso de estas tecnologías a ciudadanos extranjeros bajo argumentos de seguridad nacional.
En un comunicado oficial, la compañía estadounidense señaló que la orden ejecutiva no detalla las razones específicas detrás de la restricción, aunque la empresa presume que las autoridades han identificado una manera de sortear los límites de seguridad del software. “Hoy recibimos la directiva del Gobierno. La carta no especificaba los motivos de su preocupación por la seguridad nacional. Entendemos que el Gobierno cree haber descubierto un método para eludir, o desbloquear, Fable 5”, informaron.
Anthropic destacó que el modelo ya contaba con salvaguardas estrictas para minimizar riesgos de mal uso en tareas de ciberseguridad. Sin embargo, criticó que la Casa Blanca solo les comunicara las supuestas vulnerabilidades del sistema de manera verbal, sin un proceso formal.
“Como hemos manifestado públicamente, creemos que el Gobierno debería tener la facultad de bloquear despliegues inseguros, mediante un proceso legal transparente, justo, claro y basado en hechos técnicos. Esta acción no se ajusta a dichos principios”, denunciaron desde la empresa.
El veto gubernamental llega apenas dos días después del lanzamiento de ‘Claude Fable 5’, presentado como el primer modelo disponible de la clase ‘Mythos’. Esta tecnología de alta capacidad se distribuía de forma restringida exclusivamente a organizaciones asociadas al programa ‘Project Glasswing’.
Para evitar usos maliciosos, Anthropic había implementado un sistema de contención que limita automáticamente las respuestas ante consultas sensibles sobre ciberseguridad, biología o química. En lugar de procesar información potencialmente peligrosa, el sistema redirige internamente este tipo de solicitudes hacia un modelo de IA de menor capacidad.
Con este protocolo, la compañía buscaba ofrecer asistencia general en dichas materias, pero bloqueando la entrega de datos críticos que pudieran ser instrumentalizados para ejecutar ciberataques a gran escala o desarrollar armas biológicas.
La situación genera incertidumbre sobre el futuro de estas herramientas en el ámbito internacional. Mientras tanto, Anthropic ha insistido en la necesidad de un marco regulatorio más claro y equitativo para la inteligencia artificial.
Fuente: Infobae
