La compañía de inteligencia artificial Anthropic ha anunciado este viernes que interrumpe el acceso a sus sistemas más avanzados, Claude Fable 5 y Mythos 5, luego de que el Gobierno de Estados Unidos emitiera una directiva que restringe su utilización a ciudadanos extranjeros, fundamentada en razones de seguridad nacional.
En un comunicado oficial, la firma estadounidense señaló que la orden ejecutiva no proporciona los motivos concretos de la prohibición, aunque presumen que las autoridades creen haber hallado una forma de eludir las barreras de seguridad del programa. La compañía declaró:
«Hoy recibimos la directiva del gobierno. La carta no especificaba los motivos de su preocupación por la seguridad nacional. Entendemos que el gobierno cree haber descubierto un método para eludir, o desbloquear, Fable 5»
La empresa defendió que el modelo ya contaba con estrictas salvaguardas para mitigar el riesgo de uso indebido en tareas de ciberseguridad, y criticó que la Casa Blanca solo les comunicara las supuestas vulnerabilidades del sistema de manera verbal. Anthropic denunció:
«Como hemos manifestado públicamente , creemos que el Gobierno debería tener la facultad de bloquear despliegues inseguros, mediante un proceso legal transparente, justo, claro y basado en hechos técnicos. Esta acción no se ajusta a dichos principios»
La prohibición gubernamental se produce apenas dos días después de que Anthropic lanzara Claude Fable 5 como el primer modelo disponible de la clase Mythos, una tecnología de alta capacidad distribuida exclusivamente de forma restringida para organizaciones asociadas al programa Project Glasswing.
Para prevenir usos maliciosos, la empresa había implementado un sistema de contención que limita automáticamente las respuestas ante consultas sensibles sobre ciberseguridad, biología o química. En lugar de procesar información potencialmente peligrosa, el sistema redirige internamente este tipo de solicitudes hacia un modelo de IA de menor capacidad.
Con este protocolo, la compañía buscaba ofrecer asistencia general en dichas materias pero bloqueando la entrega de datos críticos que pudieran ser instrumentalizados para ejecutar ciberataques a gran escala o desarrollar armas biológicas.
Fuente: Infobae
