El gigante tecnológico Microsoft ha decidido limitar el acceso de sus trabajadores a Claude Fable 5, el primer modelo de inteligencia artificial de clase Mythos disponible para el público general, debido a la incertidumbre generada por la nueva política de retención de datos implementada por su creadora, Anthropic.
De acuerdo con información de Tom Warren, periodista de The Verge citando fuentes cercanas a la compañía, Microsoft desactivó temporalmente Claude Fable 5 del selector de modelos al que los empleados pueden acceder desde la versión interna de GitHub Copilot. El resto de modelos de Claude continúan operativos bajo la política de Retención Cero de Datos (ZDR).
La medida responde a las dudas que ha despertado en el departamento legal de Microsoft el tratamiento que Anthropic aplica a los datos con su nuevo modelo. La preocupación principal gira en torno a la confidencialidad de la información que los empleados podrían compartir al usar Claude Fable 5, especialmente tratándose de datos sensibles de clientes y secretos comerciales.
Claude Fable 5 fue lanzado el miércoles pasado como el primer modelo de clase Mythos de acceso general. Su funcionamiento exige la retención temporal de datos para que los clasificadores de Anthropic puedan identificar y bloquear consultas sobre temas sensibles como biología y ciberseguridad.
La política de Anthropic establece que los ‘prompts’ y resultados se conservan por 30 días, aunque ese plazo puede extenderse hasta dos años si se detecta que se ha violado la política de uso, según detalla la empresa en su sitio web.
Esta medida representa un cambio significativo para las cuentas empresariales que tenían configurados entornos con Retención Cero de Datos, así como para quienes acceden al modelo a través de plataformas en la nube como AWS Bedrock, Google Cloud o Microsoft Foundry. En cambio, para los usuarios de los planes gratuito, Pro y Max, los datos ya se almacenaban anteriormente y esa práctica se mantiene.
Anthropic ha aclarado que, aunque Claude Fable 5 comparte la misma base que Claude Mythos 5, incorpora restricciones de seguridad adicionales para permitir su uso por cualquier usuario, bajo medidas conservadoras que permitan identificar patrones de uso indebido.
La compañía señala que detectar amenazas como el ‘jailbreaking’ de tipo ‘Best-of-N’ —una técnica que envía cientos de variaciones leves de un ‘prompt’ con la esperanza de que una funcione— requiere “retener temporalmente las instrucciones y los resultados para que puedan ser analizados en conjunto, en lugar de uno a la vez”.
Cabe destacar que las salvaguardas del modelo comercial Fable 5 no están presentes en Claude Mythos 5, también anunciado por Anthropic esta semana. El acceso a Mythos 5 está restringido a un grupo muy limitado de organizaciones que evalúan su capacidad en áreas como la ciberseguridad.
Fuente: Infobae
