La firma tecnológica Anthropic PBC ha determinado limitar la disponibilidad de su herramienta de inteligencia artificial más vanguardista, denominada Mythos, a un círculo exclusivo de corporaciones del sector tecnológico. Esta medida responde principalmente a la alerta sobre la alta sofisticación de este sistema, el cual podría ser manipulado para orquestar ciberataques de gran escala si cae en manos equivocadas.
De acuerdo con informes de Bloomberg, la intención de Anthropic antes de un lanzamiento masivo es que líderes de la industria como Amazon, Apple, Microsoft y Cisco evalúen el modelo en sus propios ecosistemas. El objetivo es que estas compañías detecten posibles fallos de seguridad y compartan sus descubrimientos para robustecer la protección digital a nivel global.
Proyecto Glasswing: Estrategia colaborativa frente a amenazas digitales
Con el fin de enfrentar estos retos, se ha instaurado el denominado Proyecto Glasswing. Se trata de una iniciativa que convoca a los principales referentes tecnológicos para poner a prueba las capacidades de Mythos en escenarios de uso real y localizar brechas de seguridad críticas.
La organización ha señalado que los miembros de este proyecto contarán con un acceso privilegiado y anticipado al modelo. Mediante esta colaboración, las empresas podrán escudriñar sus infraestructuras y productos con el fin de hallar vulnerabilidades que podrían ser aprovechadas por hackers. La información recolectada será compartida entre los participantes, estableciendo así un esquema de defensa mutua ante los peligros que conlleva la IA de última generación.
Esta restricción en el acceso es un reflejo de la preocupación que existe tanto en el sector privado como en las entidades gubernamentales sobre el uso malintencionado de modelos avanzados de inteligencia artificial. En la actualidad, estas tecnologías ya están siendo integradas en la ejecución de ataques informáticos complejos.
Como antecedente, Anthropic mencionó un incidente donde un atacante empleó herramientas de inteligencia artificial para infiltrarse en sistemas del gobierno mexicano. Por su parte, OpenAI, el competidor más directo de la firma, también ha expresado advertencias similares sobre los peligros cibernéticos y ha impulsado planes piloto para priorizar la protección de los defensores frente a los posibles atacantes.
Capacidades críticas y peligros hallados en Mythos
En el transcurso de las fases de prueba internas, los especialistas en seguridad de la compañía descubrieron que la versión Mythos Preview poseía la habilidad de localizar y aprovechar fallos en los sistemas operativos y navegadores web más utilizados, siempre que se le solicitara dicha tarea.
A través de una publicación oficial en el blog corporativo, se detalló que los exploits desarrollados por la inteligencia artificial no eran básicos. De hecho, se registró un caso en el que el modelo logró crear un ataque para un navegador mediante el encadenamiento de cuatro vulnerabilidades diferentes de forma sucesiva.
Newton Cheng, quien lidera el área de esfuerzos cibernéticos en el Equipo Rojo Fronterizo de Anthropic, manifestó que este reto trasciende a una sola compañía y demanda un esfuerzo conjunto de toda la industria y los estados.
“Lo que intentamos hacer con Glasswing es dar a los defensores una ventaja”
, puntualizó el directivo sobre la visión del proyecto.
Alianzas con agencias y descubrimientos de gran impacto
La empresa también ha mantenido diálogos con autoridades de Estados Unidos para discutir el alcance de Mythos en temas de seguridad nacional, aunque no se han precisado las entidades involucradas. No obstante, Cheng ratificó que existe un trabajo conjunto con la Agencia de Ciberseguridad y Seguridad de las Infraestructuras (CISA) y el Instituto Nacional de Normas y Tecnología (NIST) para mitigar estos riesgos.
A pesar de que Mythos fue desarrollado originalmente como un modelo polivalente y no enfocado exclusivamente en la ciberseguridad, sus resultados en la detección de fallos han sido sorprendentes.
Entre los hitos reportados por Anthropic se encuentran el hallazgo de una vulnerabilidad de software que databa de hace 27 años en aplicaciones fundamentales para el funcionamiento de Internet. Asimismo, el sistema identificó un error crítico de 16 años de antigüedad en un software de video de uso masivo, el cual no había sido detectado previamente a pesar de haberse sometido a millones de pruebas automatizadas tradicionales.
Este convenio entre la startup y los gigantes tecnológicos marca un punto de inflexión en la gestión de modelos de IA sumamente potentes. La meta final es utilizar la retroalimentación del Proyecto Glasswing para instaurar salvaguardas y límites claros que impidan que la tecnología sea utilizada con fines destructivos antes de que llegue al público general.
Fuente: Fuente