La compañía Anthropic, responsable del asistente de inteligencia artificial Claude, ha impedido durante este año al menos cinco investigaciones científicas que podrían estar vinculadas con la fabricación de armas biológicas. Algunos de estos casos, según el informe dado a conocer este jueves, presentaban un alto riesgo de generar una pandemia.
El documento titulado Detectar y combatir el mal uso de la IA revela que en un mínimo de cuatro de esos episodios estuvieron involucrados organismos pertenecientes a estados. No obstante, Anthropic ha optado por no revelar la identidad de dichos países ante la posibilidad de que se tratara de estudios puramente académicos.
El caso del virus del chikunguña
En el primer ejemplo detallado, la solicitud de financiamiento para investigación y desarrollo pretendía hacer que el virus del chikunguña fuera más transmisible y resistente al sistema inmunitario. El informe explica:
“La subvención tenía como objetivo identificar mutaciones potenciadoras en el virus del chikunguña, transformarlas en clones infecciosos y seleccionar las más virulentas ‘in vivo’. En otras palabras, el virus se volvería progresivamente más dañino a medida que infectara repetidamente a animales vivos y los investigadores conservarían las variantes más patógenas en cada iteración”.
Aunque la empresa reconoce que ese conocimiento podría usarse para crear vacunas o tratamientos, el hecho de que el formulario de la subvención indicara que los científicos eran civiles pero que los hallazgos se reproducirían en un laboratorio militar llevó al bloqueo de la cuenta de Claude.
De acuerdo con la Organización Mundial de la Salud (OMS), el chikunguña es una enfermedad transmitida por mosquitos que causa fiebre y un dolor articular “incapacitante”, el cual suele remitir en días pero puede prolongarse durante meses o incluso años.
Otros intentos bloqueados
Por otra parte, Anthropic confirmó que un organismo estatal intentó utilizar sus modelos de IA para investigar venenos no contagiosos. Asimismo, la compañía bloqueó a otro usuario que estudiaba toxinas bacterianas y proteínas de fiebres hemorrágicas virales con capacidad pandémica, como el ébola.
La tecnológica estadounidense también detectó iniciativas similares, aunque con fines menos sospechosos, orientadas a investigar el virus causante de la viruela y la adaptación de la gripe aviar a los mamíferos.
Fuente: Infobae