Hackers vinculados a China usan IA para atacar software médico

Amazon ha detectado que un grupo de ciberdelincuentes, presuntamente vinculado con China (con un nivel de confianza moderado), utilizó agentes de inteligencia artificial para descubrir de forma autónoma una vulnerabilidad desconocida en un software médico de código abierto. En apenas 11 minutos, los atacantes pasaron de explorar el programa a escribir archivos en el servidor de una universidad.

Estos agentes son asistentes de IA que realizan tareas sin recibir instrucciones paso a paso. De acuerdo con Amazon Threat Intelligence, el operador únicamente les asignó un objetivo:

“obtener acceso a una consola de comandos”

, junto con una lista de direcciones de universidades del este de Asia, excluyendo la China continental. La decisión sobre los métodos quedó completamente en manos de los agentes.

El programa afectado es MONAI Label, un servidor utilizado por equipos de investigación para etiquetar imágenes médicas y entrenar modelos de inteligencia artificial. La vulnerabilidad permite que cualquier persona sin una cuenta escriba archivos fuera de la carpeta designada. Según el aviso de seguridad del proyecto, citado por The Hacker News, la falla afecta a la versión 0.8.5 y todas las anteriores.

En su configuración predeterminada, el software opera sin ningún sistema de autenticación. Cualquier dispositivo con conexión de red al servidor puede explotar el error. The Hacker News reportó que la falla obtuvo una calificación de 9,8 sobre 10, clasificada como de gravedad crítica.

El programa de investigación MONAI Label presentó una falla con una puntuación de gravedad de 9,8 sobre 10. (REUTERS/Kacper Pempel/Ilustración)

Cómo se descubrió la operación

Amazon detectó el 10 de septiembre un servidor que ejecutaba Cairn, un programa de código abierto que coordina agentes de IA para funcionar como evaluadores automáticos de seguridad. El propietario lo había dejado expuesto en internet sin contraseña, lo que permitía a cualquiera visualizar sus configuraciones, las instrucciones escritas en chino simplificado y el historial de ejecución.

La campaña se extendió por aproximadamente 48 horas, a partir del 8 de septiembre. La empresa vinculó al grupo con China debido a los mensajes en chino simplificado, los husos horarios chinos en los programas y la selección de universidades que podrían ser de interés para ese país. Sin embargo, no asoció el ataque con ningún grupo conocido ni con un gobierno específico.

No todos los intentos fueron exitosos. Durante aproximadamente 16 horas y 148 acciones, los agentes intentaron apoderarse de una base de datos Redis de una universidad utilizando decenas de técnicas, pero fracasaron. En otra operación que duró más de seis horas, probaron más de 30.000 combinaciones de usuario y contraseña sin lograr acceder.

Los operadores fijaron como meta el acceso a una consola de comandos y los asistentes de inteligencia artificial determinaron los métodos de intrusión. (Imagen Ilustrativa Infobae)

Del archivo escrito al control total del servidor

Con MONAI Label, el resultado fue diferente. Los agentes identificaron la aplicación, exploraron sus puntos de conexión y descubrieron una función de carga de archivos que no validaba los nombres de los archivos. En una sesión posterior, aprovecharon esta falla para colocar un archivo que Python ejecuta al iniciarse, y luego activaron una función de entrenamiento que lo cargó.

El resultado, según el informe de Amazon, fue una conexión de retorno hacia los atacantes con permisos de administrador total. The Hacker News precisó que ese acceso se consiguió en un servidor universitario y que el resultado en otros equipos varía según su configuración.

En otra sesión, intervino un ser humano: proporcionó a los agentes un túnel hacia la red de una segunda universidad que también ejecutaba el mismo software. Amazon infiere que esa red también fue comprometida, aunque no lo confirmó. Tampoco reportó el robo de imágenes o datos de pacientes, y no reveló los nombres de las universidades afectadas.

Amazon descubrió la maniobra a partir de un servidor con el sistema Cairn expuesto en internet sin contraseña. (REUTERS/Dado Ruvic/Illustration)

Sin versión corregida para instalar

Amazon notificó a los responsables del proyecto. De acuerdo con The Hacker News y VentureBeat, estos incorporaron la corrección en el código fuente el 19 de octubre, pero la versión publicada más reciente sigue siendo la 0.8.5, de 2024. El aviso de seguridad del proyecto señala que el parche llegará en una próxima versión.

Mientras tanto, las medidas recomendadas incluyen activar el acceso con contraseña, mantener los servidores fuera de redes no confiables y ejecutar el programa con una cuenta de permisos limitados. VentureBeat agregó que los administradores deben verificar si ya se produjeron intrusiones, ya que activar la autenticación no revierte un ataque anterior.

Amazon advirtió que los agentes completaron en minutos lo que un equipo humano de seguridad tardaría más en analizar, y que trabajaron sin interrupción durante casi un día. Al cierre de esta edición, la versión con la corrección aún no se había publicado.

Fuente: Infobae

COMPARTIR ESTA NOTICIA

Facebook
Twitter

FACEBOOK