Un equipo de investigadores de la Universidad de Toronto ha identificado una nueva clase de amenaza cibernética impulsada por inteligencia artificial que tiene la capacidad de adaptarse al pasar de un dispositivo a otro. Este hallazgo convierte a cualquier equipo conectado en un blanco potencial y reduce el costo de un ataque a casi cero, según reportó el portal tecnológico TechXplore, basado en un estudio difundido en el servidor de prepublicaciones arXiv.
La investigación se llevó a cabo en un laboratorio digital aislado del exterior y demostró que un gusano impulsado por modelos de IA abiertos puede tomar control de una red completa, apoderarse de la capacidad de cómputo de las máquinas infectadas y utilizar esos recursos para seguir expandiéndose. El alcance de esta amenaza abarca desde computadoras portátiles hasta sistemas de climatización y redes eléctricas, explicó Nicolas Papernot, autor principal del trabajo.
Papernot, profesor asociado de ingeniería informática en la Facultad de Ciencias Aplicadas e Ingeniería y de informática en la Facultad de Artes y Ciencias de la Universidad de Toronto, señaló que el equipo decidió divulgar los hallazgos después de revisar el estudio para eliminar cualquier información que pudiera ayudar a actores maliciosos. Antes de hacerlo público, los autores compartieron sus resultados con organismos nacionales de ciencia, seguridad y defensa.
“Era imperativo para nosotros comprender esta amenaza en un entorno académico controlado antes de que actores maliciosos la descubrieran por su cuenta”, afirmó el profesor.
Papernot también sostuvo que publicar los resultados de forma temprana tiene como objetivo dar a investigadores, responsables políticos y al público tiempo para protegerse frente a esta amenaza.
El gusano de IA que aprende y se propaga
El estudio se centró en modelos de IA de “pesos abiertos”, que cualquier persona puede descargar y modificar de manera gratuita. Los investigadores quisieron poner a prueba la creencia, extendida en parte de la comunidad de ciberseguridad, de que esos modelos más pequeños no tienen suficiente capacidad para causar daños reales.
Para ello, construyeron una prueba de concepto en un sistema seguro y cerrado que simuló el comportamiento de un gusano de IA en una red de decenas de dispositivos interconectados, incluyendo portátiles, impresoras y cámaras.
A diferencia de un gusano tradicional, que sigue un guion fijo programado por humanos y fracasa si encuentra una defensa para la que no fue diseñado, el prototipo evaluó cada objetivo, adaptó su ataque y luego se copió en la siguiente máquina.
El estudio reveló que el gusano podía reunir información mientras avanzaba por la red: cada intrusión revelaba contraseñas y puntos débiles que facilitaban el acceso al siguiente equipo. Esta capacidad de ajuste hace que una sola defensa no sea suficiente para detenerlo.
Papernot explicó que el programa amplía su radio de acción a costa de las propias víctimas. Una vez instalado en una máquina, el gusano desvía potencia de procesamiento para sostener su razonamiento y preparar el siguiente ataque, lo que elimina en la práctica el costo de cada nueva infección.
“Los hackers normalmente han tenido que priorizar los objetivos de más alto valor porque el tiempo y los recursos computacionales eran limitados. Pero ahora, una vez que se lanza un gusano, el costo bajaría a casi cero”, detalló el profesor.
El gusano ataca más allá de los sistemas de IA
De acuerdo con el portal, la principal diferencia con trabajos anteriores es que este prototipo no se limita a propagarse a través de aplicaciones de inteligencia artificial, sino que puede operar fuera de esos sistemas y atacar el software subyacente. Esto amplía de forma directa el universo de dispositivos en riesgo.
“Cada dispositivo conectado a Internet, portátiles, cámaras, termostatos inteligentes y todo lo demás, se convierte en un objetivo potencial, aunque no sea por los datos que almacena, sí como punto de apoyo para atacar objetivos más valiosos”, indicó Papernot.
El prototipo no descubre vulnerabilidades desconocidas, a diferencia de modelos más potentes y fuertemente protegidos como Claude Mythos de Anthropic. Sin embargo, en un entorno abierto podría acceder a Internet, localizar avisos sobre fallas recién detectadas y explotarlas antes de que lleguen los parches de software.
El profesor señaló que parte del problema puede corregirse con actualizaciones, pero otra parte responde a errores humanos, como contraseñas débiles o configuraciones informáticas deficientes, que no se resuelven con un parche. Para él, esto significa que no hace falta la IA más avanzada para provocar daños.
Medidas concretas para reducir el riesgo
“En un mundo interconectado, ningún sistema es inmune a esta amenaza”, señaló Papernot. “Compartir estos hallazgos es el primer paso para movilizar a investigadores, líderes de la industria y responsables políticos para que actúen, y rápido”, agregó.
El profesor pidió a los profesionales de tecnología reforzar cualquier ajuste de seguridad que pueda dejar expuestos sus sistemas y sostuvo que los usuarios también deben intervenir. Sus recomendaciones fueron concretas:
- Mantener los dispositivos actualizados
- Usar contraseñas robustas
- Activar la autenticación multifactor
“No podemos seguir permitiéndonos pulsar ‘ignorar’ en las actualizaciones de software”, sostuvo. “Cada puerta que cierras es una vía menos de entrada, así que vale la pena dedicar unos minutos a reiniciar”, sumó.
Papernot afirmó que su laboratorio ya trabaja en contramedidas, y sostuvo que las soluciones requerirán más disponibilidad de modelos de IA de código abierto de todos los tamaños y más transparencia por parte de las empresas que desarrollan los sistemas más potentes.
Fuente: Infobae