Las barreras de seguridad en los modelos de inteligencia artificial están diseñadas para impedir acciones dañinas, como la filtración de datos de usuarios. Sin embargo, Microsoft Copilot presentó una vulnerabilidad que permitió que estos parámetros fueran revelados, facilitando su propio hackeo.
La empresa de seguridad Varonis descubrió un fallo crítico en Copilot. Su objetivo era crear una debilidad que permitiera extraer información de los usuarios cuando estos hicieran clic en un enlace malicioso.
Inicialmente, las medidas de seguridad de Microsoft impedían que Copilot realizara la solicitud, informando que se requería consentimiento explícito del usuario. No obstante, durante una conversación con los investigadores, la inteligencia artificial terminó divulgando parámetros no documentados que permitían sortear este requisito.
Lior Adar, investigador sénior de Varonis, explicó que
“al principio, Copilot se negaba constantemente, pero cada negativa revelaba detalles técnicos sobre su arquitectura interna”
hasta que
“finalmente, reveló parámetros no documentados”
. Adar usó esos parámetros para
“configurar las indicaciones para la ejecución automática”
, logrando inyectar una solicitud que se activaba silenciosamente cuando la víctima hacía clic en una URL maliciosa.
Microsoft ya ha solucionado este fallo de seguridad. En un comunicado, la empresa afirmó:
“Actualizamos continuamente nuestras medidas de seguridad para reforzar nuestra protección contra técnicas similares”
.
Fuente: Infobae