El hallazgo de Georgia Tech
Un equipo de investigadores del Georgia Institute of Technology ha desarrollado una herramienta capaz de recuperar conversaciones mantenidas con asistentes de inteligencia artificial que los usuarios creían haber eliminado por completo de sus teléfonos. Este descubrimiento pone en duda una creencia común entre quienes utilizan modelos de IA de forma local: que pulsar el botón de borrado implica una destrucción definitiva de los datos.
La herramienta, bautizada como ORISA, demuestra que una parte significativa de esa información sigue siendo accesible incluso después de que el usuario haya ordenado su eliminación desde la interfaz de la aplicación.
Cómo ORISA recupera los chats
Cuando un asistente de inteligencia artificial se ejecuta de manera local en el teléfono —es decir, sin enviar los datos a servidores externos— las conversaciones quedan almacenadas temporalmente en la memoria de trabajo del dispositivo. Esa característica es la base de la promesa de privacidad que ofrecen los modelos locales. Sin embargo, mientras la aplicación permanece abierta o en segundo plano, fragmentos de esos diálogos pueden persistir en esa memoria aunque el usuario haya eliminado el chat desde la interfaz. Borrar no implica necesariamente destruir.
ORISA se encarga de rastrear esos restos y reconstruirlos en una sesión de IA funcional, con la que es posible seguir interactuando como si la conversación nunca se hubiera eliminado. Según explicaron los propios investigadores, se trata de un sistema forense que recupera fragmentos de chats eliminados y los convierte en una sesión operativa, demostrando que el borrado desde una aplicación no elimina los datos de la memoria del dispositivo, sino que pueden persistir y ser reconstruidos por un tercero con acceso técnico.
Pruebas y resultados
Para probar la eficacia de ORISA, el equipo creó un asistente ficticio llamado Project Note Keeper utilizando la aplicación de Android ChatterUI. Se introdujeron cien datos inventados sobre un supuesto proyecto y, posteriormente, se eliminó la conversación por completo. En el momento del borrado, la ventana de memoria activa del modelo era limitada: solo podía acceder a 14 de los cien datos proporcionados. El resto ya había quedado fuera de su memoria de trabajo activa.
Al aplicar ORISA sobre la memoria del dispositivo, los investigadores lograron reconstruir una nueva sesión funcional que recuperó 26 de esos cien datos, casi el doble de lo que la sesión original tenía disponible al momento de ser eliminada. El experimento se repitió en 60 configuraciones de prueba diferentes, abarcando 10 aplicaciones distintas de Android y tres modelos de inteligencia artificial. En todos los casos, la herramienta logró recuperar información de conversaciones que habían sido borradas por el usuario.
¿Qué significa para la seguridad?
El hallazgo tiene una doble lectura. Por un lado, ofrece un valor forense real para investigadores digitales, que podrían reconstruir qué información compartió una persona con un chatbot y qué respuestas recibió. Esto resulta especialmente relevante en casos donde consejos de una IA pudieron haber perjudicado a pacientes sin que sus médicos tuvieran acceso a esas conversaciones. Los propios investigadores señalaron que una de las debilidades de la IA local es la ausencia de “registro y aplicación centralizados” (centralized logging and enforcement). Esa carencia permite, en teoría, que actores maliciosos ajusten modelos para fines delictivos y luego eliminen la evidencia, dificultando el rastreo por parte de los investigadores forenses tradicionales.
Por otro lado, esa misma capacidad genera preocupación para los usuarios comunes de aplicaciones de IA en el dispositivo. La idea de que un chat eliminado deja de existir no se corresponde con lo que ocurre a nivel técnico en la memoria del teléfono. ORISA, por ahora, es una herramienta diseñada para investigadores y no una aplicación disponible para que cualquier persona restaure sus propios chats. Requiere acceso directo a una copia de la memoria y el almacenamiento del teléfono, algo que un usuario común no tiene disponible de forma sencilla. Además, su eficacia depende del tiempo transcurrido: cuanto más se usa el teléfono después de borrar una conversación, más se sobrescribe esa memoria con actividad nueva, lo que dificulta la recuperación. Aun así, si actores maliciosos lograran recrear una tecnología similar o acceder a una herramienta como ORISA, podrían usarla para recuperar chats ajenos eliminados y reconstruir consultas utilizando esa información como contexto.
Fuente: Infobae