El asistente de inteligencia artificial de Meta, conocido como Muse, ejecuta cada hora un proceso automático que construye un perfil minucioso de cada familiar, pareja, amigo y colega de sus usuarios. Así lo revelan documentos internos extraídos por un investigador independiente.
El hallazgo fue obra de Karan Joshi, experto en seguridad informática e inteligencia artificial. Mediante un simple pedido, logró que el propio chatbot le entregara sus instrucciones internas: le solicitó a Muse que copiara y compartiera sus archivos de software a través de la interfaz de chat normal.
Entre esas instrucciones aparece la orden de generar “una página para cada persona en la vida del usuario”.
¿Qué datos recopila y cómo los organiza?
El proceso horario recoge información sobre familiares, parejas, amigos, colegas, colaboradores y personas seguidas en redes sociales, según la documentación citada.
Cada ficha se organiza en categorías fijas: hechos, historia, la relación, puntos en común, temas pendientes y el estado del vínculo. Las páginas inician con poca data y se expanden con el tiempo, detallan los documentos.
Entre los datos registrados se incluyen mudanzas, metas de ahorro compartidas, cumpleaños, aniversarios y hasta discusiones pasadas entre el usuario y sus contactos, siempre que existan rastros en conversaciones o conexiones del usuario.
Las instrucciones internas también indican al sistema que debe basarse estrictamente en evidencia disponible y evitar inventar detalles sobre las personas perfiladas, un matiz que Meta destaca como garantía de precisión.
Joshi describió el hallazgo en términos duros:
“Quieren entender las relaciones que tenés con personas reales”, dijo. “Tratan de conocerte como lo haría un amigo, lo cual es honestamente bastante inquietante”.
La respuesta de Meta y la mirada ética
Un vocero de Meta, Daniel Roberts, defendió el diseño:
“Para que cualquier agente sea útil y realmente te ayude a lograr tus objetivos, necesita tener contexto sobre vos y sobre quienes te rodean”.
Roberts explicó que Muse obtiene datos a partir de información pública y de lo que el usuario decide compartir, y puso como ejemplo que el sistema recuerda que quien envió una factura es el plomero contratado previamente, o qué flores prefiere la pareja del usuario.
La empresa sostiene que cada usuario opera dentro de una máquina virtual dedicada e inaccesible para otros agentes o usuarios, que Muse pide confirmación humana antes de acciones como enviar un correo o comprar, y que existe un registro de auditoría de toda la actividad.
Asimismo, Meta remarca que el usuario puede borrar la memoria acumulada o desconectar servicios externos que alimentan esos perfiles, aunque ese control recae únicamente en quien instaló Muse, no en las personas perfiladas.
Joshi admitió que no es inusual que un chatbot registre datos sociales básicos, pero consideró llamativo el diseño de Muse por el historial de Meta y su acceso extendido a redes sociales.
Carissa Véliz, profesora asociada del Instituto de Ética en IA de la Universidad de Oxford, criticó el desequilibrio:
“Le estamos dando a los sistemas de inteligencia artificial mucha más información sobre nosotros de la que recibimos de ellos”.
Véliz alertó que el riesgo incluye lo que el sistema puede inferir o reconstruir de otras fuentes, correctas o no.
Lanzamiento masivo bajo la lupa
Muse se convirtió en un éxito de descargas desde su salida, con millones de usuarios que lo conectaron a cuentas bancarias, mensajes y datos de salud.
Ese crecimiento ocurre mientras Meta enfrenta cuestionamientos sobre el manejo de datos. Días atrás, la compañía desmintió el reclamo de un usuario que aseguró que Muse leyó sus mensajes privados sin autorización.
Semanas antes, un investigador reportó una falla de seguridad que permitía tomar el control total del agente, otro episodio que alimentó el escrutinio sobre un producto integrado con rapidez a Facebook, Instagram y WhatsApp.
Fuente: Infobae