Meta ha detenido temporalmente el funcionamiento de Model Capability Initiative (MCI), su sistema interno de monitoreo de actividad en computadoras, debido a una brecha de seguridad que dejó al descubierto conversaciones privadas de sus trabajadores.
Este programa, implementado hace algunos meses, registraba los clics, las pulsaciones de teclas y la navegación web de los empleados con el objetivo de recopilar datos para entrenar modelos de inteligencia artificial. La empresa ahora investiga el incidente que expuso información sensible.
De acuerdo con información de Business Insider, que obtuvo capturas de pantalla del hecho, la filtración afectó a diálogos internos que no debían ser visibles para otros. Meta ha confirmado el suceso al medio, pero aseguró que el programa contaba con salvaguardas de privacidad y que no hay evidencia de que algún empleado haya accedido indebidamente a los datos.
Como consecuencia, la compañía decidió pausar el sistema de monitoreo y entrenamiento. Meta capturaba la actividad de los empleados en aplicaciones específicas para obtener ejemplos reales que sirvieran para mejorar sus modelos de IA.
“Si estamos creando agentes para ayudar a las personas a realizar tareas cotidianas con ordenadores, nuestros modelos necesitan ejemplos reales de cómo los utilizan realmente los usuarios”, declaró la empresa en abril.
El propósito del sistema MCI era precisamente recopilar ejemplos reales de interacciones humanas con ordenadores, con miras a desarrollar agentes de IA que asistan en tareas diarias.
Recientemente, se habían introducido modificaciones al sistema, como la opción de detener temporalmente el monitoreo por hasta 30 minutos para atender asuntos personales. Sin embargo, la brecha de datos ha obligado a detener por completo la iniciativa mientras se esclarecen los hechos.
Fuente: Infobae
