Una notificación nocturna despertó a Camille Hanson en marzo pasado. Sus cuentas de Facebook e Instagram, que sumaban casi un millón de seguidores y desde donde gestionaba un negocio de clases de inglés junto a su esposo, fueron marcadas para eliminación. Meta alegó que había infringido las normas comunitarias sobre fraude y engaño.
“Solo soy una maestra de inglés”, recordó haber pensado Hanson, de 40 años. Las acusaciones la dejaron perpleja. “¿Qué estoy haciendo mal?”, se cuestionó entonces.
La opción de apelación estaba disponible, así que hizo clic para iniciar el proceso. Una semana después, recibió otra notificación: la apelación fue denegada.
“Toda tu información se eliminará de forma permanente”, señalaba la respuesta de Meta. “No puedes solicitar otra revisión de esta decisión”.
El esposo de Hanson, Calvin, de 42 años, comparó la experiencia con tener “un negocio físico real y que alguien de la nada simplemente cierra tu oficina o local”, en declaraciones desde su hogar en Portugal.
El origen del problema
Lo vivido por los Hanson es un caso de inteligencia artificial descontrolada. Esta tecnología decide cada vez más qué cuentas infringen las normas de contenido de Meta, y también gestiona las apelaciones. Para añadir más angustia, a menudo es casi imposible contactar a un humano en la empresa para resolver dudas.
En marzo, Meta anunció planes para dar más poder a los bots de IA al bloquear cuentas o eliminar imágenes dañinas. Meses después, despidió a miles de empleados, incluidos quienes realizaban esas tareas.
Los usuarios se han organizado: más de 60.000 personas firmaron una petición reciente exigiendo a Meta más transparencia sobre las suspensiones y que sean humanos quienes revisen las apelaciones. Comunidades en Reddit y otros sitios reportan una avalancha de quejas sobre la IA de la empresa.
Daniel Roberts, portavoz de Meta, defendió el uso de la IA. Afirmó que sus nuevas herramientas de moderación cometen 13% menos errores que los humanos y detectan 10% más infracciones. De las cinco cuentas que The New York Times señaló a Meta, todas fueron bloqueadas por las versiones anteriores de la IA, según Roberts.
“Estamos comprometidos a cometer menos errores en la aplicación de las normas, así como a ayudar a las personas a proteger sus cuentas y la IA está cumpliendo con ambos objetivos”, declaró Roberts.
Más fallos de IA
Meta ha enfrentado varios incidentes. En mayo, hackers aprovecharon el chatbot de atención al cliente de IA para atacar 34.000 cuentas de Instagram, incluyendo una antigua cuenta de la Casa Blanca de Barack Obama. Ese mismo mes, empleados se rebelaron contra un programa que rastreaba sus movimientos en el teclado para entrenar a la IA; Meta suspendió la iniciativa.
La semana pasada, 26 exempleados de Meta demandaron a la empresa, alegando que los despidió mediante un algoritmo de IA que los seleccionaba por tener discapacidades. Un portavoz de Meta respondió que “la gestión de la fuerza laboral y las decisiones organizativas estaban y siguen a cargo de humanos, no de la IA”.
La petición y sus consecuencias
People Over Platforms, un grupo de defensa de usuarios que ofrece servicios de recuperación de cuentas, creó este año una petición en línea para exigir cambios en las políticas de moderación de Meta. La empresa acusó a muchos firmantes de compartir material de explotación infantil —acusación que los usuarios calificaron como “echar sal en la herida”— y luego bloqueó sus cuentas.
El año pasado, Athenia Rodney, propietaria de JuneteenthNY (grupo que conmemora el fin de la esclavitud en EE.UU.), recibió esa misma acusación cuando Meta bloqueó todas sus cuentas personales y profesionales en Facebook e Instagram.
“Nuestra tecnología ha detectado que tu cuenta, o la actividad en ella, no cumple con nuestras normas. Como resultado, nuestra tecnología ha tomado medidas”, decía el aviso de Meta.
Rodney aseguró no entender el razonamiento, ya que el contenido de su grupo es “apto para toda la familia”. Tras el bloqueo, revisó minuciosamente los archivos fotográficos de JuneteenthNY buscando posibles publicaciones que activaran los bots de IA, pero no encontró nada.
Entonces recordó que poco antes de la cancelación, Meta le había alertado de inicios de sesión sospechosos desde Seattle y Singapur, aunque ella vive en Atlanta. Era señal de que sus cuentas habían sido hackeadas. Le bloquearon seis cuentas de Instagram y Facebook, personales y de negocios.
Para recuperarlas, Rodney envió documentos de identificación; presentó quejas ante el Better Business Bureau y la Comisión Federal de Comercio; contactó a oficinas estatales de protección al consumidor y envió mensajes a empleados de Meta vía LinkedIn. Nada funcionó.
Desde entonces, JuneteenthNY ha tenido que convencer a patrocinadores de su legitimidad, a pesar de llevar casi dos décadas activa.
“Nuestros patrocinadores visitan nuestra página en las redes sociales para confirmar que somos una organización legítima, que llevamos 17 años haciendo esto. Así que ahora, cuando van a nuestra cuenta y ven que solo tenemos 500 seguidores, piensan: ‘No han estado haciendo esto, son unos estafadores’”, explicó Rodney.
Restauración parcial
Después de que The New York Times señalara las cinco cuentas bloqueadas a Meta, la empresa investigó y descubrió que dos eran fruto de ataques informáticos y una se debía a una razón legítima. Las cuentas hackeadas se bloquearon con razón porque los hackers infringieron políticas de seguridad infantil, según Meta.
Luego, Meta restableció las dos cuentas hackeadas, incluida la de JuneteenthNY. Dos de las cinco cuentas señaladas habían sido bloqueadas por error, incluyendo las de los Hanson.
Roberto Suárez, un influencer de Instagram con más de 500.000 seguidores antes del bloqueo este año, recibió un correo de Meta informándole que su cuenta había sido restablecida, junto con fotos, seguidores y mensajes. Empezó a publicar de nuevo para sus seguidores, que llevaban meses sin saber de él.
Unas semanas después, Meta le envió otro correo: “Tu cuenta ha sido suspendida”, alegando infracción de derechos de autor. “Si no tomas medidas, tu cuenta quedará desactivada de forma permanente”.
Suárez negó haber infringido derechos de autor. Poco después de que The New York Times preguntara por la nueva suspensión, su cuenta quedó restablecida.
Hanson también recibió un correo de Meta informándole que su cuenta había sido restablecida: “Hemos revisado tu cuenta y hemos constatado que la actividad en ella cumple con nuestras normas comunitarias sobre fraude y engaño, así que puedes volver a usar Instagram. Lamentamos haber cometido este error”.
Fuente: Infobae