La empresa Meta anunció cambios en las sugerencias de su asistente de inteligencia artificial después de que una usuaria reportara que el sistema le formuló interrogantes de índole personal vinculadas a sus hijos. La firma reconoció que la función no debía generar ese tipo de recomendaciones y aseguró que ya corrigió el fallo que permitía que aparecieran sugerencias sobre asuntos privados.
Dina El-Kassaby, portavoz de Meta, declaró que la compañía “se equivocó” y que la herramienta “nunca debería haber sugerido ese tipo de preguntas al usuario”. La decisión se dio a conocer luego de que un video publicado por la usuaria de Instagram Kalie Robins se volviera viral y generara críticas sobre la forma en que Meta AI utiliza información disponible en las plataformas de la empresa.
Una pregunta sobre su hijo desencadenó la polémica
Robins explicó que el incidente comenzó tras publicar en Facebook un video donde aparecía cantando con su hijo dentro de un automóvil. Debajo del contenido, Meta AI mostró una sugerencia que decía: “¿Quién es el niño pasajero?”.
Al seleccionar esa opción, según relató la usuaria, el chatbot comenzó a ofrecer información relacionada con sus hijas. Robins afirmó que la herramienta utilizó datos presentes en publicaciones anteriores suyas y de otros familiares.
La inteligencia artificial también le habría sugerido nuevas preguntas sobre la edad de sus hijos y el lugar donde vive su familia. Además, Robins aseguró que Meta AI le mostró fotografías de sus hijas que habían sido publicadas previamente en la plataforma, incluida una imagen que, según su versión, había eliminado años atrás.
El caso generó inquietud porque evidenció cómo una herramienta diseñada para facilitar la interacción con una publicación puede relacionar distintos datos personales y convertirlos en sugerencias de conversación.
Meta asegura que la IA no accede a contenido privado
Ante las críticas, Meta sostuvo que su sistema no puede mostrar publicaciones que el usuario no tenga permitido consultar.
“El contenido al que responde Meta AI es contenido al que el usuario que realiza la consulta ya puede acceder”, explicó El-Kassaby. La portavoz añadió que, si una persona no puede ver una publicación, Meta AI tampoco debería mostrarla.
La compañía también señaló que, en el caso de Robins, el chatbot pudo haber obtenido información sobre sus hijos a partir de videos y otras publicaciones en las que ella misma los había mencionado.
De acuerdo con esta explicación, el problema no habría sido que Meta AI accediera a información privada de otras personas, sino que el sistema utilizó información disponible para el usuario para generar preguntas que resultaron demasiado personales.
La función fue creada para facilitar las consultas
Meta explicó que las sugerencias forman parte de una función diseñada para ayudar a las personas a obtener más información sobre los contenidos que están viendo. Cuando un usuario selecciona una de estas recomendaciones, Meta AI genera una respuesta a partir de la información que tiene disponible. Sin embargo, la compañía reconoció que el sistema cruzó información de una manera que produjo una sugerencia inapropiada.
La revisión busca evitar que la inteligencia artificial formule preguntas sobre temas personales, incluso cuando la información utilizada para generarlas sea técnicamente accesible para el usuario.
Meta AI está integrada en varias plataformas
El asistente de inteligencia artificial de Meta está disponible dentro de Facebook, Instagram, WhatsApp y Messenger. La herramienta puede responder preguntas, ayudar a redactar publicaciones y generar imágenes, entre otras funciones.
La compañía ha enfrentado anteriormente críticas por algunas de sus herramientas de inteligencia artificial. En julio, Meta retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram después de recibir fuertes cuestionamientos.
El nuevo episodio vuelve a poner el foco en los límites que deben tener los asistentes de IA al utilizar información personal. Aunque Meta sostiene que el sistema solo emplea contenido al que el usuario ya puede acceder, el caso de Robins muestra que el problema también puede estar en la forma en que la IA interpreta y relaciona esos datos.
Meta asegura que ya modificó el comportamiento que provocaba las sugerencias sobre asuntos personales. El objetivo será mantener las recomendaciones como una herramienta útil para explorar publicaciones, pero sin convertir información familiar o privada en preguntas que puedan resultar invasivas para los usuarios.
Fuente: Infobae