Un equipo de investigadores de la Universidad de Administración de Singapur (SMU) y la Facultad de Medicina Duke-NUS ha alertado sobre los efectos negativos que los asistentes de inteligencia artificial podrían tener en las relaciones humanas. Según el estudio, estas herramientas tecnológicas podrían profundizar las desigualdades sociales y provocar un deterioro en las capacidades interpersonales de los usuarios.
El trabajo, publicado en la prestigiosa revista Nature Human Behaviour, fue liderado por Zhang Qiyang, profesor asistente de análisis del aprendizaje en SMU, y Liu Nan, profesor asociado del Centre for Biomedical Data Science de Duke-NUS. Los autores señalaron que la interrogante principal es quién se beneficia, quién asume los riesgos y por qué esos resultados se distribuyen de forma tan desigual, según declaró Zhang Qiyang.
Brechas sociales potenciadas por la inteligencia artificial
El estudio identificó una dinámica similar a la de “los ricos se vuelven más ricos” en el ámbito de las relaciones humanas. Aquellas personas que disfrutan de vínculos familiares sólidos y redes sociales activas suelen utilizar los asistentes virtuales como un complemento para sus interacciones, por ejemplo, para preparar una conversación difícil o manejar el estrés. 
En contraste, quienes experimentan soledad, aislamiento social o dificultades para acceder a apoyo en salud mental tienen una mayor probabilidad de recurrir a estas herramientas como un reemplazo de la conexión humana. Esta dependencia puede limitar las oportunidades de practicar conversaciones e interacciones cotidianas. Los autores denominan a este fenómeno pérdida de habilidades sociales, definido como el deterioro gradual de las capacidades interpersonales debido a la menor práctica de interacción humana auténtica.
Esta preocupación coincide con un artículo de investigadores de la Universidad Estatal de Arizona, publicado en The Lancet Child & Adolescent Health, que advierte que la compañía de la inteligencia artificial puede modificar la forma en que los adolescentes enfrentan conflictos, fijan límites y desarrollan empatía.
“Sin medidas de seguridad específicas, los asistentes de IA corren el riesgo de reforzar las desigualdades sociales existentes, dejando a quienes necesitan más apoyo humano en una situación de mayor vulnerabilidad”, señaló Zhang Qiyang.
El modelo del queso suizo aplicado a la IA
Para examinar cómo se producen estas diferencias, el equipo adaptó el modelo del queso suizo, utilizado en ingeniería y ciencias de la seguridad. Este modelo parte de la idea de que los daños significativos no provienen necesariamente de una sola falla, sino de la coincidencia de varios problemas pequeños en distintas capas de protección. 
En este caso, las capas consideradas fueron la alfabetización digital sobre IA de los usuarios, las redes de apoyo social, las decisiones de diseño de las plataformas y la supervisión regulatoria. Cada una puede tener debilidades, descritas como “agujeros”, que aumentan la exposición de los grupos vulnerables si coinciden.
El enfoque se diferencia de las perspectivas que ubican la responsabilidad en un único actor, ya sea el usuario, las compañías tecnológicas o las autoridades. El estudio propone analizar cómo interactúan esas dimensiones para producir efectos desiguales en el bienestar. La principal brecha detectada es la gobernanza: aunque estos asistentes se usan cada vez más para apoyo y cuidado emocional, en numerosos países continúan regulados como aplicaciones de consumo, en vez de tecnologías que pueden tener consecuencias psicosociales o vinculadas con la salud mental.
Recomendaciones para una regulación adecuada
Reconocer a los asistentes de IA como tecnologías con implicaciones para la salud permitiría implementar protecciones más exigentes. Entre ellas, diseños acordes con la edad, avisos claros que informen que la interacción es con una máquina y límites a funciones emocionalmente manipuladoras. 
También se proponen reglas más claras sobre privacidad y gestión de datos, además de protocolos obligatorios para responder a situaciones de crisis, que se aplicarían cuando un usuario comunique autolesiones u otras circunstancias de alto riesgo. Zhang Qiyang desarrolla, además, un panel de políticas globales que sigue los marcos de gobernanza nacionales para las tecnologías de IA en salud mental.
Los investigadores defienden una gobernanza por capas, que combine regulación, educación, diseño responsable de productos y medidas para fortalecer la conexión social fuera del entorno digital. El objetivo es reducir la posibilidad de que las personas con menor respaldo dependan excesivamente de estas herramientas para obtener contención emocional.
Singapur, un posible modelo de gobernanza
La investigación sitúa a Singapur en una posición favorable y, al mismo tiempo, expuesta ante la expansión de los compañeros de IA. Su infraestructura digital, su capacidad de elaboración de políticas y su experiencia en gobernanza tecnológica podrían permitirle impulsar protecciones responsables, según el análisis. 
Sin embargo, la elevada adopción de teléfonos inteligentes, el uso extendido de inteligencia artificial, el envejecimiento de la población y el aumento de adultos mayores que viven solos también podrían acelerar el uso de estos sistemas entre grupos vulnerables.
“Los jóvenes, en particular, pueden estar menos preparados para reconocer las limitaciones o los incentivos comerciales que subyacen a estos sistemas, lo que hace que las medidas de protección sean especialmente importantes”, afirmó Liu Nan, quien también dirige la Iniciativa de IA y Ciencias Médicas Duke-NUS.
Zhang Qiyang concluyó que el futuro de estas plataformas dependerá de cómo se diseñen, administren y utilicen. “Al combinar una regulación reflexiva, un diseño de producto responsable y una mayor alfabetización pública en IA, los asistentes con IA pueden complementar las relaciones humanas”, sostuvo.
Fuente: Infobae