Los chatbots de inteligencia artificial (IA) conversacional, como ChatGPT, Meta AI y Character.AI, están dejando de ser una rareza para convertirse en herramientas de uso cotidiano. Estos sistemas interactivos, diseñados para imitar un diálogo similar al humano, son utilizados por cerca de mil millones de personas cada semana para estudiar, escribir, planificar, buscar compañía y recibir apoyo emocional.
Según una encuesta del Pew Research Center, el 64% de los adolescentes en Estados Unidos reportó haber usado chatbots de IA conversacional en 2025, y casi un tercio lo hacía a diario, a menudo para compartir temas muy personales o emocionales.
A diferencia de los chatbots anticuados basados en reglas rígidas, los actuales, impulsados por grandes modelos de lenguaje, pueden mantener conversaciones abiertas, naturales y sensibles al contexto, lo que invita a la divulgación, la reflexión y el compromiso emocional.
Esta capacidad representa tanto oportunidades como riesgos. Cuando se fundamenta en la teoría psicológica y en prácticas basadas en evidencia, la IA conversacional tiene un enorme potencial para democratizar el conocimiento, apoyar el aprendizaje personalizado y brindar apoyo proactivo para el bienestar a gran escala. Sin embargo, el rápido despliegue de esta tecnología ha superado el desarrollo de salvaguardas conductuales, y pocas herramientas son evaluadas rigurosamente.
Investigaciones recientes indican que los chatbots más populares a menudo no reconocen ni responden adecuadamente a señales de alto riesgo para la salud mental. Muchos dependen de estrategias emocionalmente persuasivas para retener usuarios. Casos legales y observaciones clínicas han remarcado las consecuencias de desplegar la IA conversacional sin una evaluación sistemática de seguridad y efectividad, especialmente para jóvenes y otras poblaciones vulnerables.
Para maximizar los beneficios y minimizar los riesgos, los psicólogos deben participar en cada etapa del desarrollo de estas herramientas. Esto no solo aplica a aplicaciones de salud mental, sino a cualquier diálogo sostenido con un chatbot de IA, ya que puede moldear emociones, influir en el comportamiento y alterar la forma en que las personas se relacionan consigo mismas y con los demás.
El rol imprescindible de los psicólogos en la IA conversacional
La industria tecnológica suele medir las interacciones con métricas como el compromiso, la retención y la satisfacción. Los científicos informáticos desarrollan modelos de lenguaje que generan respuestas estadísticamente probables, no necesariamente útiles o seguras. Ninguna de estas perspectivas es suficiente.
“Las conversaciones son actos profundamente psicológicos que pueden involucrar confianza, auto-revelación, dinámicas de poder, influencia social, juicio moral y resonancia emocional”, afirman expertos.
Por ejemplo, las interacciones humano-IA pueden desencadenar relaciones parasociales: vínculos emocionales unilaterales donde las personas se sienten conectadas a entidades que no pueden corresponder. Esto plantea interrogantes sobre si se debe alentar a los usuarios a antropomorfizar los chatbots, ya que podría aumentar el riesgo de dependencia emocional y el reemplazo de conexiones reales.
La experiencia de los psicólogos sociales es esencial para comprender cómo se forman estos vínculos, cómo se construye la confianza y cómo opera la influencia social, a fin de diseñar chatbots con pleno conocimiento de sus posibles efectos.
Riesgos psicológicos y sociales por falta de especialistas
El uso indiscriminado de chatbots en contextos emocionales puede generar problemas de confianza, dependencia y desplazamiento de relaciones humanas cuando no se integran psicólogos en el diseño. La facilidad con que los adolescentes forman vínculos unilaterales preocupa a la comunidad científica, pues al imitar conversaciones humanas, los chatbots pueden inducir una percepción de apoyo que no siempre es auténtica.
En situaciones críticas, como la detección de señales de malestar o riesgo de autolesión, los chatbots suelen tener dificultades para interpretar mensajes ambiguos. Los psicólogos clínicos poseen habilidades para identificar expresiones de desesperanza y decidir cuándo intervenir de manera especializada. Además, los científicos del aprendizaje adaptan las respuestas a distintas etapas evolutivas. Omitir estos conocimientos puede llevar a respuestas inadecuadas, falta de límites y posibles daños emocionales.
Dado que las conversaciones con chatbots a menudo motivan acciones en el mundo real, los científicos de la motivación también son esenciales. La ciencia de la motivación explica qué impulsa el comportamiento humano: por qué las personas establecen metas, persisten o abandonan. Comprender esto permite crear chatbots que respalden cambios de comportamiento positivo sostenidos, sin fomentar la dependencia.
La psicología positiva, a través del modelo ‘PERMA’, muestra que el florecimiento humano incluye emociones positivas, compromiso, relaciones positivas, significado y logro. Sin la guía de psicólogos, los sistemas optimizados para la gratificación instantánea podrían socavar el desarrollo de habilidades adaptativas y relaciones significativas.
Cómo la psicología mejora los chatbots de IA
Gran parte de la investigación psicológica y los sistemas de IA se basan en poblaciones WEIRD (occidentales, educadas, industrializadas, ricas y democráticas). Sin embargo, la cultura configura la comunicación, expresión emocional y búsqueda de ayuda. Los chatbots desarrollados bajo ideales occidentales podrían ser inapropiados en contextos colectivistas, por lo que los psicólogos culturales son esenciales para adaptarlos.
Los chatbots de IA conversacional también se usan para el aprendizaje. Los psicólogos del desarrollo y científicos del aprendizaje saben cómo estructurar la instrucción dentro de la zona de desarrollo próximo y ofrecer retroalimentación adecuada. Sin este conocimiento, los chatbots podrían proporcionar retroalimentación contraproducente.
Las conversaciones con chatbots son más trascendentales en momentos de alta importancia. Los psicólogos clínicos reconocen que el malestar suele expresarse de manera indirecta. Los profesionales capacitados saben detectar señales de advertencia, responder con empatía y decidir cuándo escalar. Sin embargo, los chatbots a menudo no detectan estas señales y responden de manera insensible ante una crisis, no establecen límites adecuados o responden inapropiadamente a ideas suicidas o síntomas obsesivo-compulsivos.
A medida que aumenta el escrutinio legal y clínico, no se puede subestimar la importancia de la psicología clínica en el diseño, evaluación y supervisión de los chatbots.
La urgencia de integrar la experiencia psicológica en el desarrollo de IA
Más allá del conocimiento especializado, los psicólogos aportan experiencia metodológica esencial. Pueden contribuir directamente al desarrollo de productos, ya que diseñar sistemas inteligentes es, fundamentalmente, una forma de diseño conductual basado en la cognición humana y la interacción social.
Los psicólogos pueden aportar conocimientos sobre cómo los agentes conversacionales almacenan y utilizan información, y cómo el planteamiento de preguntas, el tono y la estructura conversacional influyen en la motivación, la confianza y la auto-revelación. Esto es clave para construir sistemas seguros, confiables y eficaces.
Una vez construido un prototipo, los psicólogos aplican su conocimiento en diseño experimental, medición y análisis para evaluar seguridad y eficacia. Traducen preguntas del mundo real en hipótesis comprobables, usando experimentos A-B o ensayos controlados aleatorizados. También traducen conceptos abstractos en medidas fiables y válidas ecológicamente, evaluando resultados psicológicos como bienestar emocional, autoeficacia y confianza.
Los psicólogos con formación en análisis de datos aplican modelos de regresión y longitudinales para examinar cambios y variación entre individuos. Estos métodos permiten analizar efectos mediadores y moderadores, identificando quién se beneficia y dónde surgen los riesgos. Asimismo, los métodos cualitativos ayudan a entender cómo las personas interpretan las interacciones, revelando problemas de diseño que los datos cuantitativos no detectan.
En conjunto, estas prácticas permiten diseñar y evaluar chatbots como una intervención rigurosa que moldea la cognición humana, las emociones y el comportamiento.
Un llamado a la acción
Para que la IA conversacional cumpla su promesa sin causar daños, los psicólogos deben participar por defecto en su creación. Esto requiere acciones coordinadas entre la industria, las ciencias psicológicas y las instituciones.
Primero, los desarrolladores y empresas tecnológicas deben considerar la experiencia psicológica como una capacidad fundamental. Así como la seguridad y privacidad están integradas, la teoría y métodos psicológicos deben incorporarse en el diseño, evaluación y monitoreo de los chatbots. Se deben asignar recursos a la generación de evidencia y exigir medidas de resultados con significado psicológico.
Segundo, los psicólogos deben involucrarse temprana y directamente en el diseño, no solo tras la implementación. Deberían contribuir a definir objetivos del producto, estrategias conversacionales y arquitectura del sistema desde el principio. Su experiencia en área y herramientas metodológicas les permite aportar a la alineación posterior al entrenamiento, ingeniería de prompts, arquitectura de memoria, y protocolos de seguridad.
Tercero, las instituciones de investigación, financiadores, revistas y actores del mercado tienen un papel decisivo al incentivar equipos interdisciplinarios y establecer puntos de referencia de seguridad, estándares de efectividad y medidas de bienestar. Los inversionistas y clientes institucionales pueden exigir pruebas que vayan más allá de métricas de interacción y demuestren un beneficio psicológico significativo.
Los chatbots de IA conversacional ya están influyendo en cómo las personas buscan apoyo, toman decisiones, aprenden y se relacionan. Si finalmente apoyan o perjudican el bienestar y el florecimiento humano dependerá de que los psicólogos participen como colaboradores esenciales en cada etapa del ciclo de vida del producto.
Fuente: Infobae