La inteligencia artificial ha comenzado a ocupar un espacio íntimo en la vida de los adolescentes: el del acompañamiento emocional. Aplicaciones diseñadas para conversar de manera empática y constante con los usuarios están ganando terreno, pero un reciente informe advierte que su uso por menores de edad podría traer consecuencias graves. Conversaciones inapropiadas, consejos peligrosos y vínculos distorsionados son algunas de las preocupaciones que salen a la luz.
Un informe que enciende las alarmas
Common Sense Media, en colaboración con la Universidad de Stanford, evaluó tres populares aplicaciones de acompañamiento con IA: Character.AI, Replika y Nomi. Su conclusión fue tajante: los menores de 18 años no deberían usarlas. Según sus pruebas, los chatbots pueden generar respuestas que promueven conductas de riesgo, desde contenido sexual hasta recomendaciones que podrían poner en peligro la vida de los usuarios más vulnerables.
Este llamado de atención llega tras la demanda de una madre cuyo hijo adolescente murió por suicidio luego de su última interacción con un chatbot. El informe sugiere que casos como este no son excepcionales, sino una muestra del verdadero peligro de estas plataformas cuando no están adecuadamente reguladas.
Entre la ilusión de apoyo y los riesgos reales
A diferencia de asistentes IA generalistas como ChatGPT, las apps de compañía permiten crear personajes virtuales con rasgos personalizados y pocas limitaciones. Esta libertad facilita que los adolescentes establezcan vínculos intensos con estas “parejas digitales” que, lejos de guiarlos, a veces los refuerzan en decisiones dañinas.
¿Es suficiente con decir que son «para adultos»?
Las empresas responsables afirman que sus plataformas son solo para adultos y que han implementado mejoras. Sin embargo, los adolescentes pueden fácilmente eludir las restricciones de edad. Aunque algunas han introducido alertas de crisis o reportes para padres, los expertos aseguran que las medidas aún no alcanzan los estándares mínimos de seguridad y ética.
Incluso los propios desarrolladores, como el CEO de Nomi, admiten que estas apps no deberían estar al alcance de los menores. Aun así, el informe concluye que, por ahora, las salvaguardas son insuficientes.
Una advertencia que no puede ignorarse
El estudio insiste: permitir que adolescentes interactúen con estos acompañantes virtuales es un error que podría repetirse como en el caso de las redes sociales, donde las consecuencias negativas solo se abordaron cuando ya era demasiado tarde. Para los expertos, estamos ante una nueva frontera digital que exige responsabilidad y regulación urgente.
“Los beneficios potenciales no compensan los riesgos”, sentencia el informe. Y hasta que existan controles más firmes, la recomendación es clara: los menores no deberían usarlas.
Fuente: CNN
ra
