Meta implementó en Instagram un sistema que notifica a los padres que utilizan herramientas de supervisión parental cuando sus hijos de entre 13 y 17 años presentan indicios de problemas de salud mental en diálogos con Meta AI, su inteligencia artificial. Esta funcionalidad ya está activa en Estados Unidos, Reino Unido, Australia y Canadá, y se espera su expansión global antes de que finalice el año.
Cuando la inteligencia artificial detecta señales de posible riesgo —incluso referencias indirectas a autolesiones— el sistema etiqueta la conversación para una revisión manual antes de generar la alerta. Si la intención del joven es ambigua, Meta opta por informar al padre o tutor de todas maneras. Además, la compañía proporciona recursos elaborados por especialistas para que los adultos puedan abordar estas situaciones con sus hijos.
Mecanismo de detección
Meta desarrolló un sistema de inteligencia artificial exclusivo para identificar conversaciones de riesgo, basado en criterios definidos junto a expertos en salud mental. Todos los chats marcados pasan por una revisión humana antes de que se emita cualquier alerta. Esta medida se suma a las notificaciones que la plataforma ya enviaba a los padres cuando un adolescente buscaba repetidamente términos vinculados a atentar contra su vida en un periodo corto.
Conexión con servicios de emergencia y avances clínicos
En paralelo, Meta trabaja en la posibilidad de contactar a los servicios de emergencia cuando una conversación —de un adulto o un adolescente— con Meta AI sugiera un riesgo inminente de suicidio. Esta función amplía lo que la empresa ya realiza en Facebook e Instagram: si detecta una publicación con peligro creíble, alerta a las autoridades. El año pasado se realizaron más de 19.000 derivaciones a nivel mundial para que los servicios de emergencia efectuaran controles de bienestar.
Para perfeccionar las respuestas de Meta AI en estos casos, la compañía recopiló retroalimentación de más de 75 profesionales de salud mental, todos especializados en adolescentes, que evaluaron cientos de interacciones y determinaron si las respuestas eran adecuadas para esa franja etaria.
Configuración de contenido limitado se extiende a Meta AI
Las Cuentas para Adolescentes se sitúan automáticamente en una configuración de contenido para mayores de 13 años que también aplica a los chats con Meta AI: así, el asistente está entrenado para evitar conversaciones sexuales o románticas con menores, y no ofrecer recetas de bebidas alcohólicas, entre otras restricciones. Ahora, la opción Contenido Limitado —más restrictiva para padres que buscan mayor control— se extiende también a las interacciones con Meta AI. Cuando los padres la activan, el asistente rechaza responder a un rango más amplio de preguntas, reduciendo la posibilidad de diálogos inapropiados.
Qué hacer si un amigo publica contenido alarmante
Si observas que alguien comparte contenido preocupante sobre salud mental, actúa de inmediato: contacta a los servicios de emergencia locales si el peligro es inminente. Luego, comunícate directamente con esa persona o avisa a alguien cercano que pueda hacerlo. Es fundamental que sepa que no está solo y que cuenta con apoyo real. También puedes reportar la publicación; el equipo capacitado de Meta revisará el caso, ocultará el contenido y enviará a tu amigo una notificación con recursos de apoyo y líneas de ayuda.
A continuación, se listan líneas de ayuda en varios países de habla hispana y Estados Unidos:
- Estados Unidos: Red Nacional de Prevención del Suicidio al 1-888-628-9454 o 1-800-273-8255 (24/7, gratuito y confidencial). Los CDC también recomiendan sus propias políticas y prácticas.
- Argentina: Centro de Asistencia al Suicida, línea 135 (gratuita), (011)5275-1135 o 0800 345 1435.
- México: Línea de la Vida 800-911-2000 (24/7, gratuito).
- Colombia: Línea de la Vida: Bogotá 106 o WhatsApp 3007548933; Barranquilla 339 99 99; Medellín Línea Amiga 444 44 48; Cali 106.
- Perú: Ministerio de Salud (Minsa) Línea 113 Salud, también por WhatsApp o Telegram 955557000 y 952842623.
- España: Ministerio de Sanidad, Línea 024 para atención a la conducta suicida.
Fuente: Infobae
