La compañía OpenAI ha puesto en marcha un innovador sistema de predicción de edad dentro de ChatGPT, con el objetivo de garantizar una experiencia de uso segura y adaptada para los usuarios menores de 18 años. Esta herramienta establece filtros automáticos que restringen el acceso a contenidos potencialmente sensibles, priorizando la seguridad de los adolescentes en el entorno digital.
Según la información compartida por la organización, el despliegue de esta función será gradual y se espera que comience formalmente en la Unión Europea durante las próximas semanas. No obstante, el mecanismo ya ha sido habilitado para diversos perfiles tras un extenso periodo de desarrollo que inició en septiembre del año pasado. El sistema se apoya en inteligencia artificial para estimar la edad de los titulares mediante el análisis de distintos criterios:
- El historial de registro de la cuenta.
- Los patrones de uso mostrados a lo largo del tiempo.
- Los horarios de actividad frecuentes del usuario.
- La edad declarada al momento de la inscripción inicial.
Protecciones automáticas para adolescentes
Cuando el software detecta que una cuenta pertenece a un menor de edad, se activan de manera inmediata una serie de protecciones reforzadas. Estas medidas están diseñadas para bloquear materiales que representen riesgos para el bienestar de los jóvenes, incluyendo:
- Filtros contra representaciones de violencia gráfica.
- Restricciones sobre desafíos virales que fomenten conductas peligrosas.
- Limitación de acceso a juegos de roles con contenido sexual, romántico o violento.
- Bloqueo de información vinculada a autolesiones.
- Control de contenidos que promuevan estándares de belleza extremos o dietas nocivas.
Para evitar inconvenientes con usuarios adultos que puedan ser clasificados incorrectamente como menores, la firma ha integrado un protocolo de verificación adicional. Si el sistema comete un error, el afectado tiene la opción de confirmar su mayoría de edad enviando una fotografía tipo selfie a través de Persona, un servicio externo especializado en identidad. Este proceso puede gestionarse directamente desde las configuraciones de la cuenta.
La tecnológica destacó que, si bien se endurecen las reglas para los jóvenes, los usuarios adultos podrán seguir utilizando la plataforma sin restricciones adicionales ligadas a la edad, siempre bajo las normas generales de seguridad. OpenAI subrayó que los criterios de restricción se fundamentan en el análisis de investigaciones científicas, literatura sobre el desarrollo infantil y la recomendación de especialistas externos.
Bajo la dirección de Sam Altman, la empresa continuará ajustando sus modelos de predicción para incrementar la precisión de los indicadores de edad. Este esfuerzo forma parte de una visión a largo plazo para fortalecer las barreras técnicas que protegen a la infancia frente a los riesgos del mundo digital. Actualmente, el despliegue en Europa se realiza bajo estrictos requerimientos regionales, mientras que otros usuarios a nivel global ya empiezan a experimentar estas funciones de seguridad en etapas tempranas.
Finalmente, se enfatizó que el propósito principal es lograr que herramientas de inteligencia artificial como ChatGPT se ajusten a las particularidades de cada etapa generacional. La empresa se ha comprometido a revisar periódicamente estos modelos de control basándose en la evolución de la tecnología y en nuevas evidencias sobre el impacto de estos contenidos en la población adolescente.
Fuente: Fuente