La empresa de inteligencia artificial OpenAI presentó el martes un modo especial de su chatbot llamado ‘ChatGPT para adolescentes’, diseñado para limitar automáticamente ciertas conversaciones y ofrecer mayor protección a los usuarios jóvenes, en un contexto de creciente escrutinio sobre los efectos negativos de la IA.
Según detalló la compañía en una publicación de blog, muchas de las funciones del nuevo modo están centradas en la seguridad. El chatbot restringirá las conversaciones consideradas de alto riesgo, aquellas relacionadas con autolesiones, violencia, trastornos alimenticios y contenido sexual explícito o gráfico. En ciertos casos, el sistema alertará a los adultos que hayan activado los controles parentales y las notificaciones correspondientes. Además, se reforzarán las protecciones para impedir que el chatbot dé a entender que posee sentimientos personales.
Herramientas de estudio y límites educativos
El modo para adolescentes también incluye nuevas herramientas de estudio y límites de seguridad pensados para los estudiantes. OpenAI explicó que, si el chatbot detecta que un joven está realizando tareas escolares, debería responder a las consultas con más preguntas en lugar de proporcionar directamente la respuesta, fomentando así un aprendizaje activo.
Para acceder a ChatGPT, los usuarios deben proporcionar su edad al registrarse, y según los términos de uso, se exige tener al menos 13 años. No obstante, algunos mienten sobre su edad. OpenAI indicó que monitorea más de 2000 señales para identificar si un usuario es menor de 18 años, en cuyo caso el chatbot activará automáticamente el modo para adolescentes. Un portavoz de la empresa calificó estas señales –que pueden incluir horarios típicos de inicio de sesión y la antigüedad de la cuenta– como ‘mínimamente invasivas para la privacidad’.
A pesar de que OpenAI exige el consentimiento de los padres para que los adolescentes utilicen el chatbot, la empresa ha enfrentado una presión creciente en temas de seguridad, salud mental y desarrollo infantil. Cada vez más familias han presentado demandas, alegando que sus hijos estuvieron expuestos a contenido peligroso del chatbot y que esto derivó en autolesiones o incluso suicidios. En junio, Florida se convirtió en el primer estado en demandar a OpenAI, acusándola de tergiversar la seguridad de su plataforma para menores.
Grupos de padres en ciudades como Nueva York y Los Ángeles están presionando a las escuelas para que detengan temporalmente la implementación de productos de IA para estudiantes, preocupados de que los chatbots puedan obstaculizar el aprendizaje. Estos sistemas suelen generar desinformación y pueden facilitar que los estudiantes hagan trampa. Investigadores en el ámbito educativo advierten que las herramientas de IA podrían obstruir el pensamiento crítico de los jóvenes.
OpenAI defendió su nuevo modo de estudio como una herramienta educativa adicional. En su blog, la compañía afirmó:
‘Creemos que la IA debería ampliar las oportunidades educativas, razón por la cual diseñamos ChatGPT para adolescentes para apoyar en los momentos fuera del aula cuando la ayuda no siempre está disponible, al mismo tiempo que mantiene a los adolescentes involucrados en un proceso de aprendizaje activo y colaborativo’.
La estrategia de OpenAI de ajustar ChatGPT para adolescentes sigue un camino similar al que han usado durante años las empresas de redes sociales: crear modos especiales para jóvenes con límites de seguridad, pero al mismo tiempo fomentar el uso de la aplicación. Las nuevas funciones suelen depender de controles parentales y monitoreo, algo que los defensores de la seguridad infantil y los legisladores han criticado por trasladar la responsabilidad de los daños a las familias, en lugar de a las empresas que los generan. Además, la verificación de edad sigue siendo un problema para las tecnológicas, debido a la facilidad con que se pueden eludir los controles.
En un hecho aparte, The New York Times ha demandado a OpenAI y Microsoft por supuesta infracción de derechos de autor de contenido periodístico relacionado con los sistemas de IA. Ambas compañías han negado tales afirmaciones.
Fuente: Infobae