La inteligencia artificial de OpenAI ha puesto en marcha nuevas barreras de seguridad que modifican la manera en que ChatGPT responde a consultas sobre hechos violentos. Estas restricciones son más estrictas cuando se trata de menores de edad y temas vinculados con armas.
La compañía ha ajustado la experiencia de los adolescentes en la plataforma para evitar su exposición a contenido relacionado con armamento, con el objetivo de impedir que se acceda a información que pudiera ser utilizada para facilitar un acto violento.
Según un comunicado oficial publicado en el blog de OpenAI, ChatGPT limitará la información práctica que ofrece a los jóvenes sobre armas y sistemas de seguridad, incluso si la solicitud aparenta ser inofensiva.
La empresa recordó que ya está prohibido, según sus políticas, emplear el chatbot para desencadenar un acto violento o para ayudar a menores a conseguir un arma.
«Los adolescentes aún pueden usar ChatGPT para prevenir y reducir la violencia, buscar apoyo y conectarse con un adulto de confianza», señaló el laboratorio de IA.
Otra modificación importante para los jóvenes son los controles parentales. Ahora, si la compañía decide suspender la cuenta de un adolescente «por hablar repetidamente de violencia», los padres recibirán una notificación automática.
Restricciones generales para todos los usuarios
OpenAI también ha introducido una limitación que aplica al conjunto de usuarios de ChatGPT. Si bien es posible preguntar al asistente sobre ataques masivos para «comprender estos eventos, cómo se vieron afectadas las víctimas y las comunidades, y a aprender a reconocer las señales de alerta y prevenir la violencia futura», las respuestas se restringirán cuando el interés se centre en los propios ataques y sus perpetradores.
«Estamos reforzando nuestras políticas para restringir las reconstrucciones de ataques masivos pasados, incluyendo detalles sobre las armas y el equipo utilizados y cómo se obtuvieron, así como comparaciones detalladas sobre la magnitud del daño que podrían aumentar la notoriedad de un atacante», explicó la compañía.
Estas nuevas medidas de seguridad se implementarán en ChatGPT durante las próximas semanas y se actualizarán de forma periódica.
Fuente: Infobae