Advierten riesgos globales de los agentes de inteligencia artificial en el Foro de Davos

Yoshua Bengio, considerado uno de los “padrinos de la IA” junto a Geoffrey Hinton y Yann LeCun, y galardonado con el Premio Turing en 2018, lanzó una seria advertencia sobre los riesgos potenciales de desarrollar agentes de inteligencia artificial demasiado poderosos.

Durante su participación en el Foro Económico Mundial, Bengio llamó la atención sobre los peligros que representan estos sistemas autónomos y propuso una alternativa para minimizar los riesgos, destacando la importancia de sistemas de IA no basados en agentes.

En una entrevista con Business Insider, Bengio enfatizó que “todos los escenarios catastróficos con AGI o superinteligencia suceden si tenemos agentes”. Según explicó, los agentes son sistemas que actúan de forma autónoma, con objetivos propios, lo que los convierte en una amenaza potencial si sus decisiones no están alineadas con los valores y los intereses humanos.

Los riesgos de los agentes de IA

En su intervención, Bengio se refirió específicamente a los agentes de IA con capacidades cognitivas similares a las humanas, conocidas como inteligencia general artificial (AGI).

Según explicó, estos agentes podrían representar un grave peligro si no se diseñan ni controlan adecuadamente. Entre los escenarios más alarmantes que mencionó se encuentran los sistemas de armas autónomos, que podrían tomar decisiones letales sin intervención humana.

COMPARTIR ESTA NOTICIA

Facebook
Twitter

FACEBOOK

TWITTER