El Papa León XIV ha recurrido a la obra del escritor británico J.R.R. Tolkien para ilustrar la responsabilidad humana frente al avance de la inteligencia artificial. En su nueva encíclica sobre tecnología y ética, el pontífice cita directamente un pasaje de El señor de los anillos.
El fragmento aparece en el apartado titulado “Todos podemos hacer nuestra parte” del documento, denominado Magnifica Humanitas (“Magnífica Humanidad”), que fue presentado este lunes en el Vaticano.
“El autor católico del siglo XX J.R.R. Tolkien, en palabras de uno de los protagonistas de sus novelas, describió nuestra responsabilidad de esta manera: ‘No nos corresponde dominar todas las mareas del mundo, sino hacer lo que está en nosotros para el socorro de los años en que vivimos, arrancando el mal de los campos que conocemos, para que quienes vengan después puedan encontrar tierra limpia para labrar’”, se lee en el documento oficial.
La presentación de la encíclica contó con la presencia del propio León XIV —un gesto considerado inusual, ya que los pontífices normalmente no asisten en persona a este tipo de eventos—. Estuvo acompañado por altos prelados católicos, teólogos y Christopher Olah, cofundador de la empresa de inteligencia artificial Anthropic.
Advertencias clave del Papa sobre la inteligencia artificial
El documento, estructurado en cinco capítulos, parte de la premisa de que la tecnología no es “una fuerza antagonista a la humanidad” ni “intrínsecamente malvada”. Sin embargo, advierte que “nunca es neutral, porque adopta las características de quienes la conciben, financian, regulan y utilizan”.
Uno de los puntos más críticos es la concentración del poder tecnológico. Según la encíclica: “La IA tiende a acrecentar el poder de quienes ya poseen recursos económicos, experiencia y acceso a datos”.
El texto profundiza: “Grupos pequeños pero muy influyentes pueden moldear la información y los patrones de consumo, influir en los procesos democráticos y orientar las dinámicas económicas en su propio beneficio, socavando la justicia social y la solidaridad entre los pueblos”.
“Cuando ese poder se concentra en manos de unos pocos, tiende a volverse opaco y a evadir la supervisión pública, aumentando el riesgo de formas distorsionadas de desarrollo que dan lugar a nuevas dependencias, exclusiones, manipulaciones y desigualdades”, agregó León XIV.
El Santo Padre también alertó sobre el riesgo de que las personas pierdan el interés por relacionarse con otros seres humanos debido a los agentes de inteligencia artificial. Señaló que delegar decisiones en las máquinas puede “fomentar una dependencia excesiva y la búsqueda de respuestas prefabricadas, debilitando la creatividad y el juicio personal”.
En cuanto a la regulación, el papa instó a establecer marcos legales sólidos, supervisión independiente y una mayor participación política. “Lo que se necesita es una implicación política más activa, capaz de frenar las cosas cuando todo se acelera”, sostuvo.
El pontífice también hizo un llamado a “desarmar” la inteligencia artificial, entendiendo ese concepto como la necesidad de “liberarla de la mentalidad de competencia ‘armada’”, lo que abarca tanto el ámbito militar como el económico y el cognitivo.
Advirtió además sobre lo que denominó “nuevas formas de esclavitud”, señalando la explotación humana y ambiental detrás del desarrollo de la IA. Esto incluye desde el entrenamiento de modelos con material protegido por derechos de autor hasta la extracción de minerales utilizados en el hardware.
En relación con el uso militar, el papa indicó que la responsabilidad por las acciones letales debe recaer en seres humanos y no en máquinas. Reclamó la creación de leyes internacionales que regulen el uso creciente de armas automatizadas.
“Llamar a la prudencia, a una evaluación rigurosa e incluso, en ocasiones, a un ritmo más lento en la adopción de la IA no significa oponerse al progreso; es, por el contrario, un ejercicio de cuidado responsable hacia la familia humana”, concluyó León XIV.
Fuente: Infobae