Desde los albores de la informática, Silicon Valley ha albergado sueños casi divinos. Uno de los chistes más añejos del sector cuenta que un programador pregunta a una computadora: “¿Existe Dios?” y la máquina responde: “Ahora sí”. El Whole Earth Catalog, un compendio proto-hacker que marcó a Steve Jobs, proclamaba: “Somos como dioses y más nos vale aprender a hacerlo bien”.
Hoy, con inversiones millonarias en inteligencia artificial, esos sueños parecen cumplirse. El siguiente paso: la trascendencia. Sin embargo, justo cuando la nueva religión de la IA ganaba terreno, emerge una voz desde el otro lado del mundo.
Su mensaje para la industria: vayan más despacio, eleven lo humano, las máquinas no son dioses. El papa León XIV, primer pontífice estadounidense, presentó el lunes con gran ceremonia su primera encíclica, Magnifica Humanitas (“Magnífica Humanidad”). El documento de 42.300 palabras es respetuoso y no menciona nombres, pero en el fondo constituye una fuerte reprimenda a las afirmaciones de Silicon Valley de que solo ellos son dignos de confianza para forjar el futuro.
“La IA puede ser una herramienta valiosa”, reconoció el Papa, pero la tecnología “tiende a amplificar el poder de quienes ya poseen recursos económicos, conocimientos y acceso a datos”. Advirtió que, sin supervisión y transparencia, “quienes controlan la IA impondrán su propia visión moral, que se convertirá en la infraestructura invisible de estos sistemas”. Y añadió: “Una IA más moral no es suficiente si esa moralidad la determinan unos pocos”.
Se espera que esta encíclica sea el centro del pontificado del papa de 70 años, del mismo modo que la Rerum Novarum (derechos laborales y salario justo) lo fue para León XIII a finales del siglo XIX. Publicada mientras Silicon Valley dormía, Magnifica Humanitas representa el último esfuerzo por moldear y contener el auge de la IA.
La semana pasada, el presidente Trump estuvo a punto de firmar una medida para que el gobierno federal evalúe los modelos de IA antes de hacerlos públicos, pero luego canceló la firma. Ese mismo día, el gobernador de California, Gavin Newsom, firmó una ley para estudiar el impacto de la IA en el empleo. Elon Musk, con sus propias ambiciones en IA, intentó descarrilar a OpenAI con una demanda, pero este mes fue frustrado por razones técnicas.
Magnifica Humanitas llega como un desafío a magnates como el señor Musk, cuyo poder e influencia rivalizan con el de papas medievales como Inocencio III. Inocencio sostenía que el papado era el sol y los reyes simples lunas: sin el sol no podían ser vistos.
Ámenlos u ódienlos, el señor Musk, Mark Zuckerberg, Peter Thiel, Sam Altman y sus colegas ejercen una influencia similar sobre los políticos. La economía estadounidense se sostiene gracias al gasto en IA, y la tecnología se implementa a toda velocidad en oficinas y aulas, con efectos desconocidos.
La vieja religión que desafía a la nueva es una historia digna de un thriller. Silicon Valley ha encontrado poca oposición pública en 50 años; nada con el alcance de Magnifica Humanitas. El papa León lidera a 1.400 millones de católicos; si los orienta a ser cautelosos o desconfiados de la IA, podría frenar ambiciones globales.
“¿Cuánta influencia tiene el papa en nuestro mundo occidental secular?”, se preguntó Timothy Ahn, estudiante de doctorado de la Universidad de California en Berkeley, que estudia la IA en instituciones religiosas. “Estamos a punto de ver eso. Dudo que los ejecutivos tecnológicos de Palo Alto lean esta encíclica”. En el mejor de los casos, dijo el ex seminarista, la encíclica “moldeará algunas deliberaciones morales”.
Tradicionalmente, los papas trabajan a largo plazo; cualquier evaluación del efecto llegará dentro de años. Quienes conocen tanto Silicon Valley como el Vaticano dicen que un enfrentamiento frontal es improbable. Hace una década, el papa Francisco comenzó a invitar a luminarias tecnológicas a una conferencia anual sobre IA, los Diálogos de Minerva. Si León se enfrentara abiertamente, probablemente perdería.
El hecho de que el Vaticano revelara la encíclica junto a Christopher Olah, cofundador de Anthropic (empresa de IA “buena”), sugiere que León busca participar en la conversación, no socavar la IA. Cuando Francisco publicó su encíclica sobre cambio climático en 2015, no se invitó a ejecutivos petroleros.
Luke Burgis, fundador del Instituto Cluny, que explora fe y razón en tecnología, se mostró optimista. “Esta encíclica es un cable electrificado que realmente tiene el potencial de cambiar lo que se está construyendo en Silicon Valley”, dijo el también ex seminarista. “Podría ayudar a dar a la gente un vocabulario para entender algo nuevo, como la Rerum Novarum ayudó con el salario justo”.
Pero no sucederá automática ni rápidamente. “La Iglesia apenas comienza su labor en este campo”, agregó Burgis. “Debe enfrentarse a una fuerza contraria poderosa que la supera en capital y capacidad de cómputo”.
Religión nueva, religión vieja
Hace veinte años, un enfrentamiento entre un papa y Silicon Valley era impensable. Pero la tecnología ha invadido terrenos religiosos: hay esfuerzos para evitar la muerte mediante “hacking” de estilos de vida, y la Singularidad (fusión hombre-máquina) es tema candente.
El señor Thiel da conferencias sobre el Anticristo, que según él ha llegado en forma de ambientalistas. Anthony Levandowski, ex ingeniero de Google, fundó en 2017 una iglesia para “promover una deidad basada en IA”, la cerró y la reabrió en 2023. Condenado a 18 meses por robar secretos comerciales a Google, fue indultado por Trump. Ahora, la IA se percibe como cuasi-divina.
“La gente está dispuesta a convertir la inteligencia artificial general en su dios”, dijo Garry Tan, director de Y Combinator. John Lennox, matemático retirado de Oxford y autor de “2084: Inteligencia Artificial y el Futuro de la Humanidad”, afirmó: “Esta carrera para crear una superinteligencia de IA es para crear a Dios y ser Dios”. Bill Gates dijo: “Uno casi podría llamarlo una nueva religión”. Si la IA es una religión, compite con las antiguas, y Silicon Valley suele aplastar a la competencia.
Sea por razones éticas o por defender su cuota de mercado, el papa León se enfrenta a la IA como Walmart se defendió de Amazon.
La reacción inicial del mundo tecnológico fue silenciosa durante el fin de semana festivo. Jack Dorsey, cofundador de Twitter, recirculó la encíclica entre sus millones de seguidores en X. A pesar del ruido religioso, León no tiene muchos fieles allí. Un personaje de la serie “Silicon Valley” bromeó que el cristianismo era “prácticamente ilegal” allí, aunque la realidad es más compleja. Casi una cuarta parte de los habitantes de San Francisco son católicos, según Pew, pero el porcentaje de no afiliados es mayor. Es poco probable que muchos trabajadores tecnológicos escuchen la encíclica a través de un sacerdote.
Haciendo la obra del Señor
Muchas aplicaciones de IA invaden el papel del consejero espiritual. Text With Jesus ofrece respuestas por correo de voz; Bible.ai se presenta como “ayudante, oyente, amigo”; Just Like Me ofrece un chatbot de Jesús con “orientación compasiva”.
“La gente recurre a la IA en sus momentos más oscuros”, dijo Greg M. Epstein, capellán humanista de Harvard y el MIT. “Acuden a ella como objeto de adoración. Pero el papa León dice que la verdadera fuente de virtud reside en la humanidad y en Dios”. Epstein, autor de “Tech Agnostic”, afirmó: “El papa está haciendo de verdad la obra del Señor aquí, y lo digo como ateo. Quedan muy pocas instituciones con la gravedad y la red comunitaria para enfrentar este fenómeno, que intenta convertirse en inevitable y sobrehumano”. Sin embargo, teme que sea demasiado tarde. “Big Tech es esencialmente su propia religión, con su propia teología y ritos. La encíclica del papa León será automáticamente vista como doctrina falsa”.
Fuente: Infobae