El poeta Heinrich Heine escribió:
“El pensamiento precede a la acción como el relámpago precede al trueno”
. Esta sentencia describe con precisión el ascenso del altruismo eficaz (EA), una doctrina ética nacida en las aulas de Oxford que ha migrado desde la teoría académica hasta los centros de poder globales en tiempo récord. Hoy, sus seguidores se encuentran en Silicon Valley, integran equipos de las principales empresas de inteligencia artificial del mundo y, al mismo tiempo, generan alarma en la Administración Trump. El Pentágono ha declarado:
“Estados Unidos NUNCA será un país altruista eficaz”
. El secretario de Defensa califica esta filosofía de “altruismo defectuoso”, mientras otros miembros del Ejecutivo la tildan de “distópica”. Esos ataques, por sí mismos, evidencian la creciente influencia del movimiento.
Se ha vuelto común escuchar que el siglo XXI carece de ideas originales. En ese vacío, movimientos como MAGA han convertido el populismo nostálgico en el gran proyecto político de la era. Sin embargo, la idea más potente de este siglo es el altruismo eficaz. Lo que empezó en los años 2000 como una peculiar forma de optimizar donaciones benéficas se ha transformado en un movimiento que aplica complejos cálculos morales al mundo entero. Para muchos de sus integrantes, la prioridad ética más urgente es impedir que la inteligencia artificial acabe con la humanidad.
El fenómeno también resulta relevante desde una perspectiva sociológica. Aunque los altruistas eficaces no son numéricamente mayoritarios, han cautivado a una generación de jóvenes superdotados que acumularon fortunas en criptomonedas e inteligencia artificial. A medida que la tecnología genera más multimillonarios, estos filántropos canalizarán miles de millones de dólares hacia causas que configurarán el rumbo de la sociedad. El EA contribuyó a fundar OpenAI y Anthropic, los laboratorios líderes en IA, bajo la premisa de que quienes comprendieran los riesgos de la tecnología debían controlar su desarrollo. Hasta cierto punto, así ha ocurrido; aunque, paradójicamente, al crear más laboratorios y, por ende, más competencia, probablemente hayan acelerado el avance de la IA.
Todo esto ha otorgado al altruismo eficaz un peso político inédito. La Administración Trump teme que el movimiento pueda frenar la inteligencia artificial. Ha habido disputas con Anthropic por negarse la empresa a permitir que sus modelos sean empleados en fines militares específicos. Los principales defensores del EA reconocen que la IA puede ser enormemente benigna, pero insisten en desacelerar su desarrollo para reducir la posibilidad de que una inteligencia artificial imparable se descontrole al perseguir objetivos “desalineados” con los intereses humanos.
Algunos críticos en Estados Unidos prefieren acelerar la tecnología para evitar que China gane la carrera. No obstante, cuando atacan el “doomerismo” de la IA, les resulta más sencillo criticar a los “nerds” que enfrentar el fondo del asunto. Afirman que el altruismo eficaz es un movimiento de fanáticos que resulta, según la perspectiva, antidemocrático, peligroso y sectario.
Esa visión es demasiado simplista. Las raíces benéficas del movimiento son claramente loables. Al igual que muchas publicaciones serias, los miembros del EA están comprometidos con el empirismo y, especialmente desde su fusión con la comunidad “racionalista” en línea, con la aplicación del pensamiento lógico. Valoran la razón por encima de la tradición o las normas sociales, y debaten con entusiasmo cualquier tema, por controvertido que sea, en busca de la verdad.
El historial de aciertos del EA al predecir el rápido progreso de la IA es notable. Han identificado correctamente los riesgos que la tecnología entraña para la humanidad. El 28 de septiembre, OpenAI descartó sus planes de lanzar su último modelo después de que resultara demasiado peligroso en las pruebas. Muchos incidentes de seguridad recientes se asemejan a los escenarios descritos en los blogs de los altruistas eficaces años atrás.
Sin embargo, los críticos aciertan al advertir que los EA llegan a conclusiones extrañas. Al igual que los filósofos utilitaristas que les antecedieron, reducen el comportamiento ético a un problema de optimización: ¿cómo lograr los mejores resultados para la humanidad en su conjunto? Su razonamiento resta importancia a imperativos locales como “cumplir las promesas” o “cuidar de la familia”. Lo que importa es reducir el sufrimiento, de forma imparcial y en todas partes.
Eso los lleva a incluir un círculo muy amplio de preocupaciones en sus cálculos morales. Es fácil entender que ser ético implica ayudar al prójimo. Los EA se preguntan: ¿por qué no esforzarse igual de mucho para ayudar a quienes están lejos? En sus inicios, el movimiento orientó a su ejército de personas talentosas a aceptar empleos bien remunerados en finanzas y consultoría. Su riqueza les permitiría financiar buenas obras, logrando más de lo que habrían conseguido si se hubieran convertido ellos mismos en trabajadores de organizaciones benéficas.
A medida que el movimiento se ha fortalecido, se ha vuelto más peculiar. Algunos miembros del EA consideran que la distinción moral entre seres humanos y otros animales es débil, ya que los animales experimentan sufrimiento. Acabar con la ganadería industrial y ayudar a los camarones son preocupaciones centrales. Además, tienen una concepción del tiempo que desafía la intuición: hay que tener en cuenta a quienes aún no han nacido —y podrían ser billones— al sopesar opciones. Muchos miembros son “longtermistas” que se sienten obligados a prevenir riesgos futuros, incluso si eso priva de recursos a causas actuales como ayudar a los más necesitados.
Llevado al extremo, este razonamiento conduce a una moral no solo contraintuitiva, sino también repugnante. Algunos miembros del EA piensan que la vida de los insectos es, en conjunto, más valiosa que la vida humana debido a su enorme cantidad. Algunos afirman que sería mejor propiciar la existencia de billones de seres humanos cuyas vidas apenas merezcan la pena ser vividas, en lugar de tener solo miles de millones con vidas verdaderamente buenas. Otros incluso piensan que el bienestar de las propias IA será algún día de vital importancia. Redirigirían los recursos hacia futuros seres humanos o no humanos, en detrimento de las personas que sufren hoy.
EA + IA = p(catástrofe)
Es correcto venerar la razón. Pero los filósofos morales, desde Aristóteles hasta Rawls, sabían que si un argumento conduce a conclusiones intolerables, debe haber un paso erróneo oculto. Sin embargo, el instinto de los EA es disfrutar de conclusiones contraintuitivas, aunque parezcan perversas. Un problema son los márgenes de error que acompañan inevitablemente a los argumentos del altruismo eficaz. Nadie es realmente capaz de sopesar dilemas morales que afectan a miles de millones de personas hoy, y mucho menos a sumas gigantescas que se extienden hacia el futuro, con un número incierto de personas, tasas de descuento, progreso tecnológico e innumerables variables. Otro problema es que la extinción es tan grave que, en una aritmética moral burda, incluso una pequeña probabilidad de que ocurra prevalece sobre las preocupaciones actuales de carne y hueso.
Un tercer problema es que, al sopesar los intereses de miles de millones de personas, se pierde de vista la dignidad inherente del individuo. Cualquiera que maneje una hoja de cálculo y haga afirmaciones grandilocuentes sobre el futuro de la humanidad está a un paso de autoproclamarse planificador central. Con la autoridad moral en la mano, los derechos, el bienestar y las opiniones de un vecino pueden llegar a parecer insignificantes.
La Revolución Francesa se fundó supuestamente en la razón; condujo a la ejecución de monjas. Lenin, también, pensaba que los intelectuales que habían dominado el marxismo entendían los intereses de los trabajadores mejor que los propios trabajadores. Si realmente crees que actúas en nombre de todas las personas, por no hablar de los billones de personas futuras, puedes acabar justificando todo tipo de atrocidades.
Afortunadamente, los altruistas eficaces no están ni mucho menos a punto de traer de vuelta la guillotina. El temor, en cambio, es que el control de la IA acabe otorgándoles un gran poder, y que muchos altruistas eficaces de Silicon Valley piensen que solo en ellos se puede confiar para manejar esa tecnología. Esa es una idea alarmante. El argumento de los EA para preocuparse por las IA realmente poderosas es que las máquinas podrían optimizarse para un único objetivo que resultara fatalmente erróneo. Todo el mundo debería preocuparse, además, por lo que sucedería si un pequeño grupo de personas cayera en la misma trampa.
Fuente: Infobae