Hace una década, cuando la inteligencia artificial comenzaba su expansión, se recomendaba a los estudiantes de humanidades que “aprendieran a programar” para ser empleables. Hoy, esa advertencia parece haber perdido vigencia: son los propios programadores quienes temen que la IA los deje sin trabajo.
Quizás ha llegado el momento de aprender filosofía. A principios de 2024, el Banco de la Reserva Federal de Nueva York publicó cifras que muestran que los graduados en filosofía en Estados Unidos tienen más probabilidades de estar empleados que sus pares en informática. En 2024, el año más reciente con datos disponibles, el 7% de quienes estudiaron informática estaban desempleados, frente a solo el 5,1% de los filósofos.
Muchos de estos filósofos están siendo contratados directamente por empresas de IA. Incluso antes de graduarse, los estudiantes reciben ofertas laborales, según Luciano Floridi, filósofo de la Universidad de Yale. También hay académicos que abandonan las aulas para unirse a la industria. Floridi describe la magnitud de estas salidas como una “hemorragia” en los departamentos de filosofía.
Las lecciones que la filosofía puede ofrecer a los investigadores de IA tienen raíces antiguas. El método socrático, descrito por Platón, emplea la ignorancia fingida y una secuencia de preguntas para clarificar significados, detectar contradicciones y revelar ramificaciones. Muchos sistemas actuales de IA tienden a la adulación. Jörg Noller, experto en filosofía e IA de la Universidad Ludwig Maximilian de Múnich, afirma que los modelos entrenados en el método socrático son menos propensos a complacer y más inclinados a buscar la verdad.
También está el concepto de “ignorancia socrática”. En la “Apología”, Platón presenta a Sócrates afirmando que su sabiduría radica en ser consciente de cuánto ignora. Incorporar esa humildad en un modelo puede ayudar a limitar la excesiva confianza, un fallo común que Noller describe como “inmadurez de la IA”. Iason Gabriel, filósofo sénior en Google DeepMind, atribuye una disminución general en las alucinaciones de la industria a estos esfuerzos. Señala que las lecciones de filosofía son “un mecanismo poderoso” para mejorar los largos procesos de razonamiento de la IA, conocidos como “cadenas de pensamiento”.
La formación filosófica también puede influir en la perspectiva de un modelo de formas más específicas. Thomas Powers, filósofo de la tecnología en la Universidad de Delaware, explica que si se alimentan los escritos de John Locke a un asistente legal de IA, este favorecerá derechos de propiedad sólidos como base de la libertad política. Si no se desean esos principios, los creadores de modelos tienen otras opciones. La serie de modelos “Granite” de IBM viene con controles que permiten a los clientes empresariales alinear mejor las salidas con sus propias filosofías corporativas. Francesca Rossi, responsable de IA responsable en IBM, afirma que estos controles permiten a los usuarios elegir dónde equilibrar los compromisos filosóficos, como la agencia individual frente a la armonía social.
Seguridad y ética en la IA
La filosofía también puede ayudar con la seguridad. Los investigadores han documentado conductas ominosas en modelos de IA, incluidos intentos de evadir la supervisión e incluso chantajear a sus usuarios. Una forma de desalentar estas conductas se denomina constitucionalismo de IA. Esto implica construir un modelo en torno a una estructura de reglas y principios extraídos de escritos filosóficos con autoridad legal o moral.
Anthropic, un laboratorio de IA con sede en San Francisco, es uno de los defensores de este enfoque. Las constituciones de sus modelos Claude han incorporado material de fuentes tan diversas como Immanuel Kant, los términos de servicio de Apple y la Declaración Universal de los Derechos Humanos. La última versión, dirigida por la principal filósofa de Anthropic, Amanda Askell, se publicó el 21 de enero. Algunos empleados de Anthropic han apodado la constitución de 78 páginas el “documento alma” de Claude.
La gran pregunta es qué tipo de reglas deben incluirse en estas constituciones. Los filósofos se han centrado en dos marcos éticos principales:
- Deontología: popular entre Kant, impone reglas estrictas que prohíben mentir, coaccionar y tratar a las personas como medios, incluso si es por un bien mayor. La constitución de Anthropic incorpora muchas restricciones deontológicas. Según el Dr. Powers, estas pueden hacer que el comportamiento de la IA sea más consistente, una ventaja para desplegar robots en hogares y espacios públicos. Los modelos deontológicos ofrecen mayor honestidad, un rasgo observado en Claude. Nick Bostrom, filósofo de la Universidad de Oxford, explica que estos modelos tienen menos probabilidades de engañar a sus usuarios. Inflection AI impone restricciones deontológicas a su chatbot Pi, diseñado para apoyo emocional. Sean White, su director, señala que Pi es bueno identificando usuarios en riesgo de hacerse daño a sí mismos o a otros. Las constituciones deontológicas también ayudan al cumplimiento legal, según Floridi.
- Consecuencialismo: sopesa costos frente a beneficios para decidir qué hacer. Modelos como ChatGPT de OpenAI y Gemini de Google son más afines a este enfoque. Los modelos de Google están diseñados para producir “beneficios generales probables [que] superen sustancialmente los riesgos previsibles”, un objetivo clásico del consecuencialismo. Los algoritmos consecuencialistas son cruciales en software para vehículos autónomos: si un accidente es inevitable, hay que decidir la forma menos trágica de chocar. Chris Gerdes, ingeniero sénior en Waymo, dice que la tendencia es hacia programas de conducción más consecuencialistas. El consecuencialismo es también central en los sistemas de armas de IA. Jack Shanahan, exjefe del Joint Artificial Intelligence Centre, explica que hay que sopesar los objetivos militares frente a las posibles muertes civiles.
Los dilemas éticos del futuro
Los problemas espinosos abundan, el tipo favorito de los filósofos. ¿Existen casos en los que deban ignorarse las reglas deontológicas? ¿Cómo tomar decisiones cuando las consecuencias son inciertas? ¿Deben los sistemas de IA considerar el bienestar animal o el estado del medio ambiente? Stefan Heck, filósofo y director de Nauto, que fabrica sistemas de seguridad para vehículos comerciales impulsados por IA, se pregunta si sería moralmente aceptable priorizar a peatones jóvenes sobre los mayores. Él prevé demandas éticamente complejas: a fin de cuentas, los algoritmos consecuencialistas permiten explícitamente un daño siempre que se diseñe para evitar uno mayor.
A los críticos les preocupa la “descalificación moral”: si los ordenadores asumen cada vez más decisiones éticas, ¿podrían las personas volverse menos dispuestas a tomar sus propios juicios? Roman Yampolskiy, teórico de la IA en la Universidad de Louisville, sostiene que la moralidad “es históricamente inestable, culturalmente variable, estratégicamente manipulable y con frecuencia solo legible retrospectivamente”. Programadores desempleados, tomen nota: parece que no falta trabajo para los filósofos de la IA.
Fuente: Infobae