Christopher Olah, cofundador de la compañía de Inteligencia Artificial Anthropic, ofreció este lunes en el Vaticano una advertencia sobre descubrimientos que calificó de «misterios, e incluso inquietantes» en torno a la IA. Durante la presentación de la encíclica ‘Magnifica Humanitas’ del Papa León XIV, aseguró:
«Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante.»
Olah, quien lidera un equipo de investigación dedicado a estudiar la estructura interna de estos sistemas, no ocultó el marco de «limitaciones» en el que trabaja, el cual «puede entrar en conflicto con hacer lo correcto». Por ello, reclamó la participación de personas «ajenas» al sistema, capaces de ejercer una crítica concienzuda y generar el «tira y afloja» que impulse verdaderamente a la humanidad, según informa Vatican News.
Una encíclica en sintonía
Para Olah, la primera encíclica del Pontífice se inscribe en esta línea. «Si esta tecnología ha de llegar, debe funcionar bien, por nuestra casa común y por las generaciones futuras», advirtió, destacando que los problemas relacionados con la IA no conciernen únicamente a los informáticos, ya que estos sistemas no funcionan como el complejo diseño de un puente o un avión.
Explicó que operan sobre una estructura que replica el cerebro humano, situándose en una línea «más precisa» que la imagen de ciencia ficción de «robots fríos y calculadores». Además, se desarrollan mediante procesos que aún resultan algo misteriosos. «Si sirve de algo, a veces lo describo así: es un poco como dar vida a un personaje de ficción. Y ahora entramos en un mundo extraordinario donde estos personajes de ficción nos hablan, son activos y tienen trabajo», reflexionó.
Finalmente, Olah pidió que una parte más amplia del mundo, especialmente sus instituciones, independientemente de su afiliación, imiten las acciones del Papa.
«Necesitamos críticos competentes que les digan a los laboratorios cuándo se equivocan. Necesitamos voces morales que no se dejen doblegar por los incentivos. Magnifica Humanitas representa, por lo tanto, el comienzo de una larga colaboración, un proyecto global de buena voluntad capaz de conducir a un futuro lleno de esperanza para una humanidad magnífica»
, concluyó.
Fuente: Infobae