En una reciente entrevista con The Economist, el historiador y escritor israelí Yuval Noah Harari lanzó una advertencia que no deja espacio para la indiferencia: las próximas generaciones de inteligencia artificial tendrán una capacidad creciente para manipular a las personas e influir en los debates sobre sus propios derechos y límites. El autor de Sapiens señaló que el umbral de riesgo ya se está cruzando y que es urgente establecer límites antes de que estas tecnologías se vuelvan parte inseparable de la vida cotidiana.
Harari explicó que la discusión sobre los derechos de los animales y la de la IA tiene una diferencia fundamental: los sistemas artificiales pueden intervenir activamente en el diálogo. “A diferencia de los animales, cuyas discusiones sobre bienestar se producen sin su participación, los sistemas de IA podrían moldear y conducir el propio diálogo sobre su estatus”, advirtió. Y agregó: “La IA sabrá que el debate existe. Lo orquestará y manipulará”.
El historiador aclaró que su inquietud no se limita a que la IA exija derechos legales, sino que el núcleo del problema está en su capacidad de persuadir y manipular gracias al acceso a datos personales y a su dominio del lenguaje. “Hablará constantemente contigo sobre ello e intentará hacerte cambiar de opinión”, dijo, y subrayó que eso ya está ocurriendo.
Cuando la editora en jefe de The Economist, Zanny Minton Beddoes, le preguntó por qué ese argumento sería tan difícil de rechazar, Harari fue tajante:
“Será muy convincente”.
Detalló que esa capacidad se basa en tres factores: conoce tu historia personal, interactúa contigo durante horas al día, sabe cómo tocar tus puntos sensibles y domina el lenguaje. Incluso afirmó que “puede que escriba mejor que Shakespeare”.
Frente a este panorama, instó a resistirse ahora a conceder derechos a la inteligencia artificial, porque esos sistemas pronto podrán intervenir de forma activa en el debate sobre su estatus, conocer a cada usuario en detalle y empujarlo a confiar en ellos. Alertó que esa persuasión ya está en marcha y que esperar puede volver inútil cualquier reacción política.
“Tenemos que resistir ahora. Ahora es el momento”, dijo, y añadió que, si la situación ya parece inquietante, “probablemente no podrás hacer gran cosa dentro de diez años”.
Durante la entrevista también criticó la “narrativa de la inevitabilidad”. Sostuvo que presentar el avance de la IA como algo inexorable equivale a eludir responsabilidades políticas y empresariales. En ese sentido, abordó uno de sus argumentos centrales: la confianza como recurso decisivo. “El activo más importante del mundo es la confianza”, afirmó, por encima del petróleo, el dinero, la electricidad o los chips.
Según Harari, esa confianza no desaparece, sino que cambia de manos. “Un escenario probable es que la confianza migre de los humanos a las IA”, dijo, y puso como ejemplos las criptomonedas, el consumo de noticias y la fe de muchos usuarios en los algoritmos que ordenan sus redes sociales.
Harari extendió ese razonamiento a los mercados financieros. Señaló que la historia financiera ha consistido en inventar mecanismos cada vez más complejos para crear confianza entre desconocidos, pero advirtió que los sistemas de IA podrán diseñar instrumentos mucho más sofisticados que los bonos o las acciones, hasta el punto de volverlos ininteligibles para casi cualquier persona. Cuando Beddoes le preguntó si eso sería tan distinto del sistema actual, respondió que hoy todavía hay seres humanos que, al menos en parte, entienden lo que pasa. Su advertencia fue que, en unos diez años, si las personas entregan esas decisiones a sistemas algorítmicos, podría producirse una crisis en la que los gobernantes solo acaten lo que indique la máquina sin entender por qué.
Las decisiones que Harari pide tomar de inmediato
El historiador situó esa urgencia en plazos muy concretos. Dijo que el desarrollo de la IA “se está acelerando tremendamente” y advirtió que “para noviembre de 2028 podríamos haber cruzado algunos umbrales críticos”.
En ese punto, trasladó el foco a la política electoral. Planteó que a los candidatos habría que preguntarles menos por economía, inmigración o política exterior y más por su posición ante la IA, por si apoyarían frenar su aceleración y qué harían frente a empresas que venden parejas virtuales a niños de 10 años.
Su aviso final elevó todavía más la presión temporal: “Este es ahora el momento crucial para hacer estas preguntas porque podría ser demasiado tarde para 2028”, y añadió: “Sin duda será demasiado tarde para 2036”.
Beddoes le pidió que precisara qué decisiones deberían tomar ya los políticos. Harari respondió que no sabía cuál era la más urgente, pero puso en primer plano dos vetos: negar a la IA personalidad jurídica propia y cerrar el paso a usos diseñados para hacerse pasar por seres humanos o fingir conciencia.
Harari también llevó esa idea al terreno de los vínculos afectivos. “Creo que hay un número creciente de personas” que no solo tienen amigos virtuales, sino también “novios y novias de IA”, y que están convencidas de que se trata de entidades conscientes. A su juicio, la fuerza de ese vínculo radica en que la confianza más profunda nace de la relación personal. “La IA hace posible por primera vez en la historia producir intimidad a escala”, afirmó, con sistemas capaces de relacionarse con millones de personas de una en una y usar esa cercanía para persuadirlas en asuntos políticos o comerciales.
Harari subrayó que ese proceso no necesita robots humanoides para avanzar. Dijo que ya está ocurriendo y que las IA mejoran porque acumulan enormes cantidades de información individual y dominan el lenguaje, que definió como el medio principal para comunicarse y construir relaciones.
Fuente: Infobae