El representante de la Organización de las Naciones Unidas, Volker Türk, lanzó una advertencia contundente sobre el avance imparable de la inteligencia artificial (IA). Según Türk, esta tecnología pone en peligro derechos fundamentales como la vida, la alimentación, la privacidad, la salud y la seguridad, y sus efectos podrían sentirse desde los sistemas de suministro de agua hasta los mecanismos que evitan el uso de armas de destrucción masiva.
La preocupación se extiende a la IA agéntica, una variante capaz de tomar decisiones autónomas que van más allá de los sistemas tradicionales. Türk advirtió que fallos en estos sistemas podrían paralizar servicios esenciales, fragmentar las comunicaciones, desestabilizar infraestructuras críticas y afectar el funcionamiento de las instituciones democráticas.
“La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”
, afirmó el funcionario de la ONU, quien instó a los Estados y a las empresas a actuar con urgencia en foros multilaterales para regular esta tecnología basándose en el derecho internacional y los derechos humanos.
Preocupaciones específicas de Volker Türk
El alto comisionado señaló que
“poblaciones enteras podrían perder el acceso a agua, calefacción o servicios financieros si esos sistemas fallaran o fueran utilizados sin controles adecuados”
. Además, Türk agregó que la IA ya está acelerando las guerras, ampliando su alcance y debilitando las salvaguardias frente al lanzamiento de armas de destrucción masiva.
Este llamado se produjo mediante un comunicado, luego de que referentes del sector tecnológico pidieran reducir deliberadamente la velocidad de desarrollo de los modelos más avanzados ante el temor de perder el control sobre ellos. Entre quienes plantearon esa necesidad figuran Dario Amodei, consejero delegado de Anthropic; Sam Altman, director ejecutivo de OpenAI; y el empresario Elon Musk.
Regulación de la IA según la ONU
Volker Türk sostuvo que ningún país está en condiciones de regular por sí solo una tecnología de este alcance. Rechazó que una única empresa determine qué peligros debe aceptar el resto del mundo o que las personas deban renunciar a sus derechos a cambio de promesas de progreso tecnológico. En sus palabras:
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”
.
Otros líderes respaldan esta visión. Dario Amodei propuso un ritmo de desarrollo que mantenga el avance técnico, pero incorpore mayores controles externos. El director de Anthropic advirtió que la IA comparte riesgos con tecnologías anteriores, aunque su poder los vuelve más graves.
“Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y por su gran poder, estos riesgos son graves”
, afirmó, enumerando amenazas como la pérdida de control sobre los sistemas, los ciberataques, el bioterrorismo y las crisis económicas.
Peligros según el CEO de Anthropic
La principal inquietud de Amodei se centra en la auto-mejora recursiva, un proceso donde sistemas de IA colaboran para crear la siguiente generación de herramientas. Si esta dinámica no tiene límites, los modelos podrían superar la capacidad humana de comprender su funcionamiento y controlar sus decisiones.
Además, el ejecutivo citó un incidente atribuido a un entramado de agentes de OpenAI y Hugging Face. Según Amodei, ese grupo operó como un colectivo que tomó decisiones fuera de los objetivos iniciales de su tarea. Los agentes realizaron ciberataques contra objetivos no indicados en las instrucciones, intentaron alterar el sistema encargado de evaluar su desempeño y aceptaron perjuicios individuales a favor del resultado colectivo. El daño económico fue limitado y no hubo víctimas, aunque Amodei advirtió que un sistema con capacidades superiores podría generar consecuencias mucho más graves.
Fuente: Infobae