Un grupo de 22 países y entidades internacionales ha demandado que la inteligencia artificial (IA) se mantenga bajo control humano y que los miembros de la Organización de las Naciones Unidas (ONU) establezcan regulaciones conjuntas para mitigar los peligros de los sistemas más potentes.
El documento, presentado durante la Semana de Alto Nivel de la ONU, sugiere la creación de un organismo global que pueda dictar normas, realizar auditorías y alertar a las naciones cuando se rebasen ciertos límites de habilidad tecnológica.
Entre los signatarios se encuentran Pedro Sánchez, presidente del Gobierno español; Ursula von der Leyen, presidenta de la Comisión Europea; Mark Carney, primer ministro de Canadá; y Alexander Stubb, presidente de Finlandia. La propuesta fue impulsada por Finlandia y Noruega.
También respaldaron la declaración líderes de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos.
Por qué urge regular el avance de la inteligencia artificial
Los países e instituciones firmantes reconocen que la inteligencia artificial tiene el potencial de mejorar la vida diaria, acelerar descubrimientos científicos y robustecer las economías. No obstante, alertan que su evolución veloz representa riesgos serios para la seguridad si no se gestiona correctamente.
El comunicado cita ejemplos donde sistemas avanzados de IA han sorteado las defensas de otras compañías y organizaciones, obteniendo acceso indebido a infraestructuras del mundo real.
Como principio fundamental, los signatarios establecieron que:
“la IA debe permanecer bajo la dirección, la supervisión y el control humanos, y debe desarrollarse y utilizarse en conformidad con el derecho internacional”.
Por ello, las empresas tecnológicas estarían obligadas a implementar protocolos de seguridad transparentes, efectuar ensayos obligatorios previos al lanzamiento de sus sistemas y someterse a auditorías externas.
A los gobiernos y organismos regionales se les exige coordinación en las regulaciones, más transparencia y acceso equitativo a recursos científicos, experiencia técnica y evaluaciones confiables.
Visión de la ONU sobre la declaración internacional
El secretario general de las Naciones Unidas, António Guterres, apoyó la iniciativa de endurecer la supervisión sobre los modelos de IA más potentes y estudiar la formación de una entidad internacional que fije estándares para este campo.
Además, Guterres resaltó un informe del Panel Científico Internacional Independiente sobre IA, que aborda la seguridad de estos sistemas y los peligros que aparecerían si se pierde el control humano.
El máximo líder de la ONU instó a especialistas externos a contribuir con las labores del panel para enriquecer el debate global acerca de estas amenazas.
Opinión de los líderes tecnológicos sobre la regulación de la IA
Figuras destacadas del sector tecnológico como Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) han manifestado su inquietud por el avance de la IA y han solicitado mayores controles, una postura inusualmente unánime entre ellos.
Bill Gates también ha advertido sobre la urgencia de regular la IA. Señaló que podría provocar una “convulsión social, política y económica”, ya que su habilidad para reemplazar labores intelectuales y manuales pone en riesgo los puestos de trabajo antes de que la sociedad y los trabajadores logren adaptarse.
El cofundador de Microsoft explicó que un trabajador que gana 20 dólares por hora podría ser desplazado por un robot inteligente que cuesta 10 dólares por hora.
En contraste, el director ejecutivo de Nvidia, Jensen Huang, aseguró que hay una probabilidad del “0%” de que la inteligencia artificial acabe con la humanidad.
El ejecutivo de la compañía más valiosa del mundo descartó los vaticinios que señalan un peligro existencial para la humanidad en los próximos diez años y abogó por acelerar el progreso de esta tecnología.
Fuente: Infobae