Los directivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, se presentaron ante el Consejo de Seguridad de la ONU para exponer tanto las promesas como los peligros de la inteligencia artificial. Ambos pidieron frenar el desarrollo de esta tecnología para evitar que alguien concentre el poder total de los modelos y así controlar los riesgos potenciales.
“La IA puede dar lugar a una nueva era del Renacimiento para la creatividad y el descubrimiento, o bien a una nueva Revolución Industrial marcada por la agitación y el caos. El Renacimiento fue una época en la que nuevas herramientas, ideas e instituciones ampliaron los límites de lo que las personas creían posible. La IA puede desempeñar ese mismo papel en nuestra época”
Así lo expresó Sam Altman, quien insistió en que el desarrollo de la IA debe centrarse en las personas. Para él, la tecnología no debe convertir a la sociedad en autómatas, sino que los seres humanos deben seguir tomando las decisiones.
“La historia continua del progreso humano no trata sobre herramientas que reemplazan la capacidad de acción humana, sino sobre cómo las herramientas adecuadas potencian las capacidades de las personas; y creo que esto llegará mucho más lejos de lo que hoy consideramos posible”
Altman también advirtió contra el catastrofismo, al que calificó como una “trampa”. Señaló que “dejarse arrastrar por los extremos no nos ayudará a resolver con éxito los desafíos que tenemos por delante”.
Por su parte, Dario Amodei clasificó los riesgos en dos grandes categorías: el uso indebido de los modelos —como terrorismo o creación de armas biológicas— y la pérdida de control sobre la propia inteligencia artificial. Afirmó que “estas cuestiones tienen un alcance global y conciernen a toda la humanidad. Son lo suficientemente graves como para considerar que constituyen temas importantes para este Consejo”.
Amodei abogó por un desarrollo consciente de la IA, que permita navegar entre los riesgos y aprovechar sus beneficios, pero “a un ritmo que garantice que la seguridad evoluciona a la par de las capacidades tecnológicas para todos los actores del sector”.
El CEO de Anthropic instó a las empresas, gobiernos y al propio Consejo a comprometerse en tres niveles clave:
- Integrar evaluadores externos que supervisen los avances.
- Establecer estándares dentro de la industria para la seguridad.
- Fijar normas internacionales aplicables a todos los países.
“Considero que este es el asunto de seguridad global más importante al que se enfrenta el mundo hoy en día. Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar la oportunidad y la amenaza globales que se nos presentan simultáneamente”
El secretario general de la ONU, António Guterres, también intervino para señalar que “el peligro no reside en la nueva tecnología. El peligro reside en la tecnología sin rendición de cuentas. Las decisiones de vida o muerte jamás deben confiarse a las máquinas. Los robots asesinos no deben tener cabida en nuestro futuro”.
Posturas de China y Estados Unidos
Las dos potencias económicas más importantes mostraron posturas opuestas. Michael Kratsios, asistente presidencial de la Casa Blanca, declaró que el rápido avance de la IA “no es motivo para detener su desarrollo ulterior ni para restringirla mediante nuevas estructuras de gobernanza mundial”. En línea con la administración de Donald Trump, Kratsios afirmó que Estados Unidos “rechaza totalmente cualquier intento de establecer un esquema globalista de control de la superinteligencia”.
En contraste, Fu Cong, representante permanente de China, pidió a las grandes empresas asumir su responsabilidad y a la comunidad internacional reforzar la cooperación. Subrayó que “la IA es un patrimonio compartido de toda la humanidad y no debe convertirse en un juego de países y personas ricos”.
Fuente: Infobae