La renuncia de Jacob Coxon a Anthropic y su advertencia en X sobre los riesgos de desarrollar una inteligencia artificial capaz de mejorarse a sí misma han provocado una ola de reacciones en la industria tecnológica. Varios expertos comparan el momento actual con febrero de 2020, cuando la pandemia de COVID-19 apenas comenzaba a expandirse.
La analogía subraya la rapidez con que una amenaza puede transformar el mundo: al inicio, los cambios parecen graduales; luego, se aceleran de forma abrupta. La pregunta que surge es si la sociedad podrá responder a tiempo ante los peligros de sistemas de IA cada vez más avanzados.
La eventual llegada de una IA superinteligente plantea desafíos que van más allá del ámbito tecnológico. Involucra intereses económicos de billones de dólares, rivalidad entre empresas, competencia geopolítica y posibles impactos en el empleo. También podría exigir regulaciones que hasta hace poco parecían inviables.
Geoffrey Irving, exinvestigador sénior de alineación en OpenAI y DeepMind y ex científico jefe del Instituto de Seguridad de IA del Reino Unido, considera que las empresas deberían detener el entrenamiento de nuevos modelos, incluso sin regulaciones ni tratados internacionales que lo exijan. Según reportes, Irving estima en 50% la probabilidad de extinción humana en la próxima década debido a la IA. Entre los escenarios que preocupan a quienes advierten sobre estos riesgos está el uso de estos sistemas para crear nuevos patógenos. La posibilidad de que una IA ayude a desarrollar un agente infeccioso capaz de provocar una pandemia global más grave que el COVID-19 es uno de los ejemplos que mencionan.
Las alertas y reacciones que desató la advertencia de Jacob Coxon
La secuencia de alertas y reacciones tras la advertencia de Jacob Coxon es la siguiente:
- 8 de septiembre: Jacob Coxon anuncia su renuncia y lanza la advertencia.
El investigador británico comunicó en X que había renunciado a Anthropic tras tres años de trabajo en investigación de preentrenamiento en OpenAI y Anthropic. Sostuvo que ambas empresas avanzaban hacia una superinteligencia capaz de mejorarse a sí misma sin actuar de manera responsable.
- 8 de septiembre: Evan Hubinger respalda la alerta.
Evan Hubinger, responsable de un área de Anthropic dedicada a que los sistemas de IA actúen de acuerdo con las intenciones de sus creadores, apoyó públicamente a Coxon:
Jacob tiene razón: realmente creemos que la IA podría matar a todos los seres humanos. Personalmente, considero que hay una probabilidad superior al 10% de que ocurra en la próxima década.
- Durante las 36 horas siguientes: el mensaje alcanza una audiencia masiva.
Las publicaciones de Coxon acumularon 153 millones de visualizaciones. La advertencia llevó la discusión sobre los riesgos de la inteligencia artificial desde los ámbitos especializados hacia las redes sociales, los medios y la política estadounidense.
- 12 de septiembre: Dario Amodei propone ralentizar el desarrollo.
El cofundador y director ejecutivo de Anthropic publicó un ensayo de 3.800 palabras en el que planteó que los riesgos crecientes justificaban desacelerar el avance de la inteligencia artificial. Amodei alertó que, en un plazo de entre seis y 12 meses, sistemas mal alineados podrían ser capaces de tomar el control de todo internet.
- Después del ensayo: Elon Musk y Sam Altman coinciden con Amodei.
Elon Musk y Sam Altman, director ejecutivo de OpenAI, coincidieron en que era necesario reducir el ritmo de desarrollo. Altman anunció que OpenAI no saldría a bolsa este año por preocupaciones de seguridad.
- 14 de septiembre: Donald Trump rechaza una desaceleración.
El presidente de Estados Unidos afirmó en Truth Social que no consideraba necesarias nuevas salvaguardas para la inteligencia artificial. Sostuvo que el principal riesgo era que China lograra una ventaja tecnológica sobre Estados Unidos. Trump escribió:
El único control o las únicas salvaguardas que necesita la IA son un presidente fuerte e inteligente, y Estados Unidos tiene eso de sobra.
- La posición de Jensen Huang.
El director ejecutivo de Nvidia afirmó que la inteligencia artificial general —el nivel en el que la IA iguala o supera la mayoría de las capacidades humanas— ya había llegado.
Qué dijo Dario Amodei sobre una desaceleración de la IA
El 12 de septiembre, Dario Amodei publicó un ensayo de 3.800 palabras en el que planteó que los riesgos crecientes justificaban desacelerar el desarrollo.
Amodei no propuso detener de inmediato el entrenamiento de nuevos modelos, pero sugirió que las empresas de países democráticos podrían aceptar una reducción voluntaria del ritmo de desarrollo si contaban con auditorías independientes y estándares compartidos de seguridad.
Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos.
Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves.
Fuente: Infobae