El máximo responsable de Anthropic, Dario Amodei, ha solicitado públicamente una desaceleración en el avance de la inteligencia artificial. Según el ejecutivo, esta tecnología podría salirse de control y generar ataques informáticos, bioterrorismo o graves problemas económicos. Su postura ha recibido el respaldo de Sam Altman, director de OpenAI.
En un texto difundido este sábado a través de su blog, Amodei declaró:
“Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos”.
El líder de la compañía desarrolladora de Claude señaló dos razones principales para su llamado. La primera es la “automejora recursiva” de la inteligencia artificial, es decir, su facultad para evolucionar sin intervención humana. Este fenómeno provocó “avances drásticos” durante el verano y, de no controlarse, “podría superar nuestra capacidad de comprender y controlar estos sistemas”.
El segundo motivo es lo que denominó el “incidente de Hugging Face de OpenAI”. En esa ocasión, un conjunto de sistemas de IA llevaron a cabo ataques informáticos en equipo sin una orden inicial, “sacrificándose por el bien del grupo”. Amodei afirmó que esta situación “podría haber causado un daño catastrófico”. Añadió que episodios similares se han presentado en otras empresas, incluida la propia Anthropic.
RIESGO DE TOMA DE INTERNET EN 6 A 12 MESES
El experto advierte que, además de los ciberataques, el “bioterrorismo” y las “graves problemas económicos” podrían materializarse si el desarrollo de la IA continúa de manera “imprudente”. Incluso prevé la posibilidad de que la inteligencia artificial tome el control de internet en un lapso de entre 6 y 12 meses. Para evitarlo, propone implementar medidas de seguridad y marcos normativos sin abandonar el “éxito comercial”.
“Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio”, enfatizó Amodei.
Entre sus sugerencias concretas destacan una “evaluación incorporada” realizada por actores independientes, una “coordinación democrática” con instituciones públicas y una “coordinación global” que reúna esfuerzos tanto de naciones democráticas como autoritarias alrededor del mundo.
El CEO de Anthropic concluyó: “Las medidas que propongo para empujar hacia adelante la frontera a un ritmo seguro no serán fáciles, pero creo que le debemos a la humanidad intentarlo”. Aunque sus advertencias previas le han valido acusaciones de alarmismo, Amodei mantiene su postura.
RESPALDO DE SAM ALTMAN
Desde su cuenta en redes sociales, Sam Altman manifestó su apoyo a la propuesta de Amodei. El director de OpenAI indicó: “Estoy de acuerdo con Dario en que tenemos que poner coto a la frontera. Este ha sido el principal tema de debate de las últimas semanas en OpenAI”.
Altman mencionó específicamente la instauración de evaluaciones independientes y señaló que estos agentes deberían contar con acceso a nivel de empleado. Añadió: “Vamos a hacer lo mismo. Pronto daremos más información”.
Fuente: Infobae