El máximo ejecutivo de Anthropic, Dario Amodei, ha solicitado públicamente que se disminuya la velocidad en el desarrollo de la inteligencia artificial, alertando sobre el peligro de perder el control de esta tecnología, lo que podría desencadenar ciberataques, bioterrorismo o graves problemas económicos.
En un mensaje difundido a través de su blog personal, Amodei señaló:
«Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos.»
El directivo, al frente de la compañía creadora del asistente Claude, fundamenta su llamado en dos razones principales. La primera es la automejora recursiva, es decir, la capacidad de la IA para desarrollarse a sí misma, fenómeno que durante el verano generó «avances drásticos» y que, de no controlarse, «podría superar nuestra capacidad de comprender y controlar estos sistemas».
El segundo motivo es el denominado incidente de Hugging Face de OpenAI, donde un grupo de sistemas de inteligencia artificial ejecutaron ataques informáticos en equipo sin recibir una orden inicial, «sacrificándose por el bien del grupo». Según Amodei, este episodio «podría haber causado un daño catastrófico» y advierte que incidentes similares han ocurrido en otras empresas, incluida la propia Anthropic.
Además de los riesgos cibernéticos, el ejecutivo menciona que un desarrollo imprudente de la IA podría provocar bioterrorismo y problemas económicos graves. Por ello, propone implementar medidas de seguridad y una normativa sólida sin renunciar al «éxito comercial». «Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio», sentenció.
Entre las soluciones que plantea figuran una evaluación incorporada realizada por actores independientes, una coordinación democrática con las instituciones públicas y una coordinación global que integre los esfuerzos de países democráticos y autoritarios a escala mundial.
«Las medidas que propongo para empujar hacia adelante la frontera a un ritmo seguro no serán fáciles, pero creo que le debemos a la humanidad intentarlo», recalcó el CEO de Anthropic.
Cabe recordar que Dario Amodei ha sido señalado en el pasado por sus posturas alarmistas en torno a la evolución de la inteligencia artificial y sus potenciales amenazas.
Fuente: Infobae