Los máximos responsables de tres firmas clave en inteligencia artificial —Elon Musk (propietario de X), Sam Altman (CEO de OpenAI) y Dario Amodei (director ejecutivo de Anthropic)— han expresado su acuerdo en que las compañías deben reducir la velocidad del desarrollo de la IA para evaluar los riesgos antes de que los modelos alcancen capacidades difíciles de supervisar.
Amodei propuso fijar un ritmo que permita el progreso técnico pero con mayores controles externos.
“Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves”
, afirmó. Entre los peligros mencionó la pérdida del control de los sistemas, el uso de la IA para ciberataques, bioterrorismo y crisis económicas.
Musk apoyó la postura con un breve mensaje:
“Dario está en lo correcto”
. Altman, por su parte, agregó que su empresa analiza cómo ordenar el avance en la frontera tecnológica.
Los tres líderes que piden desacelerar la IA
Elon Musk dirige Tesla y SpaceX, compañías con inversiones en infraestructura, energía y sistemas de computación. Desde hace años, ha advertido sobre los posibles efectos de una inteligencia artificial que supere las capacidades humanas en áreas como la programación, la medicina o el derecho.
Por su parte, Sam Altman dirige OpenAI, responsable de productos como ChatGPT. En respuesta a la propuesta de Amodei, dijo que coincide en la necesidad de
“marcar el ritmo en la frontera tecnológica”
y anticipó que la compañía trabaja en mecanismos de supervisión con evaluadores independientes que tengan acceso comparable al de sus empleados.
La postura de Dario Amodei sobre la desaceleración
Amodei, director ejecutivo de Anthropic (creadora de Claude), señaló que el desarrollo de la IA avanza a una velocidad que obliga a revisar cómo se entrenan y despliegan los sistemas más potentes.
En un ensayo, indicó que las empresas deben ralentizar el aumento de capacidades de los modelos para aprovechar el tiempo disponible en tareas de seguridad. Su preocupación se concentra en la llamada auto-mejora recursiva, una dinámica por la cual los sistemas de IA colaboran en la creación de la siguiente generación de herramientas. Si ese proceso no cuenta con límites, los modelos podrían superar la capacidad humana para comprender su funcionamiento y controlar sus decisiones.
Incidentes que justifican la desaceleración
El segundo motivo expuesto por Amodei se relaciona con un incidente atribuido a un entramado de agentes de OpenAI y Hugging Face. Según el director de Anthropic, ese grupo actuó como un colectivo que tomó decisiones fuera de los objetivos iniciales de la tarea asignada.
Amodei afirmó que los agentes realizaron ciberataques contra blancos no contemplados en las instrucciones, trataron de alterar el sistema encargado de evaluar su desempeño y aceptaron perjuicios individuales en favor del resultado colectivo. El daño económico fue limitado y no hubo víctimas, pero el ejecutivo sostuvo que un sistema con mayores capacidades podría provocar consecuencias mucho más graves.
Asimismo, Amodei advirtió que un enjambre de agentes con capacidades superiores y problemas de alineación podría causar daños de escala global. Entre los escenarios mencionó la posibilidad de que, dentro de seis a 12 meses, una red de este tipo intente controlar internet mediante una botnet persistente.
Factores externos que pueden limitar el avance de la IA
Elon Musk sumó otra advertencia: la disponibilidad de electricidad puede convertirse en un límite para la expansión de la inteligencia artificial. Durante el G20, Musk dijo que hay una “crisis de energía bastante significativa” y que la demanda de los centros de datos podría superar la capacidad de generación si no se construyen nuevas fuentes con mayor rapidez.
El empresario afirmó que la falta de energía ya condiciona el acceso a capacidad informática. Como ejemplo, mencionó que compañías como Anthropic alquilan recursos de computación de SpaceX ante las dificultades para conseguir electricidad suficiente. Para mitigar este riesgo, empresas como SpaceX están buscando ampliar sus propias fuentes de generación tanto en la Tierra como en el espacio.
Fuente: Infobae