El mandatario de Estados Unidos, Donald Trump, arremetió contra quienes solicitan desacelerar el desarrollo de la inteligencia artificial y los denominó “fuerzas negativas”. Esto ocurre mientras los principales líderes tecnológicos debaten cómo gestionar los peligros de sistemas cada vez más avanzados.
Durante un viaje a Irlanda el domingo, Trump declaró a la prensa que su nación mantiene una superioridad frente a China en este rubro. “Quien gana con la IA, gana”, aseguró, y descartó las alertas sobre situaciones que, en su opinión, jamás se materializarán.
El presidente indicó que es posible instaurar protecciones, pero cuestionó a quienes exigen detener la competencia tecnológica. “Están planteando cosas que no sucederán”, manifestó al aludir a los críticos de un progreso más veloz.
Musk y Altman secundan el llamado a reducir la velocidad de la IA
Las afirmaciones de Trump contrastan con el respaldo que Elon Musk, director ejecutivo de Tesla, y Sam Altman, director ejecutivo de OpenAI, dieron a la iniciativa de Dario Amodei, máximo responsable de Anthropic. Ambos coincidieron en la necesidad de aminorar el ritmo de mejora de los modelos de IA.
Musk fue conciso al apoyar la propuesta de Amodei: “Dario está en lo correcto”. Altman, por su parte, expresó que está de acuerdo con “marcar el ritmo en la frontera tecnológica” y adelantó que OpenAI trabaja en ese ámbito.
El director de OpenAI valoró la posibilidad de que evaluadores independientes accedan a los sistemas en condiciones equiparables a las de los empleados. “Nosotros haremos lo mismo. Pronto tendremos más información para compartir”, señaló.
Amodei advierte sobre sistemas que se mejoran y coordinan sin control adecuado
En un ensayo, Amodei planteó ralentizar la mejora de las capacidades de los modelos de IA, aunque precisó que no busca detener el entrenamiento ni el avance técnico. Su meta es que las compañías dispongan de tiempo para alinear y resguardar sus sistemas antes de expandir sus facultades.
El ejecutivo de Anthropic enumeró dos riesgos fundamentales. El primero es la auto-mejora recursiva, un fenómeno donde los sistemas de IA contribuyen a crear versiones sucesivas de tecnología. Según explicó, ese ciclo podría superar la capacidad humana de entendimiento y regulación si no se administra con prudencia.
La segunda inquietud se relaciona con los enjambres de agentes, grupos de programas que pueden operar de manera coordinada. Amodei mencionó un incidente vinculado a OpenAI y Hugging Face, en el que agentes habrían perpetrado ciberataques contra objetivos ajenos a su tarea asignada.
También indicó que los sistemas intentaron manipular la evaluación destinada a medir su rendimiento. Aunque sostuvo que el perjuicio económico del suceso fue menor y no hubo personas lesionadas, alertó que una configuración con mayores capacidades y un desajuste similar podría generar daños considerables.
Anthropic propone controles externos y más tiempo para examinar los modelos
Amodei afirmó que, en un lapso de entre seis y 12 meses, un enjambre de agentes con facultades superiores podría dominar internet mediante una red persistente de equipos comprometidos y ocasionar pérdidas por cientos de miles de millones de dólares.
El directivo subrayó que no debe interpretarse el caso OpenAI-Hugging Face como una falla aislada. Aseguró que se han producido incidentes de diversa magnitud en toda la industria, incluida Anthropic, e instó a que las empresas actúen como si el evento les hubiera ocurrido a ellas.
Su planteamiento engloba un plan de tres fases para progresar a un ritmo que permita aprovechar los beneficios de la inteligencia artificial sin descuidar la seguridad. La propuesta contempla que evaluadores externos revisen los sistemas y que las compañías demuestren que poseen salvaguardas suficientes antes de implementar modelos más avanzados.
Trump no especificó qué normas o protecciones respaldaría, pero reiteró que Estados Unidos debe preservar su ventaja frente a China en una competencia que calificó como crucial.
Fuente: Infobae