El máximo responsable de la compañía Anthropic, Dario Amodei, ha identificado a China como el mayor escollo para desacelerar el avance de la inteligencia artificial. Su advertencia se centra en el peligro de que las firmas estadounidenses disminuyan la velocidad de desarrollo de sus modelos mientras naciones rivales continúan sin aplicar barreras similares.
Este planteamiento surge en un contexto de creciente presión sobre el sector tecnológico. Empresas como Anthropic y OpenAI enfrentan demandas de regulación, críticas por el consumo energético de sus centros de datos y alertas internas sobre los potenciales peligros de sistemas cada vez más avanzados. El debate coincide además con el auge de modelos desarrollados por compañías emergentes chinas.
Amodei plantea un pacto para contener la competencia tecnológica
Durante una conversación con el programa Sunday Morning de CBS News, Amodei señaló que la iniciativa más significativa a largo plazo sería que los actores principales colaboren para fijar un límite a la velocidad de progreso de la inteligencia artificial. Sin embargo, reconoció que ese acuerdo enfrenta trabas políticas, comerciales y militares.
El directivo de Anthropic indicó que los incentivos para obtener ventaja tecnológica son considerables, especialmente por las aplicaciones militares de la IA. Por ello, calificó como el “dilema más difícil” la posibilidad de que China u otros países rechacen reducir el ritmo de sus sistemas mientras las compañías occidentales sí lo hacen.
Amodei publicó un ensayo donde propone ralentizar la mejora de los modelos más avanzados sin sacrificar la posición comercial ni el liderazgo de Estados Unidos. Su texto surgió tras advertencias de investigadores que consideran insuficientes las salvaguardas actuales frente a tecnologías con capacidad de causar daños graves.
Jacob Coxon revela el temor dentro de la industria
La inquietud adquirió otra magnitud con la renuncia de Jacob Coxon, investigador que laboró en Anthropic y OpenAI. Después de dejar su puesto, afirmó que parte del personal del sector experimenta “miedo genuino” por la velocidad de los avances y por las consecuencias de un desarrollo sin controles adecuados.
En una entrevista con la BBC, Coxon aseguró que existe una probabilidad de daños extremos si las empresas no disminuyen el ritmo actual. El exinvestigador mencionó a antiguos colegas que evaluaban decisiones personales ante un escenario de inestabilidad tecnológica y señaló que algunos consideraban comprar terrenos como método de precaución.
Coxon habló de la posibilidad de que un enjambre de bots funcione como una supercomputadora y tome el control de internet. Según su estimación, ese panorama podría materializarse en un plazo de entre seis meses y un año, aunque también indicó que investigadores del sector mantienen expectativas sobre usos positivos de la IA, como el tratamiento de enfermedades.
Anthropic propone supervisión externa y cooperación global
El plan de Amodei se estructura en tres puntos. El primero contempla que evaluadores independientes tengan un nivel de acceso equivalente al de los empleados de las empresas para fiscalizar las prácticas de seguridad e informar sobre incidentes. Anthropic señaló que asumió ese compromiso de forma unilateral.
La segunda medida plantea que las principales compañías de inteligencia artificial de países democráticos acuerden normas comunes de seguridad y protección de semiconductores. El tercer punto pide coordinación entre gobiernos democráticos y autoritarios para restringir aplicaciones biológicas militares y la capacidad de automejora de los sistemas.
Un portavoz de Anthropic respondió a las declaraciones de Coxon y sostuvo que la compañía ha advertido de manera transparente sobre los beneficios y los riesgos sin precedentes ligados a esta tecnología. También afirmó que la empresa desarrolla modelos con medidas de seguridad y publicó un marco para mitigar amenazas.
El presidente chino, Xi Jinping, solicitó un marco global de gobernanza de la inteligencia artificial durante la cumbre de BRICS celebrada en India. También anunció que China contribuirá a establecer una comunidad de código abierto de IA dentro del bloque, integrado actualmente por 11 países.
Este asunto podría tratarse en la reunión prevista entre Xi y el presidente de Estados Unidos, Donald Trump, el 24 de septiembre en la Casa Blanca. El encuentro reunirá a dos gobiernos que compiten por capacidad tecnológica y por influencia sobre las normas que definirán el desarrollo de la inteligencia artificial.
Sam Altman, director ejecutivo de OpenAI, manifestó su respaldo al ensayo de Amodei. Elon Musk y Demis Hassabis también respaldaron la necesidad de supervisión. Para Coxon, cualquier desaceleración deberá incluir a China para evitar que la competencia tecnológica se convierta en una carrera internacional sin límites.
Fuente: Infobae