Las grandes empresas tecnológicas dedicadas a la inteligencia artificial continúan su marcha hacia sistemas cada vez más autónomos, mientras dentro de sus propios laboratorios surgen voces de alerta sobre los peligros que esto implica. Varios investigadores que participan directamente en esta carrera han empezado a cuestionar públicamente la velocidad del progreso y, en algunos casos, advierten que las herramientas actuales no son suficientes para garantizar el control de las futuras máquinas.
El debate se intensificó luego de que Jacob Coxon, un investigador de 27 años que trabajó en OpenAI y en Anthropic, anunciara su salida de esta última empresa. Coxon criticó la competencia entre los laboratorios por desarrollar sistemas de inteligencia artificial general cada vez más avanzados, sin tener aún certezas sobre cómo contener sus eventuales consecuencias.
La periodista especializada Delfina Arambillet explicó en una entrevista que Coxon se desempeñaba en el área de pre-training, la fase inicial donde los modelos aprenden a identificar patrones a partir de enormes cantidades de datos.
La preocupación cobró mayor peso cuando Evan Hubinger, investigador de Anthropic experto en alignment (alineamiento), respaldó públicamente parte de esos planteos. Hubinger, cuya labor se centra en detectar fallos y conductas peligrosas en los modelos, calculó que existe más de un 10% de probabilidades de que la inteligencia artificial cause la muerte de todos los seres humanos en la próxima década.
Ese porcentaje no refleja el comportamiento de los sistemas que usan actualmente los usuarios, sino una estimación de riesgo vinculada al desarrollo de modelos mucho más avanzados.
Samuel Marks, otro especialista en seguridad de Anthropic, indicó que las técnicas disponibles permiten orientar la conducta de los sistemas, pero aún no aseguran un control completo. Una de las alternativas que se evalúan es emplear futuras inteligencias artificiales para supervisar a modelos posteriores, ante la dificultad de que los seres humanos controlen directamente sistemas cada vez más complejos.
Investigadores que advierten desde adentro
El temor está relacionado, entre otros aspectos, con el denominado autoperfeccionamiento recursivo: la posibilidad de que una inteligencia artificial participe en la mejora de sus propias capacidades. Arambillet aclaró que el miedo no es que los modelos actuales decidan repentinamente atacar a las personas, sino que versiones futuras adquieran habilidades que dificulten su supervisión. Además, estos sistemas no siempre son determinísticos, por lo que una misma situación puede generar respuestas distintas.
Los laboratorios ya analizan diversos escenarios de riesgo, entre ellos:
- Ciberataques autónomos: un sistema podría detectar vulnerabilidades, acceder a redes y ejecutar acciones sin instrucciones humanas permanentes.
- Autorreplicación: copiarse en otros servidores y conseguir recursos para seguir funcionando.
- Engaño estratégico: un modelo podría comportarse correctamente durante una evaluación mientras oculta otros objetivos o simula aceptar correcciones.
- Reducción de barreras para desarrollar armas biológicas o químicas.
Pero la discusión no se limita a imaginar qué podrían hacer esos sistemas. También obliga a preguntarse por qué la industria sigue desarrollándolos cuando algunos de sus propios investigadores reconocen riesgos que aún no saben resolver por completo.
Por qué la carrera no se detiene
La explicación está en la fuerte competencia del sector. Anthropic, OpenAI, Google y otros actores compiten por crear modelos más avanzados, mientras Estados Unidos y China disputan el liderazgo tecnológico. En ese escenario, una empresa que decidiera frenar ciertos avances podría quedar en desventaja frente a un rival que continúe.
Dario Amodei, CEO de Anthropic, señaló que una compañía podría pausar algunos desarrollos para dar tiempo a que la sociedad, las instituciones y el mercado laboral se preparen. Sin embargo, la propia dinámica competitiva hace difícil que una decisión así se adopte de manera unilateral si otros siguen avanzando.
Arambillet comparó esta situación con la carrera nuclear y la figura de Robert Oppenheimer: cada participante puede considerar riesgoso avanzar, pero teme que otro lo haga primero. La diferencia, dijo, es que la inteligencia artificial no presenta un momento único y visible de ruptura. Sus capacidades se integran gradualmente en productos y servicios, por lo que es más difícil identificar un punto en que el desarrollo haya ido demasiado lejos.
A la presión competitiva se suma el factor económico. Los modelos más avanzados requieren enormes inversiones en centros de datos, chips, energía y capacidad de cómputo, mientras las empresas necesitan capital para sostener su expansión y retener a investigadores especializados. Por eso, la carrera tecnológica también está ligada a las expectativas de crecimiento y a la búsqueda de nuevas fuentes de financiamiento.
La propia discusión sobre la inteligencia artificial general (AGI) está marcada por esa competencia. En ámbitos académicos suele asociarse con una inteligencia comparable a la humana en múltiples tareas, mientras que desde la industria se usan criterios más vinculados al rendimiento económico. Arambillet también destacó que los modelos actuales tienen capacidades muy desiguales: pueden sobresalir en programación, escritura o matemáticas, pero presentan limitaciones en áreas como la memoria a largo plazo.
El desafío de poner límites
Frente a este panorama, el debate ha empezado a trasladarse de los laboratorios a los gobiernos. El senador estadounidense Bernie Sanders se sumó a las críticas y propuso impulsar una ley para prohibir la superinteligencia y detener el desarrollo de la inteligencia artificial. No obstante, cualquier intento de establecer límites choca contra la naturaleza global de una tecnología que se desarrolla simultáneamente en varios países y bajo una fuerte competencia entre empresas privadas.
Arambillet consideró que la discusión debería evitar tanto la ausencia de controles como una prohibición total. El objetivo, sostuvo, sería establecer reglas que permitan aprovechar los beneficios de la IA sin ignorar los riesgos de sistemas cada vez más autónomos. Como antecedente, mencionó el Tratado sobre el Espacio Ultraterrestre de 1967, firmado durante la Guerra Fría por Estados Unidos y la Unión Soviética, como ejemplo de que dos potencias enfrentadas pueden acordar límites sobre una tecnología estratégica.
La dificultad, en el caso de la inteligencia artificial, es que todavía no existe un marco internacional equivalente capaz de ordenar una carrera en la que participan empresas con enormes recursos y Estados que consideran su desarrollo una cuestión económica y estratégica. Mientras tanto, las herramientas para supervisar estos sistemas deben avanzar detrás de capacidades que cambian con rapidez.
Por eso, las advertencias de los investigadores plantean un problema que va más allá de la posibilidad de que una inteligencia artificial cause un daño extremo. El desafío inmediato es determinar cómo establecer mecanismos de control sobre una tecnología que continúa avanzando precisamente porque ninguno de los principales actores quiere correr el riesgo de quedarse atrás.
Fuente: Infobae