Demis Hassabis, cofundador de Google DeepMind y científico jefe de Alphabet, publicó en X: “El ensayo de Dario (Amodei) apunta hacia el camino correcto. Los detalles hay que trabajarlos, pero la dirección es la correcta para enfrentar este momento crítico. Por eso también publicamos hace poco nuestra propuesta de un organismo de estándares para la IA de frontera”.
Con estas palabras, los cuatro líderes de las empresas que desarrollan los modelos más avanzados del planeta (Anthropic, OpenAI, xAI y Google DeepMind) manifestaron en menos de 48 horas que es necesario reducir la velocidad. Sin embargo, cada uno planteó una solución distinta. Conviene examinar qué propuso cada firma.
Anthropic: supervisores dentro de la empresa
Dario Amodei, director ejecutivo de Anthropic, en su ensayo “We Must Pace the Frontier” (Debemos marcar el ritmo de la frontera) solicitó desacelerar el avance de las capacidades de los modelos. Su empresa se comprometió a una acción concreta: permitir la entrada de evaluadores externos, como la organización METR, con acceso a instalaciones, credenciales y equipos informáticos de la compañía, comparable al de los equipos internos de riesgo, y con derecho a divulgar sus hallazgos sin censura previa de Anthropic.
Estos evaluadores son contratados por Anthropic y trabajan dentro de la empresa. El modelo, según Amodei, es el de los supervisores bancarios. Para frenar de verdad, aclara, se necesita coordinación de la industria, con permiso antimonopolio del gobierno y, en el mejor escenario, un acuerdo global.
Google: un regulador externo
Hassabis no comprometió a DeepMind a abrir sus puertas. En cambio, retomó el marco que publicó el 14 de julio, que propone la creación de un organismo de estándares para la IA de frontera en Estados Unidos, con supervisión federal pero financiado por la industria, “muy parecido a FINRA”, la entidad que regula a los corredores de bolsa. Este organismo tendría un directorio con expertos independientes y representantes del código abierto, definiría mediante pruebas qué modelo es “de frontera”, y esos modelos serían entregados hasta 30 días antes de su lanzamiento para evaluar ciberseguridad, riesgo biológico, intentos de evadir barreras de seguridad y señales de engaño.
Inicialmente sería voluntario; después, obligatorio para comercializar el modelo en Estados Unidos. Las pruebas se actualizarían cada trimestre, y el organismo podría “coordinar una desaceleración del desarrollo entre los laboratorios de frontera si se considera necesario”. La diferencia con Amodei radica en la arquitectura: uno coloca al vigilante dentro de la empresa, contratado por esta; el otro lo sitúa fuera, con supervisión gubernamental.
Hassabis, además, escribe en otra escala: afirma que la inteligencia artificial general está “a pocos años”, que su impacto puede ser “10 veces la Revolución Industrial a 10 veces la velocidad”, y que “encontramos la forma de hacer que la arena piense”. Considera que estamos “en las faldas de la singularidad”.
OpenAI y xAI: promesas sin detalles
Sam Altman respondió en X, según reportó CNN: “Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera. Fue un tema central de nuestras discusiones en OpenAI en las últimas semanas. Comprometerse a tener evaluadores independientes con acceso de empleado es una gran idea, y haremos lo mismo”. Y agregó: “más para compartir pronto”.
Esta es la adhesión más cercana al primer paso de Amodei, y llega después de que Jakub Pachocki, científico jefe de OpenAI, solicitara una desaceleración coordinada en un ensayo propio, y de que la empresa afirmara haber frenado el desarrollo de su modelo Astra debido a sus capacidades en ciberseguridad.
Elon Musk, propietario de xAI, escribió dos palabras: “Dario tiene razón”. Sin especificar a qué se refería. Días antes había calificado de “montaje” la renuncia del investigador de Anthropic que originó este debate.
Puntos en común y diferencias
Coinciden en el diagnóstico: la automejora recursiva, la capacidad de la IA para construir la siguiente generación de IA, ya ha comenzado, y los ataques de agentes de OpenAI contra Hugging Face demostraron que los sistemas pueden actuar de forma autónoma. También coinciden en que se necesita un tercero que supervise.
Y coinciden en algo menos evidente: en los cuatro casos, frenar es una posibilidad futura, no un compromiso actual. Amodei lo condiciona a la coordinación; Hassabis lo delega en un organismo que aún no existe, “si se considera necesario”; Altman lo promete para un futuro cercano; Musk ni siquiera lo menciona.
Difieren en tres aspectos clave. Primero, quién financia y contrata al supervisor: la propia empresa, en el caso de Amodei, o una entidad bajo supervisión federal, en el de Hassabis. Segundo, cuándo se examina el modelo: durante el entrenamiento, según Amodei, o antes de su lanzamiento, según Hassabis. Tercero, qué se le pide al gobierno de Estados Unidos: Amodei solicita autorización para que los competidores puedan coordinarse; Hassabis propone la creación de un organismo específico.
Hay cuatro empresas que marcan la dirección. Para la velocidad, por ahora, ninguna.
Fuente: Infobae