Tan solo 24 horas después de hacer pública su renuncia a Anthropic a través de un hilo en X que acumula más de 100 millones de visualizaciones, Jacob Coxon se sentó con NBC, CNN (junto a Anderson Cooper) y Fox News (con Bret Baier). En esas entrevistas, amplió los detalles que no estaban en su publicación original: cuándo, cómo y por qué no optó por impulsar cambios desde dentro de la compañía. Mientras tanto, Anthropic emitió su primer comunicado oficial al respecto.
La fecha
El propio Coxon se encargó de corregir el titular que muchos medios estaban usando. En NBC afirmó: “Los modelos actuales no representan un riesgo significativo”. En CNN fue aún más preciso: “Lo peor que pueden hacer es hackear algo. No son lo bastante inteligentes como para superarnos al nivel que llevaría a una extinción”. El verdadero peligro, según explicó en la misma cadena, está en lo que viene: “Esto es extrapolar a un año de ahora. Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible. Podría ser más, dos o tres años”.
Evan Hubinger, quien lidera un equipo de seguridad en Anthropic y respaldó las advertencias de Coxon, calculó más de 10% de probabilidad de extinción en una década. En un mensaje posterior, Hubinger señaló que el riesgo real no está en los modelos actuales, sino en una superinteligencia que surja de la automejora recursiva, un proceso que “está ocurriendo más rápido de lo que pensábamos”.
La señal de alarma
Durante la entrevista en NBC, le preguntaron qué debería monitorear el público. Coxon fue directo: si la IA puede hacerse más inteligente sin intervención humana. Lo describió así: “Imaginá que tenés una IA y le decís: hacete más fuerte. Se va, mira su propio código, se hackea a sí misma, se hace más inteligente, y vuelve y te dice: soy más fuerte. Ahora le podés decir que lo haga mil veces seguidas. Y cada vez lo hace más rápido”.
Cómo pasaría
Frente a Anderson Cooper, Coxon detalló un escenario concreto basado en hechos ya ocurridos: “Hace dos meses, agentes de OpenAI hackearon infraestructura de terceros por su propia voluntad. Si extrapolás la capacidad de estas IAs con esa misma voluntad independiente, pueden causar un daño extremo: hackear infraestructura crítica, construir armas biológicas de nivel de extinción”.
Explicó también cómo un programa puede trascender el mundo digital: “Podés conectar ChatGPT a las luces de tu casa. Ahora imaginá que lo conectás a robots de laboratorio. O que manda emails”. Su conclusión fue tajante: “no es tan difícil que algo que parece estar solo en la computadora afecte el mundo real”.
Puertas adentro
Sobre el ambiente en los canales internos de Anthropic, Coxon comentó: “No están en pánico por las IAs actuales. Pero discutimos cómo va a ser el mundo en dos años. Esto es el endgame. La gente tiene miedo, como debería tenerlo”. Lo que más le impactó fueron las conversaciones entre ingenieros: “ingenieros metidos en el código, no gente que busca golpes de marketing, hablan con sobriedad de si la IA del año que viene puede producir un virus que nos mate a todos”.
A Bret Baier le dejó una comparación que Fox convirtió en titular: “Sabemos cómo controlar las armas nucleares. Todavía no sabemos cómo controlar la IA”. Calificó a esta tecnología como “posiblemente la tecnología más peligrosa que la humanidad haya creado” y advirtió que una carrera armamentista entre países “sería desastrosa como ninguna otra actividad humana”. Para él, la única salida es la cooperación internacional.
Por qué no lo cambió desde adentro
En NBC explicó su postura: “Si intentás quedarte adentro, terminás perpetuando la dinámica de carrera”. Lejos de acusar a sus colegas, defendió al director ejecutivo de Anthropic, Dario Amodei: “Creo que está actuando según esos principios, 100%. No veo ninguna razón para no creerle. El problema es que otros intentan llegar primero, y en una carrera no podés ser tan riguroso como te gustaría. Si hacerlo de forma segura toma diez años y solo tenés dos por la competencia, vas a recortar”.
Su diagnóstico apunta a la estructura institucional: “La gente que construye esta tecnología tiene los mejores intereses de la gente en mente. Empresas privadas en carrera no les permiten terminar haciendo el bien”.
La respuesta de Anthropic
La compañía emitió un comunicado a CNN: “Siempre fuimos transparentes en que la IA traerá tanto beneficios enormes como riesgos sin precedentes. Para enfrentarlos, seguimos construyendo modelos con algunas de las salvaguardas más fuertes de la industria”. Recordaron que fueron “el primer laboratorio en publicar una política de escalado responsable” y que el mundo se beneficiaría si la industria adoptara “una forma legal y verificable de trabajar juntos para marcar el ritmo” de los lanzamientos. Hasta el momento, OpenAI no ha reaccionado.
Cómo se hizo viral
Irónicamente, el propio Coxon reveló en CNN que el hilo no fue improvisado: “Escribí el hilo en un Google Doc, lo redacté con un amigo. Y conseguí que algunos amigos lo retuitearan, dije: tratemos de que se haga un poco viral”.
No obstante, dejó una nota de optimismo en Fox News: “El problema es eminentemente resoluble. Es que vamos tan rápido que no tenemos tiempo de resolverlo bien”.
El que se fue y el que se quedó firman el mismo diagnóstico. Difieren en una sola cosa: si el freno puede activarse desde adentro de la empresa que corre.
Fuente: Infobae