El director ejecutivo de Anthropic, Dario Amodei, sorprendió al aceptar que la industria de la inteligencia artificial mintió acerca de los verdaderos riesgos de esta tecnología. Durante una entrevista, el ejecutivo fue contundente:
“No te voy a mentir. Hay peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”.
Amodei explicó que la estrategia habitual era presentar la tecnología “lo más positiva posible” y que, aunque su empresa nunca lo hizo, “demasiada parte de la industria sí”. Para él, todo empieza por decir la verdad.
La curva exponencial que nadie anticipó
Amodei recordó que desde antes de fundar Anthropic ya advertía que la tecnología avanza en una progresión geométrica: “uno, dos, cuatro, ocho, dieciséis, treinta y dos”. Sin embargo, reconoció que ni siquiera él mismo dimensionó completamente lo que significaría cuando el progreso se acelerara tanto como hoy. “Estamos en la parte donde empieza a ponerse empinada”, afirmó, refiriéndose al punto actual de esa curva. Ante la pregunta de si esto equivalía a un incendio de cinco alarmas, respondió:
“No significa que haya que entrar en pánico hoy. No significa que haya que apagarlo todo. Es una señal de advertencia de que tenemos que frenar”.
¿Significa esto que Anthropic dejará de lanzar modelos más avanzados? “No significa eso”, aclaró. La propuesta, dijo, es que cada nueva generación sea sometida a evaluaciones exhaustivas antes de su lanzamiento.
El inspector de alimentos: la metáfora de la seguridad
Amodei comparó a los evaluadores externos que su plan propone integrar en cada empresa con un “inspector de alimentos”. Cuando se le objetó que ningún inspector podría seguir el ritmo de esta tecnología, convirtió la crítica en un mecanismo: los evaluadores podrán determinar a qué velocidad logran seguirla, “y eso puede ser uno de los factores que fije el límite de velocidad”.
Consultado sobre Jacob Coxon, el investigador que renunció afirmando que Anthropic y OpenAI “apuestan con nuestras vidas”, Amodei reiteró lo dicho en CNN: Coxon calificó a Anthropic como “la más responsable de las grandes” y “señalaba honestamente lo mismo que yo señalo: la dificultad estructural de la situación en la que estamos todos”.
“No estoy cómodo con que lo construya una empresa privada”
La pregunta sobre su responsabilidad personal provocó la respuesta más inesperada. “Siempre fue muy raro que esta tecnología la construya una empresa privada”, confesó. La gente le pregunta por qué no la construye un gobierno, y “lo más raro es que estoy de acuerdo con ellos. No estoy cómodo con eso”. Cuando le preguntaron si entregaría la empresa, respondió:
“A la combinación correcta de gobiernos”.
Le preocupa que un solo gobierno abuse de la tecnología “tan fácilmente como una sola empresa”, pero una combinación de gobiernos democráticamente elegidos podría ejercer “algún tipo de supervisión, algún tipo de gobernanza conjunta”.
Además, reveló que habla “todos los días” con funcionarios del Departamento de Comercio, del Tesoro y de la comunidad de inteligencia de Estados Unidos. Sobre la percepción de que “unas pocas empresas hacen lo que quieren”, contestó: “Lo sé. Sé que así se sienten. Nunca quise eso. Tenemos que encontrar la forma de que deje de ser cierto”.
El botón de apagado y el queso suizo
Acerca de la posibilidad de un interruptor para apagar la IA, Amodei dijo que “podría ser una buena idea”, pero advirtió:
“Si un modelo es lo bastante poderoso, puede eludir los intentos de apagarlo, y lo hemos visto en simulaciones”.
Su modelo de defensa es el del queso suizo: cada capa de seguridad tiene agujeros, pero cinco capas juntas los tienen en lugares distintos y es muy difícil atravesarlas todas. “No hay una sola cosa que nos proteja”, sintetizó. Sobre un límite de velocidad global a la IA, admitió: “Honestamente, no sé si es posible. Pero deberíamos intentarlo”.
El padre, el cáncer y las burlas
El ejecutivo compartió que su padre falleció por hepatitis C cuando la enfermedad tenía una tasa de curación del 40%, y pocos años después un medicamento elevó esa cifra al 95%. Él mismo sobrevivió a un cáncer temprano que “en 1950 probablemente me habría matado”. “Siento el peso de traer los beneficios. También siento los riesgos”, afirmó. Dos días antes de la entrevista, Anthropic publicó un informe sobre intentos de utilizar sus modelos para incrementar la infecciosidad de virus.
“Casi todos los días se burlan de mí en redes porque las salvaguardas de biología de nuestro modelo son demasiado fuertes. Los estudiantes de biología se quejan. Prefiero que se burlen de mí antes que despertarme un día y descubrir que alguien usó Claude para matar a un montón de gente”, manifestó.
El plan sigue siendo el mismo que publicó el sábado. Lo que cambió fue la confesión: el CEO de la empresa que se presenta como la más prudente admite que su industria mintió, y que él no quiere cargar solo con este poder.
Fuente: Infobae