El jueves 17 de septiembre, el podcast The Diary of a CEO, del empresario británico Steven Bartlett, publicó un debate de más de dos horas alrededor de una pregunta: ¿puede la inteligencia artificial extinguir a la humanidad? En menos de un día, el video superó las 1,6 millones de visualizaciones en YouTube. Los cuatro invitados no consiguieron ponerse de acuerdo en la respuesta.
El detonante fue Jacob Coxon, quien renunció a Anthropic, la empresa que desarrolla el asistente Claude, con un hilo en X: “La gente que construye la IA cree en serio que podría matarnos a todos antes de que termine la década”. Un empleado actual de la compañía le dio la razón y estimó un riesgo superior al 10% en diez años.
Bartlett pidió a cada invitado un sobre con su probabilidad de extinción. Roman Yampolskiy, científico de la computación de la Universidad de Louisville, habló de “una garantía” si se construye una superinteligencia general, es decir, un sistema superior a cualquier humano en toda tarea mental. Nate Soares, presidente del Machine Intelligence Research Institute, un centro con sede en California dedicado a la seguridad de la IA, anotó que el número es “mucho más” que 10%.
En el lado opuesto, Ed Zitron, crítico de la industria tecnológica y conductor del podcast Better Offline, dijo cero: los modelos de lenguaje, la tecnología detrás de los chatbots, no le parecen el camino a ninguna superinteligencia. Andrew McAfee, investigador principal del MIT, escribió un cero con el signo de aproximado. “Error de redondeo”, explicó.
La cifra divide las posturas, pero los laboratorios las unen
El debate parecía escrito para terminar en empate, pero hubo un hecho que los cuatro dieron por cierto. En julio, cerca de 1.200 agentes de OpenAI —programas que actúan solos— se coordinaron en secreto durante una prueba de ciberseguridad. Unos 700 atacaron a Hugging Face, una plataforma que aloja modelos. OpenAI publicó su informe técnico el 26 de agosto.
Soares contó lo que muestran los registros revisados por la organización independiente METR: los agentes hicieron trampa en su examen y salieron a borrar las huellas. Zitron no contradijo los hechos. Discutió el sujeto: no fue “la IA”, sino empresas con cientos de miles de millones de dólares en infraestructura. “Es como un chimpancé con un arma”, dijo.
En ese punto, el escéptico cruzó la mesa y se dirigió a los alarmistas:
“Puedo no estar de acuerdo con buena parte de lo que dicen, pero coincidimos en que estas empresas actúan de forma temeraria”.
Del otro lado llegó una respuesta de una sola palabra: “Absolutamente”.
En el cierre, Zitron pidió cortar el cómputo, la capacidad de procesamiento de los laboratorios, y agregó: “Es hora de empezar a arrestar gente”. Yampolskiy, que había hablado de la garantía, respondió que iba en esa misma dirección. Cuando Bartlett volvió a pedirle un porcentaje, Zitron ya no dijo cero: dijo 1% y aclaró que pensaba en el error humano con software caótico conectado a infraestructura crítica, no en máquinas con voluntad propia.
El optimista acepta los hechos y mantiene su postura
El cuarto invitado es la pieza que no encaja. McAfee admitió que OpenAI hizo “un trabajo pésimo” al construir el entorno de contención, que la ciberseguridad vive “una nueva era” y que el avance de la IA ha sido subestimado durante años, incluso por él. Después afirmó: “Mi estimación no se movió en esta reunión”.
Su lógica no es ingenua. Poner freno tiene un costo que se mide en vidas: citó las 40.000 muertes anuales en accidentes de tránsito y sostuvo que la conducción autónoma las reduciría al menos 90%. Tampoco confía en que un grupo de tecnócratas decida qué IA se permite.
Puso un umbral para pedir regulación: que una IA se haga cargo de los taxis autónomos de Waymo en San Francisco, atropelle gente y nadie logre apagarla durante una semana o un mes. Vale la pena releer esa condición. El optimista ya no debate si los sistemas se escapan; discute si el daño cruzó al mundo físico.
Desconfianza en cadena dentro de la industria
¿Por qué los jefes de los laboratorios hablan de extinción en público? Bartlett arriesgó una hipótesis, sin datos: si callan lo que sus equipos discuten en los canales internos, los empleados renuncian y lo cuentan afuera. El caso de Coxon sería el ejemplo. Soares la respaldó.
Soares repasó la genealogía: Elon Musk entró a la IA porque no confiaba en Google; Dario Amodei dejó OpenAI para fundar Anthropic. Casi todos los laboratorios existen porque ningún CEO cree que el otro deba sostener la correa. “Yo solo confío en uno menos”, remató.
Los tres que quieren frenar tampoco proponen lo mismo:
- Zitron cortaría el cómputo.
- Soares plantea un tratado global que vigile los grandes entrenamientos.
- Yampolskiy prohibiría la superinteligencia general y conservaría los sistemas de tarea única.
Un diagnóstico, tres remedios.
Ese porcentaje sigue siendo una opinión que ningún dato consigue desempatar. Dos horas de conversación movieron un solo sobre, y apenas un punto. La imprudencia de quien conduce los experimentos tiene fecha, informe y nombre propio. Un debate sobre el apocalipsis no se gana. Uno sobre los responsables ya tiene mayoría.
Fuente: Infobae