En noviembre de 2023, la primera cumbre global sobre seguridad en inteligencia artificial, realizada en Bletchley Park, Inglaterra, centró la atención en los peligros más extremos que podrían generar los modelos de IA más avanzados. En ese entonces, muchos consideraban que se trataba de ciencia ficción y que los riesgos reales eran más cotidianos, como la pérdida de empleos o el fraude en exámenes.
Tres años más tarde, Dario Amodei, director de Anthropic, pidió el sábado pasado reducir la velocidad del avance de la IA. Los líderes de dos compañías rivales, Sam Altman de OpenAI y Elon Musk, respaldaron la iniciativa.
Esta solicitud se suma a otras alarmas dentro de la propia industria. Jacob Coxon, investigador que abandonó Anthropic, expresó a la BBC que el personal que desarrolla estos sistemas siente un «miedo genuino» por el destino de la humanidad. Todo esto conforma un coro de voces serias que claman por una desaceleración, aunque la propuesta, lejos de ser una solución simple, enfrenta obstáculos prácticos y geopolíticos considerables.
La carrera entre Estados Unidos y China
Uno de los principales impedimentos para cualquier pausa es la competencia geopolítica. El presidente Donald Trump afirmó que Estados Unidos lleva ventaja frente a China en la disputa por la IA y sostuvo que «quien gane en IA será el vencedor». China, por su parte, no muestra intención de quedarse atrás.
El consenso entre analistas del sector es que, aunque una firma decida detener su progreso, las demás no lo harán, por lo que quien se detenga simplemente quedará rezagado. Esta dinámica recuerda al apogeo de la campaña por el desarme nuclear, cuando el problema, igual que ahora, era que ningún actor quería dar el primer paso.
A esto se suma la interrogante de quién supervisaría una desaceleración de este tipo y si sería factible confiar en que las empresas de IA sean transparentes sobre lo que hacen y, sobre todo, sobre lo que deciden no hacer.
El plan de tres puntos de Amodei genera dudas
Amodei propuso en su publicación un esquema con tres elementos: supervisión independiente de los modelos de IA durante su desarrollo, y regulaciones tanto sectoriales como globales. Sin embargo, algunos observadores ponen en duda su aplicación práctica.
«Nadie ha dado una explicación sustancial de lo que significa ‘desaceleración'»
, afirma Ed Zitron, director ejecutivo de EZ Primary Research, citado por la cadena británica.
«¿Colocar a un infiltrado de METR —donde se incorporó uno de los que dejaron Anthropic— en cada empresa de IA? ¿Una ‘coordinación’ democrática y global? Para mí, eso no significa nada»
, sentencia.
Zitron advierte que detener el entrenamiento de modelos de IA dejaría a las empresas vulnerables frente a sus rivales chinos:
«sus productos quedarán congelados en el tiempo y serán replicados por laboratorios chinos»
. Según él,
«esto podría hacer estallar la burbuja pero, por ahora, tenemos muy poca información sobre lo que implica exactamente una desaceleración»
.
El peso económico de la IA complica cualquier freno
En Reino Unido, la IA es una pieza clave de la estrategia de crecimiento económico: se han anunciado planes para desplegarla a mayor escala dentro del NHS (Servicio Nacional de Salud) con el fin de mejorar la atención al paciente, y la tecnología impulsó la economía británica durante el verano.
«No hay plan B»
, comentó a la BBC un antiguo asesor gubernamental.
El sector consume enormes cantidades de dinero y recursos naturales sin generar, hasta la fecha, ingresos equivalentes. Numerosos informes sugieren que algunas empresas que adoptaron la tecnología se sienten decepcionadas con los resultados, y los economistas especulan con que no todos los gigantes actuales sobrevivan a una eventual «nivelación» del sector, es decir, el estallido de una burbuja.
Las que logren perdurar, sin embargo, podrían convertirse en las megacorporaciones más poderosas jamás conocidas, con los problemas que eso conlleva.
La decisión de OpenAI de frenar su salida a bolsa admite dos lecturas: un gesto de responsabilidad frente a la seguridad pública, o la maniobra de una empresa que advirtió que no obtendrá los beneficios esperados si su producto se percibe como peligroso.
Alexander Voica, de la empresa británica Synthesia, señala que
«nadie puede predecir con certeza cómo evolucionará esta tecnología»
. Y agrega:
«Lo único que me preocupa de que nos apresuremos a regular ahora, cuando todavía hay muchas incógnitas, es que la medida pueda resultar contraproducente»
.
La responsabilidad recae en las empresas
Para Sasha Luccioni, fundadora de Sustainable AI Group, el problema no son los riesgos existenciales de la IA sino
«la codicia corporativa de las empresas que la están creando»
. En la misma línea, la científica informática Wendy Hall, que asesoró a la ONU sobre IA, sostiene que la crisis actual se debe a que las empresas no actúan con la responsabilidad debida.
Compara la situación con la de un ganadero cuyo toro se escapa del cercado y causa destrozos, y termina culpando al animal:
«la culpa no es del toro, sino del ganadero»
, señala, en referencia a que las vallas —los mecanismos de control y seguridad de la IA— no eran lo suficientemente resistentes.
No todos comparten la idea de que la regulación estricta sea la solución. Parker Thayer, investigador del Capital Research Centre, un centro de estudios de tendencia conservadora, expresó esta semana en X que existe un impulso político oculto para
«regular la IA hasta hacerla desaparecer»
, una publicación que acumuló casi ocho millones de visualizaciones. Se trata de una postura extrema y no demostrada, pero que evidencia la falta de consenso sobre el camino a seguir.
Sea cual sea el desenlace, la controversia actual ya podría haber afectado la reputación de las empresas líderes del sector. Como plantea la profesora Hall:
«¿Invertiría usted en una empresa que afirma que va a provocar la extinción de la humanidad?»
.
Fuente: Infobae