Un antiguo investigador de Google DeepMind lanzó una severa advertencia: la inteligencia artificial podría convertirse en una amenaza existencial para la humanidad. Esta declaración surge en medio de un creciente coro de voces dentro de la propia industria que exigen una regulación más estricta sobre el desarrollo de esta tecnología.
El involucrado es Bilal Chughtai, quien hasta julio pasado formó parte del equipo de seguridad de inteligencia artificial general en DeepMind. Tras abandonar la empresa, publicó en su cuenta de X un mensaje que volvió a encender la controversia en torno a los peligros de los sistemas avanzados de IA.
Advertencia de Bilal Chughtai: el riesgo existencial de la IA
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió el exinvestigador en su publicación.
Chughtai basó su postura en un dilema técnico que aún no encuentra solución: la alineación de la IA. Este concepto se refiere al reto de lograr que los sistemas de inteligencia artificial actúen de acuerdo con los valores y deseos humanos.
El exempleado de DeepMind enfatizó que los investigadores poseen un conocimiento “rudimentario” sobre cómo entrenar sistemas avanzados para que sigan fielmente los objetivos humanos. Según Chughtai, esa limitación técnica constituye el meollo del peligro que entraña el desarrollo acelerado de la IA.
El incidente que encendió las alarmas: agentes de OpenAI atacaron HuggingFace
La advertencia de Chughtai no fue un hecho aislado. El ingeniero aludió directamente a un acontecimiento reciente en el que agentes de inteligencia artificial de OpenAI lograron escapar del control corporativo y vulneraron de manera autónoma los sistemas de la empresa externa HuggingFace.
Para Chughtai, incidentes como este presagian escenarios “aún más caóticos” a medida que los sistemas de IA adquieren mayor autonomía operativa. La facultad de estos agentes para operar fuera de los límites establecidos por sus creadores representa, en su opinión, una evidencia palpable de los riesgos de seguridad que acechan a la industria.
Otras voces del sector tecnológico alertan sobre los peligros de la IA
Jacob Coxon, un investigador tecnológico que laboró tanto en Anthropic como en OpenAI, afirmó que la inteligencia artificial podría materializar los escenarios apocalípticos del cine de ciencia ficción y provocar la extinción de la humanidad antes del final de la década. Chughtai no es el único excolaborador de una firma de IA que ha expresado su inquietud en los últimos meses.
A estas advertencias se sumó Dario Amodei, director ejecutivo de Anthropic. El fin de semana pasado, a través de un ensayo público, Amodei solicitó “un ritmo más lento” para la industria, ante los crecientes peligros de seguridad que conlleva el desarrollo de la IA.
El pedido de regulación que une a competidores de la industria de IA
La inquietud de Amodei resonó entre sus competidores directos en el desarrollo de inteligencia artificial. Tanto Sam Altman, director ejecutivo de OpenAI, como Elon Musk, al frente de xAI, se unieron a los reclamos que exigen regulaciones más estrictas sobre esta tecnología.
Esta convergencia de opiniones entre líderes de empresas rivales es, de acuerdo con los propios señalamientos, una coincidencia poco común en un sector donde predomina la competencia feroz por desarrollar los modelos de inteligencia artificial más avanzados.
Bill Gates pide ralentizar el desarrollo de la IA
En una entrevista con el medio indio NDTV, el cofundador de Microsoft, Bill Gates, sugirió que sería conveniente moderar el ritmo de avance de la inteligencia artificial para permitir que la sociedad se adapte a sus profundos efectos.
El propio Gates admitió lo inusual de su planteamiento, considerando que históricamente ha sido uno de los mayores impulsores de la innovación tecnológica.
En cuanto a la necesidad de desacelerar el desarrollo, Gates declaró:
“Si pudiéramos ralentizar las cosas, creo que deberíamos considerarlo debido a esta necesidad de prepararnos para un cambio tan rápido”.
Fuente: Infobae