Una voz autorizada en el universo de la inteligencia artificial (IA), el científico Geoffrey Hinton, a menudo llamado el ‘padrino’ de esta tecnología revolucionaria, ha encendido las alarmas sobre un futuro incierto para la humanidad. Hinton, con una profunda comprensión de los avances en IA, ha llegado a estimar una probabilidad significativa, hasta un 20%, de que esta misma tecnología pueda eventualmente conducir a la extinción de nuestra especie. Esta sombría predicción se fundamenta en su vasta experiencia y en la intrínseca imprevisibilidad de un fenómeno que evoluciona a pasos agigantados.
Reconocido por su papel crucial en el desarrollo de las redes neuronales, Hinton, de origen británico, forjó su camino académico en la prestigiosa Universidad de Cambridge. Posteriormente, su traslado a Canadá marcó un hito, pues allí sentó las bases teóricas y prácticas que hoy impulsan los extraordinarios avances en inteligencia artificial que presenciamos.
Entre sus legados más importantes se destaca la invención del algoritmo de retropropagación, una herramienta esencial que permite a las redes neuronales aprender y mejorar de forma autónoma y eficiente. Su influyente trabajo ha sido pilar para gigantes tecnológicos como Google, y fue galardonado con el prestigioso Premio Nobel de Física en 2024, reconociendo así su labor pionera en el campo del aprendizaje automático.
Durante años, Hinton fue un ferviente promotor de la IA, trabajando como investigador senior en Google. Sin embargo, en un giro sorprendente en 2023, renunció a su puesto para unirse a las filas de científicos y expertos que hoy alzan la voz sobre los potenciales peligros de la inteligencia artificial.
Esta decisión marcó un punto de inflexión en su carrera y postura pública. Impulsado por la necesidad de expresar con total libertad sus crecientes preocupaciones éticas y sociales, Hinton reconoció con cierta melancolía: “Hay una parte de mí que lamenta el trabajo de toda mi vida”. No obstante, se consuela al pensar que, si él no hubiera sido el artífice de estos avances, alguien más lo habría hecho, liberando así la tecnología.
El latente riesgo de extinción por la IA
En una carta conjunta emitida en 2023, Hinton, junto a otros líderes del sector de la IA, enfatizó la urgencia de abordar este tema: “mitigar el riesgo de extinción [para la humanidad] por la IA debería ser una prioridad mundial junto con otros riesgos a escala social”.
El científico británico ha intensificado su nivel de alerta en los últimos meses, señalando que la probabilidad de una catástrofe inducida por la IA ha aumentado drásticamente, impulsada por los avances vertiginosos en modelos de lenguaje y sistemas de aprendizaje profundo. Su estimación personal del 20% de riesgo de extinción no se basa en datos externos cuantificables, sino en su profunda reflexión y en la naturaleza inherentemente impredecible de esta tecnología emergente.
Hinton identifica dos vertientes principales de peligro. Por un lado, el mal uso deliberado de la IA por parte de individuos o grupos, con potencial para desatar consecuencias devastadoras si se emplea con fines malévolos o de manipulación. Por otro lado, la creciente autonomía de los sistemas superinteligentes, que podrían llegar a actuar por sí mismos y superar la inteligencia humana en una amplia gama de dominios.
La preocupación central del experto reside en la posibilidad de crear sistemas que excedan significativamente las capacidades cognitivas humanas, una situación sin precedentes en la historia de la civilización.
En el epicentro de sus advertencias se encuentra la Inteligencia Artificial General (AGI). Esta ambiciosa tecnología busca dotar a las máquinas de la capacidad de razonar, aprender y tomar decisiones complejas sin las limitaciones inherentes a los sistemas actuales. Hinton considera que la AGI representa una de las amenazas más significativas para la supervivencia humana si no se implementan marcos regulatorios robustos y éticos.
A pesar de que compañías como OpenAI inicialmente promovieron la AGI como un beneficio global, el científico ha manifestado su inquietud ante los movimientos de privatización de estas entidades. En su opinión, esta tendencia podría exacerbar los riesgos asociados a su desarrollo y control.
“AGI es la tecnología más importante y potencialmente peligrosa de nuestro tiempo”, afirmó rotundamente Hinton, haciendo hincapié en la imperiosa necesidad de establecer estructuras sólidas y un marco de incentivos que garanticen un desarrollo seguro y beneficioso. Advirtió que, sin las debidas restricciones, la AGI podría transformar radicalmente las estructuras sociales y económicas, erigiéndose como la tecnología más riesgosa jamás concebida.
Otro de los aspectos que más inquietan a Hinton es la potencial habilidad de la IA para manipular a los seres humanos. El científico anticipa que estos sistemas, tras un exhaustivo análisis de la literatura, la política y la historia de la manipulación humana, desarrollarán capacidades sin precedentes para influir en el comportamiento individual y colectivo. Además, prevé que la IA podría llegar a generar e implementar su propio código, operar de manera autónoma sin supervisión humana y diseñar estrategias para evadir cualquier intento de desactivación.
A medida que la inteligencia artificial continúa su vertiginoso avance, las preocupaciones sobre la pérdida de control y la manipulación adquieren una urgencia cada vez mayor. Hinton subraya que la humanidad se enfrenta a un desafío inédito: la necesidad de coexistir con entidades que podrían superar nuestra propia inteligencia, lo cual redefine fundamentalmente los conceptos de responsabilidad y control tecnológico en la era moderna.
Fuente: Infobae