La advertencia de Hawking
El reconocido físico Stephen Hawking alertó en 2014, durante una entrevista con la BBC, que la creación de máquinas inteligentes representaba un peligro real para la humanidad. El científico sostuvo que “el desarrollo de una completa inteligencia artificial podría traducirse en el fin de la raza humana”. Esta declaración surgió al ser consultado sobre la renovación del sistema que empleaba para comunicarse, una tecnología que ya incorporaba una forma básica de inteligencia artificial.
Dicho sistema, desarrollado por Intel y la empresa británica Swiftkey, aprendía la forma de pensar de Hawking y le sugería palabras al momento de expresarse. Stephen Hawking falleció el 14 de marzo de 2018, a los 76 años, a causa de la esclerosis lateral amiotrófica (ELA), enfermedad neurodegenerativa que afectó su capacidad de comunicación.
El riesgo de una inteligencia artificial más avanzada
Hawking consideraba útil la IA desarrollada hasta entonces, pero temía que una versión más elaborada pudiera “decidir rediseñarse por cuenta propia e incluso llegar a un nivel superior”. Según sus palabras, “los humanos, que son seres limitados por su lenta evolución biológica, no podrán competir con las máquinas, y serán superados”.
A pesar de sus temores, el científico se mostró entusiasmado con las mejoras en la tecnología que usaba para hablar y escribir. Mantuvo su característico tono robótico por decisión propia. Afirmó: “Se ha convertido en mi marca, y no la hubiese cambiado por una con un tono más natural y un acento británico. Me han dicho que los niños que necesitan una voz en la computadora, quieren una como la mía”.
Advertencia de un exempleado de Anthropic
Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, advirtió que la carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes avanza “sin salvaguardas suficientes”. Tras renunciar a Anthropic, señaló que las compañías compiten por alcanzar una superinteligencia capaz de mejorarse a sí misma, perspectiva que – según él – pone en riesgo la capacidad humana de controlar la tecnología.
En una publicación en la red social X, Coxon afirmó que tanto Anthropic como OpenAI “no actúan responsablemente” y las acusó de estar “apostando con nuestras vidas”. El investigador alertó que modelos más autónomos podrían adquirir capacidades superiores para vulnerar sistemas informáticos, acelerar investigaciones científicas y obtener recursos en el mundo real.
Cuatro días después de la renuncia de Coxon, el director ejecutivo de Anthropic, Dario Amodei, pidió ralentizar el desarrollo de los modelos de frontera. En un ensayo, Amodei aclaró que no propone detener la investigación, sino dar más tiempo a empresas y gobiernos para evaluar riesgos, fortalecer mecanismos de seguridad y permitir auditorías independientes.
Acuerdo entre Trump y gigantes tecnológicos
Donald Trump y seis líderes tecnológicos firmaron el 29 de septiembre un acuerdo voluntario para establecer controles de seguridad en el desarrollo de sistemas de inteligencia artificial.
El documento, presentado por la Casa Blanca como un pacto sobre “superinteligencia”, fue suscrito por los responsables de Google, Anthropic, Meta, OpenAI, xAI y Nvidia. El acuerdo propone cuatro niveles de supervisión: controles internos sobre los modelos durante su entrenamiento y lanzamiento; equipos dentro de cada empresa para verificar esos mecanismos; evaluaciones de auditores externos; y comités independientes de los directorios para revisar los informes.
Las compañías también se comprometieron a reunirse para definir estándares y prácticas de seguridad compartidas.
Trump calificó el entendimiento como “moralmente vinculante”, aunque no tiene carácter legal ni prevé sanciones para las firmas que incumplan sus compromisos. El texto deja abierta la posibilidad de que, con el tiempo, algunas de sus disposiciones sean incorporadas a leyes o regulaciones. La iniciativa surgió en medio de un creciente debate sobre la velocidad del avance de los modelos de IA y sus posibles riesgos en áreas como ciberseguridad, bioseguridad y acceso no autorizado a sistemas técnicos.
Durante el encuentro, Trump también firmó una orden ejecutiva para que las agencias federales utilicen la expresión “superinteligencia” en lugar de inteligencia artificial en comunicaciones oficiales no legales.
Fuente: Infobae