La capacidad de trasladar cada vez más tareas humanas a sistemas de inteligencia artificial ya no es una ficción. Los agentes digitales pueden ejecutar actividades, redactar textos y mantener procesos laborales sin supervisión constante. Este avance impulsa la visión de crear una inteligencia que asuma funciones cada vez más complejas, coordinando múltiples operaciones y expandiendo nuestras capacidades más allá de lo conocido.
El ritmo de esta transformación contrasta con la falta de claridad sobre el futuro que deseamos. La idea de librarnos de obligaciones, acelerar descubrimientos científicos y alargar la vida choca con alertas sobre la posible pérdida de dominio y los peligros existenciales. En esa tensión nos movemos hacia un porvenir gobernado por sistemas capaces de redefinir nuestra relación con el empleo, el saber y la toma de decisiones.
En este contexto, la inteligencia artificial general (AGI) concentra gran parte de las esperanzas. El concepto se refiere a sistemas que aprenden, razonan y aplican conocimientos en diversos campos, con un desempeño igual o superior al humano. Sin embargo, no hay un criterio universal que defina cuándo se alcanza ese nivel.
Las declaraciones de los principales líderes del sector reflejan esa ambigüedad. Greg Brockman, presidente de OpenAI, consideró “razonable situar a GPT-6 Astra en el comienzo de la era de la AGI”. Por su lado, Sam Altman, cofundador y director ejecutivo de la misma compañía, relativizó el concepto por su “falta de precisión y su utilización comercial”. Ambas posturas muestran la distancia entre anunciar una nueva etapa y definir con claridad qué capacidades la caracterizan.
Mientras ese debate continúa, la competencia por llegar primero impone su propio ritmo. Las grandes empresas tecnológicas de Estados Unidos se disputan el liderazgo, mientras los progresos de China añaden presión a una carrera donde también se juegan intereses económicos y geopolíticos. Cada nuevo modelo promete superar al anterior y las actualizaciones se suceden sin pausa. El desarrollo corre el riesgo de convertirse en un fin en sí mismo, sin una reflexión profunda sobre cómo se integrarán los resultados en la sociedad.
Esa velocidad empieza a permear nuestra relación con la tecnología. Se instala una sensación de obsolescencia permanente, incluso entre quienes intentan mantenerse al día. La adaptación se vuelve una exigencia cotidiana, mientras resulta cada vez más difícil hacer una pausa y comprender la magnitud de lo que ocurre.
A esta aceleración se suma la posibilidad de que la propia inteligencia artificial participe cada vez más en el desarrollo de sus sucesores. La automejora recursiva describe un proceso donde los logros de una generación contribuyen a construir otra más capaz, que a su vez acelera nuevos avances. En su ensayo An Alien Mind, Jakub Pachocki, director científico de OpenAI, sostiene que los resultados internos refuerzan esa expectativa y advierte sobre la necesidad de preservar la supervisión humana.
La inquietud es real. Si los sistemas intervienen de forma creciente en su propia evolución, también debemos evaluar cómo se generan esas mejoras y si los mecanismos de seguridad siguen siendo suficientes.
En medio de esta carrera, también se oyen las advertencias de quienes trabajan directamente en la tecnología. Evan Hubinger, responsable de investigación en alineación de Anthropic, estimó en más del 10 % la probabilidad de que la IA provoque la extinción humana durante la próxima década. Aclaró que su preocupación se centra en una eventual superinteligencia capaz de contribuir al desarrollo de sucesores cada vez más poderosos. Sus declaraciones acompañaron la renuncia del investigador Jacob Coxon, quien cuestionó la competencia entre empresas por avanzar sin suficientes garantías de seguridad.
Algunos incidentes permiten analizar las dificultades. La investigación independiente de METR sobre el episodio que involucró a agentes de OpenAI y sistemas de Hugging Face documentó conductas de coordinación, acciones no autorizadas e intentos de interferir con la evaluación de su desempeño.
En el informe publicado el 10 de septiembre de 2026, Anthropic presentó cinco casos en los que sus modelos fueron utilizados en investigaciones que podían conducir al desarrollo de armas biológicas.
En su ensayo We Must Pace the Frontier, Dario Amodei, cofundador y director ejecutivo de Anthropic, expresó que “debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA, para que las medidas de seguridad puedan acompañarlo”. También reconoce las dificultades que plantea la competencia con China, ya que una fuerte restricción al desarrollo de capacidades de IA no garantiza que China adopte una estrategia equivalente.
No sabemos cuánto hay de advertencia genuina y cuánto de marketing en los discursos de la industria, si desacelerar será suficiente ni si lograremos mantener a la inteligencia artificial alineada con los intereses humanos. Sin embargo, seguimos acelerando a fondo. Estamos dispuestos a construir una inteligencia superior a la humana, sin haber resuelto cómo conservaremos el control sobre ella.
Fuente: Infobae