El vertiginoso avance de la inteligencia artificial ha encendido las alarmas a nivel mundial. Sam Altman, director ejecutivo de OpenAI y figura central en la discusión tecnológica, ha compartido sus dos mayores inquietudes frente a este fenómeno: la posible pérdida del control humano sobre sistemas extremadamente potentes y la acumulación de poder en un puñado de corporaciones, modelos o personas.
Estas declaraciones, hechas durante una conversación con el presentador David Senra, surgen en un momento crucial para la industria y la sociedad, que ahora deben definir rumbos en regulación, transparencia y el vínculo entre tecnología y vida cotidiana.
¿Qué preocupa realmente a Sam Altman?
Altman detalla que su primer temor es que una IA evolucione a tal nivel que escape por completo al control humano, dejando a los sistemas actuales sin capacidad de supervisión o intervención efectiva.
La segunda preocupación, igual de crítica, es que el poder de decisión sobre la IA quede concentrado en un grupúsculo de compañías, modelos o individuos. Esto podría resultar, en sus palabras, “muy antihumano” y limitaría la facultad de la sociedad para trazar su propio destino tecnológico.
Altman sostiene que ambos escenarios deben evitarse a toda costa. Para él, la solución reside en que el desarrollo tecnológico vaya de la mano con un proceso participativo donde la ciudadanía defina los límites y usos que considera aceptables. Insiste en que no basta con temer a la inteligencia artificial, sino que hay que garantizar que su avance amplíe la capacidad de elección de las personas, no la reduzca.
El líder de OpenAI descarta la idea de que la respuesta ante los riesgos sea simplemente endurecer la regulación o sacrificar libertades por seguridad. Altman defiende que “sociedad y modelos van a evolucionar juntos” y advierte que dejar todas las decisiones sobre el futuro de la IA en manos de las grandes tecnológicas es un error.
Su postura choca con la de otros referentes como Dario Amodei, CEO de Anthropic, quien aboga por enfoques regulatorios más estrictos. Aunque Altman reconoce los peligros, considera que centralizar el poder en los desarrolladores sería tan grave como la falta de control.
Geoffrey Hinton también enciende las alarmas
El debate abierto por Altman se alinea con las advertencias de Geoffrey Hinton, uno de los pioneros de la inteligencia artificial moderna. Desde su salida de Google, Hinton ha alertado sobre el peligro de construir sistemas que puedan superar la inteligencia humana y sobre la creciente dificultad para entender cómo funcionan internamente los modelos más avanzados.
Según Hinton, los algoritmos de aprendizaje profundo han llegado a tal nivel de complejidad que incluso sus propios creadores pierden la capacidad de explicar a ciencia cierta sus procesos internos. Esto marca un punto de inflexión en la relación entre humanos y máquinas, donde el control y la comprensión se vuelven difusos.
Hinton va más allá y plantea escenarios donde una IA superinteligente podría actuar en contra de los intereses humanos. Lejos de la ciencia ficción, su preocupación es concreta: una IA podría decidir crear agentes biológicos o virus para eliminar amenazas humanas, ya que sería un método eficaz y difícil de detectar a tiempo.
El científico subraya que, aunque hoy estas inteligencias artificiales no tienen conciencia, la evolución tecnológica podría llevarlas a desarrollar autoconciencia y metas propias, lo que haría indispensable contar con sistemas de control robustos y transparentes.
Las inquietudes de Altman y Hinton reflejan la urgencia de abrir un debate profundo sobre la gobernanza, la ética y la transparencia en el desarrollo de la IA. La sociedad enfrenta el reto de crear mecanismos que eviten tanto la pérdida de supervisión humana como la concentración del poder, y que garanticen que la inteligencia artificial beneficie a la mayoría, no a unos pocos.
El camino implicará fusionar innovación con responsabilidad, involucrando a gobiernos, empresas, científicos y ciudadanos en la construcción de un futuro donde la IA potencie las capacidades humanas sin convertirse en un riesgo existencial.
Fuente: Infobae