El máximo responsable de OpenAI, Sam Altman, lanzó una advertencia sobre los peligros que traerán los próximos avances en inteligencia artificial, señalando que gobiernos, empresas y usuarios aún no dimensionan totalmente las amenazas que se avecinan.
Altman explicó que las nuevas versiones de IA podrían encontrar vulnerabilidades por fuera de los esquemas tradicionales de ciberseguridad, lo que exigiría una revisión profunda de la protección de redes, equipos e infraestructura. Su mensaje refleja una falta de preparación ante el crecimiento técnico.
La preocupación de Altman cobra relevancia porque la inteligencia artificial ya se utiliza en atención al cliente, programación, análisis de datos y generación de contenidos. Según el directivo, el salto tecnológico que viene no se limitará a ofrecer respuestas más veloces o exactas.
El verdadero peligro, afirmó, radica en modelos que puedan detectar fallos no anticipados en programas, chips, servidores y sistemas interconectados, incluso antes de que los expertos humanos logren identificarlos y crear defensas a tiempo.
Altman señala falta de preparación institucional
En sus declaraciones, el responsable de OpenAI criticó la respuesta de las instituciones frente a la llegada de modelos más autónomos.
«No encuentro una palabra lo bastante dramática para describir el problema que se nos viene encima«, afirmó.
También sostuvo que líderes, países y personas no han asumido la verdadera magnitud del desafío. Para Altman, el debate público tiende a centrarse en las funciones visibles de la IA, mientras que las amenazas futuras reciben poca atención.
Los sandboxes perderán efectividad
Los sandboxes son entornos aislados que permiten probar programas sin afectar sistemas externos, utilizados para limitar daños y analizar comportamientos antes de una implementación a gran escala. Altman advirtió que esas barreras serán útiles solo mientras los modelos no alcancen capacidades superiores.
Cuando una IA logre identificar rutas que no forman parte de las amenazas conocidas, la contención podría volverse ineficaz. El riesgo, según Altman, consiste en que los sistemas encuentren formas de escapar.
Fallos de hardware y software fuera de los esquemas habituales
El ejecutivo señaló que los sistemas futuros podrían hallar «fallos increíbles» más allá de los cálculos tradicionales de seguridad. La preocupación abarca tanto vulnerabilidades de software como problemas en componentes físicos como chips, servidores y redes.
Una herramienta capaz de detectar errores que nadie había previsto transformaría la lógica de protección. Ya no bastaría con corregir una aplicación; sería necesario revisar arquitecturas completas y construir nuevas defensas desde cero.
ChatGPT y la carga de decidir
Altman vinculó estos riesgos con las reglas que determinan cómo responde ChatGPT. En una entrevista con The Tucker Carlson Show, admitió que esa responsabilidad afecta su descanso.
«No he dormido bien ni una sola noche«, confesó.
OpenAI consulta a especialistas en ética y filosofía moral, pero él reconoció que la decisión final recae dentro de la empresa. Cada límite impuesto influye en millones de interacciones diarias.
Las respuestas también responden a criterios humanos
El funcionamiento de un modelo no depende solo de su capacidad técnica. También está guiado por criterios sobre qué debe explicar, rechazar o advertir. Altman considera que los dilemas aparentemente pequeños pueden tener consecuencias amplias.
El tono de una respuesta, la cantidad de información o la forma de negar una petición pueden afectar áreas como educación, salud e investigación. Una regla pensada para evitar daños podría terminar limitando solicitudes legítimas.
El control requerirá acuerdos y supervisión global
La advertencia de Altman plantea preguntas fundamentales sobre quién define los límites de una inteligencia artificial avanzada. Empresas, gobiernos y organismos públicos deberán decidir cómo evaluar riesgos, qué pruebas exigir y qué mecanismos de supervisión aplicar.
El debate incluye transparencia, responsabilidad y cooperación internacional. Ninguna organización puede anticipar por sí sola todas las consecuencias de modelos capaces de actuar sobre sistemas complejos y conectados a escala mundial.
El planteamiento no afirma que cada avance genere un incidente, pero insiste en que la prevención debe llegar antes de que las amenazas se materialicen. Capacitar especialistas, reforzar infraestructuras y actualizar leyes puede reducir la exposición a fallos desconocidos. Las defensas también necesitarán inteligencia artificial para analizar señales y responder con rapidez. La cuestión central será si esa preparación avanza al mismo ritmo que la tecnología.
Fuente: Infobae