El máximo responsable de Microsoft, Satya Nadella, ha establecido un límite claro en la carrera hacia la inteligencia artificial avanzada. A través de su perfil en la red social X, el directivo señaló que cualquier desarrollo de superinteligencia debe partir de una base innegociable: si la inteligencia artificial creada no contribuye al bienestar humano y no se mantiene bajo supervisión de las personas, entonces no tiene sentido continuar con su desarrollo.
La postura de Nadella va más allá de una simple advertencia. Presenta una ruta detallada sobre cómo debería repartirse el poder tecnológico, el rol que deben asumir las compañías frente a los proveedores de modelos, y los mecanismos de supervisión necesarios para evitar que los sistemas cada vez más potentes queden fuera de todo control.
El control humano como requisito para la superinteligencia
El núcleo del mensaje de Nadella gira en torno a la idea de que todo avance en inteligencia artificial debe estar supeditado al control humano. El ejecutivo fue contundente al expresar:
“Si la IA que construimos no ayuda a la humanidad y no está bajo control humano, no vale la pena perseguirla”.
Esta declaración no es una mera aspiración, sino un principio de diseño. Nadella lo plantea como el punto de partida obligatorio para cualquier proyecto relacionado con la superinteligencia, entendida como el siguiente gran salto tecnológico después de los modelos actuales de inteligencia artificial.
La propuesta también responde a las críticas que suele recibir el desarrollo acelerado de sistemas de IA sin marcos de gobernanza definidos. Nadella apoya abiertamente la investigación enfocada en lograr una alineación adecuada entre los objetivos humanos y el comportamiento de estos sistemas, y calificó ese trabajo como una necesidad que demanda un ritmo pausado, no apresurado.
En esa línea, el líder de Microsoft elogió iniciativas concretas como los llamados “evaluadores integrados”, mecanismos diseñados para comprobar que los principios de seguridad no se queden solo en palabras. Según su visión, este tipo de herramientas debe convertirse en una garantía funcional y no en una promesa vacía.
Distribución equitativa de los beneficios de la inteligencia artificial
Nadella también fijó su posición sobre cómo deben repartirse las ventajas derivadas de la IA. El directivo sostuvo que es necesario acelerar y expandir esos beneficios para que lleguen de manera amplia a diferentes países, comunidades y empresas, sin que se concentren en un grupo reducido de actores.
Para lograr esa distribución, Nadella propuso un ecosistema de punta en el que convivan tanto los modelos de código cerrado como los de código abierto. Esta coexistencia, según explicó, amplía las opciones disponibles para quienes desarrollan e implementan soluciones de inteligencia artificial.
El ejecutivo insistió en que ningún grupo pequeño de entidades puede controlar este proceso de forma exclusiva. En cambio, reclamó una representación amplia que incluya a distintos países, disciplinas y a la academia, como condición para que la gobernanza de la superinteligencia no quede secuestrada por intereses particulares.
Autonomía de las empresas frente a los proveedores de modelos de IA
Otro punto clave del mensaje de Nadella apunta directamente a las organizaciones que adoptan tecnología de inteligencia artificial. El directivo señaló que es imperativo que estas empresas mantengan el control total sobre su conocimiento único y tácito, es decir, la información y los procesos que las diferencian de la competencia.
Nadella planteó que cada organización debería poder construir su propia máquina de aprendizaje continuo y optimización, un concepto que denominó hill climbing machine en inglés. El objetivo es que las empresas no dependan de un solo proveedor de modelos de inteligencia artificial para gestionar su información estratégica.
Esa autonomía, según detalló, también implica la capacidad de integrar el conocimiento propio de cada empresa en modelos y pesos que ella misma controle, sin delegar esa gestión a terceros. Se trata de un enfoque que busca equilibrar la adopción masiva de IA con la preservación de la independencia tecnológica de las organizaciones.
Código de conducta para los modelos MAI de Microsoft
Como acción concreta dentro de esta visión, Nadella confirmó que Microsoft presentará un Código de Conducta que sustenta sus propios modelos MAI, desarrollados directamente por la compañía. El directivo anunció que ese documento se publicaría al día siguiente de su declaración para someterse a consulta pública.
Nadella resumió su postura en tres pilares que guían la estrategia de Microsoft en este ámbito:
- Acceso amplio y libertad de elección en cada capa de la arquitectura de inteligencia artificial.
- Control empresarial sobre los modelos y los bucles de aprendizaje.
- El Código de Conducta que respalda los modelos MAI de la compañía.
Fuente: Infobae