El máximo responsable de Microsoft, Satya Nadella, lanzó una advertencia que está dando qué hablar: las compañías que utilizan inteligencia artificial terminan pagando por ella dos veces. La primera factura llega en forma de suscripción a servicios como Copilot de Microsoft o Gemini de Google. La segunda, mucho más costosa y silenciosa, implica entregar el conocimiento interno que hace única a cada organización a los gigantes tecnológicos.
“Esencialmente se paga la inteligencia dos veces: una con dinero y otra con algo aún más valioso: el conocimiento exclusivo que se debe revelar para que esa inteligencia sea útil. Cuanto mejor se quiere que funcione el modelo, más conocimiento hay que alimentarle”, escribió el directivo en un ensayo publicado en X.
Esta alerta pone el foco sobre un costo oculto que la mayoría de las organizaciones pasa por alto. Cada vez que una empresa recurre a una herramienta de IA, no solo consume el servicio: también está compartiendo, de manera casi inadvertida, parte del saber interno que la diferencia de sus competidores.
El concepto del “doble pago” según Nadella
Cuando una organización contrata un modelo de inteligencia artificial, ya sea para redactar informes, examinar datos o automatizar tareas, el primer paso es abonar una suscripción o un costo por uso. Ese desembolso es visible y esperado.
El segundo pago, en cambio, transcurre en las sombras. Para que el modelo rinda adecuadamente, la empresa debe proporcionarle contexto: la forma en que opera, el lenguaje que emplea, los fallos que comete y cómo los soluciona. Esa información, que se va acumulando en millones de interacciones, termina en manos del proveedor de IA.
“El vendedor aprende cada vez más sobre ti a medida que usas lo que compraste, mientras que tú aprendes muy poco sobre lo que el vendedor aprende a cambio”, escribió Nadella.
El escape silencioso del conocimiento
Nadella identificó el conducto por el que se fuga ese saber: lo denominó “exhaust” o escape de datos. No se trata de una vulnerabilidad de seguridad ni de un ataque informático.
El conocimiento se va filtrando a través de los mensajes que redactan los empleados, las herramientas que utilizan los agentes de IA y, sobre todo, las correcciones que aplican cuando el modelo se equivoca.
“Cada corrección se destila en conocimiento institucional. Es el tipo de conocimiento que un competidor nunca podría comprar, y el tipo que se filtra casi imperceptiblemente: traza a traza, corrección a corrección”, advirtió el ejecutivo.
En otras palabras, cada vez que un trabajador le señala al modelo que ha cometido un error y le explica la respuesta acertada, le está enseñando algo sobre el funcionamiento de su empresa. Ese aprendizaje, según Nadella, queda en manos del proveedor.
La paradoja inversa de la información
Nadella bautizó este fenómeno como Reverse Information Paradox (paradoja inversa de la información), en alusión a un concepto del economista Kenneth Arrow.
En la formulación original de Arrow, el riesgo recaía sobre el vendedor: no podía demostrar el valor de su información sin revelarla. En la era de la inteligencia artificial, el riesgo se ha trasladado al comprador.
“En la era de la IA, el comprador arriesga ceder conocimiento solo por usar lo que compró”, escribió Nadella.
La asimetría se agranda con el paso del tiempo: el proveedor de IA acumula cada vez más información sobre sus clientes, mientras que las empresas tienen una visibilidad muy limitada sobre qué está aprendiendo ese proveedor con sus datos.
Propuestas de Nadella para resguardar el conocimiento
El CEO de Microsoft planteó que las organizaciones deben construir lo que llamó un “límite de confianza” alrededor de sus datos, evaluaciones y memoria organizacional.
Nada debería cruzar esa frontera, ni siquiera el conocimiento generado por el uso de la IA, sin un consentimiento explícito.
Su lista de recomendaciones incluye cinco puntos clave:
- Controlar las propias evaluaciones de los modelos.
- Construir entornos de aprendizaje dentro de los límites del sistema propio.
- Separar la capa de orquestación de cualquier modelo específico para evitar la dependencia de un solo proveedor.
- Reducir costos a largo plazo.
- Preservar el valor que genera la empresa.
“Una compañía debería poder usar un modelo sin ceder el conocimiento que la hace única. Esa es la paradoja inversa de la información que necesitamos confrontar”, concluyó.
El ensayo ha generado un intenso debate, sobre todo porque Nadella es el CEO de Microsoft, la empresa que ha invertido miles de millones de dólares en OpenAI y cuyo asistente Copilot está diseñado para integrarse en los correos, archivos y chats corporativos de sus clientes.
Fuente: Infobae