El máximo responsable de Microsoft, Satya Nadella, ha lanzado una advertencia directa a las organizaciones que emplean modelos de inteligencia artificial: necesitan construir sus propios entornos de aprendizaje en la nube si quieren que sus datos sigan siendo exclusivos y no terminen en manos de las compañías dueñas de esos servicios, que pueden aprovecharlos para aprender y reutilizarlos.
Nadella explicó lo que denominó “la paradoja de la información inversa”. Se trata de una idea clave en la era de la inteligencia artificial: el comprador de esta tecnología “corre el riesgo de renunciar al conocimiento con tal de poder utilizar lo que ha comprado”, según escribió en su blog personal.
El directivo se refiere a que el usuario paga por usar un modelo de IA, pero además realiza un segundo pago implícito: la información que introduce para obtener respuestas. Esos datos se quedan en la infraestructura del proveedor, que puede acceder a ellos a través del proceso de destilación —mecanismo mediante el cual se extrae conocimiento de los resultados de los modelos para mejorarlos—.
En términos más simples, una compañía que contrata servicios como ChatGPT o Claude está pagando por acceder a la infraestructura de OpenAI y Anthropic, respectivamente. Para sacar provecho, debe introducir en la IA información especializada de la organización.
Mientras más datos se incorporen, más útil será la herramienta para la empresa, porque habrá aprendido de sus procesos. Sin embargo, esto coloca al usuario en desventaja, ya que, como afirma Nadella:
“Al consumir inteligencia, la creas”.
Esa información suministrada no desaparece; permanece en la infraestructura de la firma de IA. Los dueños de la tecnología aprenden cada vez más de sus clientes mediante la destilación, que es el proceso de extraer conocimiento de los resultados que ofrecen los modelos.
Nadella sostiene:
“Es el tipo de conocimiento que un competidor jamás podría comprar, y que se filtra casi imperceptiblemente: rastro a rastro, corrección a corrección, evaluación a evaluación”.
Además, señala que los proveedores posteriormente imponen “condiciones restrictivas a la extracción de datos”, lo que dificulta o impide que los usuarios puedan acceder a esa inteligencia generada con su propia información.
Ante este panorama, el directivo recomienda que las empresas exijan “el derecho a utilizar los resultados de los modelos para ajustar y/o entrenar sus propios modelos”. Ve en la nube la infraestructura ideal para que las organizaciones creen sus propios entornos de aprendizaje, entrenen modelos propios bajo criterios de privacidad.
Aunque no lo menciona explícitamente en su publicación, Satya Nadella es el CEO de Microsoft y una parte fundamental del negocio de esta firma es la nube Azure. Esto hace más relevante su cambio de visión sobre el uso de los modelos de IA y la información, respaldando su afirmación de que “una empresa debería poder utilizar un modelo sin renunciar al conocimiento que lo hace único”.
Fuente: Infobae
