El crecimiento acelerado de los modelos de inteligencia artificial originados en China ha encendido las alarmas tanto en Europa como en América Latina. Distintos especialistas señalan que su implementación en áreas críticas conlleva riesgos de gobernanza y dependencia estratégica. Así lo afirma Patrick Upmann, creador de AIGN.global y reconocido experto alemán en gobernanza de IA.
De acuerdo con Upmann, el problema central radica en la opacidad de la gobernanza que envuelve a estos sistemas. En declaraciones exclusivas, el especialista explicó: “Cuando una empresa incorpora un modelo de IA, asume un entorno de gobernanza oculto: lógica de datos, reglas de alineamiento, filtros de seguridad, mecanismos de actualización, restricciones políticas, dependencia del proveedor y el marco legal detrás del sistema”.
Para compañías europeas y latinoamericanas que ya usan inteligencia artificial en administración pública, finanzas, infraestructura, educación, medios, salud o toma de decisiones corporativas, la amenaza es concreta. Upmann subraya que la ausencia de auditoría independiente y la falta de claridad en la lógica de entrenamiento, sumadas a actualizaciones externas fuera del control del usuario, podrían provocar que las organizaciones cedan parte de su juicio institucional a una infraestructura foránea.
El experto fue contundente: “No se trata solo de un problema técnico, sino de la capacidad de una institución para mantener control sobre su propio criterio”.
Los modelos chinos suelen promocionarse como open-source, accesibles y altamente competitivos. Sin embargo, Upmann recomienda que gobiernos y empresas en Europa y América Latina adopten un enfoque de gobernanza basada en riesgos antes de integrarlos.
Entre las preguntas que sugiere plantearse están: el propósito del uso, el tipo de datos procesados, la posibilidad de auditoría independiente, el control de actualizaciones, la jurisdicción aplicable y el riesgo de dependencia geopolítica. En sus palabras: “El código abierto no garantiza confiabilidad. Puede haber apertura en el código, pero opacidad en los datos de entrenamiento, lógica de alineamiento y contexto geopolítico”.
Para aplicaciones de bajo riesgo, estos sistemas podrían ser útiles. No obstante, Upmann advierte que en sectores regulados se deben imponer condiciones estrictas: transparencia, trazabilidad, pruebas independientes, protección de datos, revisión de seguridad, supervisión humana y estrategias de salida. “La asequibilidad es relevante, pero una inteligencia artificial barata puede generar altos costos estratégicos si crea dependencia”, sentenció el fundador de AIGN.
Consultado sobre si estos sistemas pueden amplificar la influencia política de Beijing, Upmann sostuvo que el efecto se produce de manera indirecta. “La influencia de la inteligencia artificial puede operar mediante respuestas predeterminadas, lógica de ranking, comportamiento de rechazo, moderación de contenidos, selección de fuentes, enmarque de lenguaje, sistemas educativos, herramientas de traducción o asistentes de programación”, detalló.
En regiones como América Latina, donde la infraestructura digital crece rápidamente, los modelos de IA podrían infiltrarse en servicios públicos, medios de comunicación y procesos corporativos, estableciendo condiciones invisibles para la generación del conocimiento.
Respecto al sesgo ideológico, mientras que las plataformas estadounidenses han sido criticadas por inclinaciones progresistas, Upmann afirmó que en China la situación es estructural. “No se trata solo de sesgo, sino de operar dentro de los límites de un sistema político de partido único y un orden de información estatal”, precisó. Por ello, insta a las instituciones extranjeras a evaluar no solo la exactitud y el rendimiento, sino también la neutralidad, los patrones de rechazo, la selección de fuentes y el comportamiento frente a temas sensibles.
En cuanto a la posibilidad de imponer estándares internacionales de gobernanza de IA a regímenes autoritarios, Upmann consideró que no son aplicables internamente en esos países. No obstante, podrían servir para que los mercados democráticos definan las condiciones de acceso a sus sectores críticos. Propone exigir: documentación, auditabilidad, protección de datos, ciberseguridad, clasificación de riesgos, supervisión humana, reportes de incidentes y evidencia de cumplimiento para cualquier sistema que quiera operar en mercados regulados.
Finalmente, al comparar la competencia global en inteligencia artificial con la carrera armamentista nuclear, Upmann reconoció semejanzas estratégicas, pero destacó diferencias clave. La IA es distribuida, escalable, de uso dual y penetra plataformas comerciales, infraestructura crítica y sistemas autónomos. “La carrera de la IA no es solo de capacidad destructiva, sino de capacidad cognitiva, económica e institucional”, concluyó el especialista.
Fuente: Infobae