La inteligencia artificial (IA) se está integrando cada vez más en las administraciones públicas para agilizar trámites, examinar grandes volúmenes de datos y mejorar la prestación de servicios a la ciudadanía. Sin embargo, este avance trae consigo un reto fundamental: asegurar que los sistemas sean fiables, abiertos a la inspección y sometidos a controles rigurosos.
De acuerdo con un estudio de Gartner, el 74% de los organismos estatales ya ha puesto en marcha o tiene previsto adoptar soluciones de IA en los próximos doce meses, con un interés particular en la inteligencia artificial generativa (78%) y los agentes de IA (49%). Frente a esta tendencia, el software de código abierto (open source) está cobrando relevancia como una vía para reforzar el dominio sobre las plataformas y minimizar los peligros derivados de la dependencia tecnológica.
A diferencia de los sistemas cerrados, las herramientas open source ofrecen la posibilidad de examinar, verificar y modificar el funcionamiento de los algoritmos, una capacidad que resulta estratégica para los gobiernos que desean mayor claridad sobre el tratamiento de los datos y la lógica de las decisiones automatizadas.
La confianza se convierte en el gran desafío
El auge de la inteligencia artificial en el sector público también incrementa las inquietudes en torno a la seguridad, la salvaguarda de la información personal y la credibilidad ante la ciudadanía. Fenómenos como los deepfakes, el robo de identidad digital y las operaciones de desinformación obligan a los estados a endurecer los mecanismos de control sobre la información que alimenta estos sistemas.
El siguiente paso para las entidades gubernamentales ya no será simplemente incorporar IA, sino probar que las resoluciones adoptadas por estas herramientas son fiables, transparentes y susceptibles de verificación.
De hecho, Gartner pronostica que para 2028 el 40% de las organizaciones gubernamentales dispondrá de equipos dedicados a TrustOps (Operaciones de Confianza), una disciplina enfocada en proteger la integridad de los datos, confirmar la autenticidad de la información y detectar amenazas en tiempo real.
Según los analistas, este enfoque conjuga seguridad, gobernanza y supervisión permanente para disminuir los riesgos vinculados a fraudes digitales, alteración de datos y fallos en sistemas esenciales.
“No basta con tener acceso a los datos o a los modelos; es necesario garantizar la procedencia de la información, la integridad de los procesos y la trazabilidad de las decisiones”, afirmó Gilson Magalhães, vicepresidente y gerente general para América Latina en Red Hat.
América Latina también enfrenta el reto
El debate no se limita a las naciones más industrializadas. En particular, en América Latina, la adopción de tecnologías open source para edificar un modelo operativo abierto, seguro y escalable en la era de la IA será fundamental.
Según la Organización para la Cooperación y el Desarrollo Económicos (OCDE), aunque la inteligencia artificial ya forma parte de la agenda de la mayoría de los gobiernos latinoamericanos, su implementación sigue siendo desigual y enfrenta obstáculos relacionados con la transparencia, la ética y la confianza colectiva.
Tras examinar cerca de 200 casos de uso de IA en 11 funciones gubernamentales, la OCDE detectó peligros vinculados a la protección de datos, la gobernanza y la seguridad en todas las iniciativas evaluadas.
“La discusión sobre la IA en el sector público está directamente vinculada con la soberanía digital. Los gobiernos necesitan libertad para elegir tecnologías, preservar el control sobre sus datos y evitar dependencias excesivas de plataformas propietarias”, señaló Martha Ardila, gerente de país en Red Hat para Centroamérica, Caribe, Perú y Bolivia.
De acuerdo con los especialistas, gracias al empleo de tecnologías open source, estas organizaciones pueden elevar la eficiencia operativa mediante la estandarización de la infraestructura, la ampliación de la automatización, la administración eficaz de entornos híbridos y la mejora continua de las operaciones basadas en datos.
“Las plataformas abiertas ofrecen una base consistente para el desarrollo y la implementación de iniciativas de IA, garantizando interoperabilidad, gobernanza y un mayor control sobre los datos estratégicos”, explica Thiago Araki, director sénior de tecnología para América Latina en Red Hat.
Brasil y México ya avanzan en proyectos de IA
Varias instituciones de la región ya están llevando a cabo proyectos para renovar su infraestructura tecnológica y facilitar la incorporación de inteligencia artificial.
Entre ellas figura el Ministerio Público del Estado de Rondônia (MPRO), en Brasil, que halló en Red Hat OpenShift el camino para modernizar la gestión de su infraestructura sin necesidad de reescribir el código de sistemas heredados.
Actualmente trabaja en la consolidación de su estrategia de IA mediante la adopción de Red Hat OpenShift AI, lo que le permitirá gestionar el ciclo de vida completo de proyectos de machine learning y fortalecer sus capacidades de IA con mayor escalabilidad y gobernanza.
Por otro lado, el Instituto Mexicano del Seguro Social (IMSS) transformó una infraestructura obsoleta en un modelo eficiente basado en microservicios con Red Hat OpenShift. De acuerdo con la organización, la modernización no solo redujo los tiempos de implementación de semanas a días, sino que también ayudó a garantizar la estabilidad de servicios críticos y a preparar a la institución para la adopción de IA.
El desafío ya no es adoptar IA, sino confiar en ella
La confianza en la IA estatal no depende únicamente del software final, sino también del modo en que las aplicaciones se desarrollan, distribuyen y mantienen. En un contexto de ataques crecientes a la cadena de suministro de software, los expertos consideran que la seguridad debe estar presente desde las primeras etapas del ciclo de desarrollo.
El enfoque actual contempla prácticas de automatización, validación continua, firma criptográfica de artefactos, monitoreo constante de vulnerabilidades e integración de capacidades de seguridad en los flujos de trabajo de IA.
Daniel Romero, gerente sénior de automatización para América Latina en Red Hat, indicó que la automatización reduce la exposición a errores humanos, acelera la aplicación de políticas de seguridad y garantiza la consistencia operativa a gran escala. En el ámbito gubernamental, estas capacidades adquieren carácter estratégico.
Garantizar que los datos sean auténticos, que las decisiones puedan auditarse y que los sistemas operen bajo criterios de seguridad será determinante para que ciudadanos y gobiernos puedan aprovechar el potencial de la IA sin comprometer la integridad de los servicios.
Fuente: Infobae