Con 27 años de experiencia desarrollando soluciones tecnológicas, de los cuales los últimos cuatro se han centrado en inteligencia artificial para industrias reales en mercados globales, el autor ha participado en proyectos de transformación digital para empresas de diversos tamaños y sectores. A lo largo de este camino, una lección ha quedado clara: los retos más complejos rara vez son de índole técnica. Los verdaderos problemas aparecen cuando una decisión automatizada impacta directamente sobre las personas y la sociedad en su conjunto.
¿Qué sucede cuando un algoritmo discrimina sin que nadie lo note, o peor aún, lo hace deliberadamente y no existe ley que lo obligue a ser imparcial? ¿Quién asume la responsabilidad cuando un sistema genera daños económicos, sociales o reputacionales sin un marco legal que lo ampare? ¿Qué mecanismos existen para reparar esos errores? Son preguntas incómodas, pero tan inevitables como necesarias. Y lo seguirán siendo, aunque decidamos ignorarlas.
Por eso, al leer la propuesta del presidente Javier Milei en Financial Times sobre la creación de corporaciones no humanas, la preocupación fue inmediata. No porque el diagnóstico sea equivocado. De hecho, hay coincidencia en varios puntos centrales. Argentina tiene una oportunidad extraordinaria en la economía de la inteligencia artificial: contamos con talento, capacidad emprendedora y una industria tecnológica que compite exitosamente a nivel global. También es cierto que muchas regulaciones fueron diseñadas para otra época y necesitan actualizarse.
Sin embargo, una cosa es modernizar las instituciones y otra muy distinta es eliminar responsabilidades.
Una cosa es modernizar las instituciones y otra muy distinta es eliminar responsabilidades
Milei compara esta nueva figura jurídica con la aparición de las sociedades de responsabilidad limitada, una innovación que efectivamente transformó el capitalismo moderno. La analogía resulta atractiva. Pero hay un detalle fundamental que suele quedar fuera de esa comparación: las sociedades de responsabilidad limitada surgieron dentro de sistemas jurídicos capaces de establecer obligaciones, controles y mecanismos de reparación. No nacieron en un vacío regulatorio.
La responsabilidad limitada nunca significó ausencia de responsabilidad. Por eso preocupa la idea de habilitar organizaciones autónomas donde la participación humana sea opcional. Si una inteligencia artificial puede administrar activos, tomar decisiones estratégicas, contratar personal o ejecutar operaciones complejas, la pregunta sigue siendo la misma: ¿quién responde cuando algo sale mal?
No se trata de una objeción filosófica o ideológica. Es una cuestión práctica. Si un sistema autónomo afecta la salud mental de adolescentes, discrimina a grupos vulnerables, provoca daños ambientales o perjudica a miles de usuarios para maximizar eficiencia, alguien debe hacerse cargo de las consecuencias. No alcanza con celebrar la innovación irresponsable de moda. También necesitamos garantizar mecanismos de responsabilidad. Esto no aplica a un partido político, a un país o a una región: el punto aquí es global.
Resultó especialmente interesante la respuesta de Yuval Noah Harari, también publicada en Financial Times. Aunque proviene de una mirada distinta, identifica una preocupación muy similar. Harari advierte que otorgar personalidad jurídica a agentes de inteligencia artificial podría funcionar como una “llave maestra” para acceder a sistemas financieros, económicos e incluso políticos.
Más allá de la metáfora, el planteo apunta al mismo problema: estamos discutiendo cómo ampliar las capacidades de estos sistemas sin resolver antes quién responderá por sus decisiones.
Harari advierte que otorgar personalidad jurídica a agentes de inteligencia artificial podría funcionar como una “llave maestra” para acceder a sistemas financieros, económicos e incluso político
Harari lleva el argumento un paso más allá y plantea algo que merece atención: las inteligencias artificiales no experimentan incentivos ni límites del mismo modo que los seres humanos. Un ejecutivo humano puede perseguir beneficios económicos, pero también teme sanciones personales, daños reputacionales o incluso la pérdida de su libertad. Una IA no comparte esas motivaciones.
La observación puede parecer teórica, pero tiene consecuencias muy concretas. Si una organización autónoma encuentra vacíos regulatorios o mecanismos para maximizar sus objetivos, ¿qué herramientas tendremos para corregir su conducta? ¿Cómo aplicaremos sanciones efectivas? ¿Qué ocurrirá cuando los incentivos tecnológicos entren en conflicto con los intereses de la sociedad?
Son interrogantes que todavía no tienen respuestas satisfactorias. Por eso el debate está mal planteado cuando se presenta como una elección entre innovación o regulación. La historia demuestra exactamente lo contrario: ninguna revolución tecnológica exitosa prosperó únicamente gracias a la ausencia de reglas. Las transformaciones más duraderas fueron aquellas que lograron combinar creatividad, inversión y responsabilidad institucional. Ese es un avance sostenible, no un eslogan.
La confianza pública no aparece espontáneamente: se construye. Si Argentina quiere convertirse en un líder global en inteligencia artificial, debería hacerlo sobre tres principios básicos.
- Responsabilidad trazable. Siempre debe existir una persona o entidad claramente identificable que responda por las consecuencias de un sistema autónomo.
- Creación de espacios regulados para experimentar. La innovación necesita margen para probar, equivocarse y mejorar. Pero también necesita supervisión y límites claros.
- Transparencia algorítmica mínima. Cuando una tecnología influye sobre decisiones vinculadas con salud, educación, empleo o crédito, debe existir la posibilidad de comprender cómo llegó a una determinada conclusión.
Estoy convencido de que Argentina puede desempeñar un papel relevante en la economía global de la inteligencia artificial: tenemos las condiciones para hacerlo. Pero el liderazgo tecnológico del siglo XXI no se medirá solamente por la velocidad con la que adoptemos nuevas herramientas. También se medirá por nuestra capacidad para garantizar que esos avances beneficien a las personas y fortalezcan las instituciones.
No necesitamos convertirnos en el país que menos regula. Necesitamos convertirnos en el país que mejor entiende cómo combinar innovación con responsabilidad. Ese sí sería un liderazgo verdaderamente histórico.
El autor es CEO y Founder de Santex
Fuente: Infobae
