La propuesta gubernamental para permitir empresas completamente automatizadas, sin una sola persona física como responsable legal, ha desatado una fuerte polémica que ha cruzado las fronteras argentinas y se ha colocado en el centro de la discusión global.
La iniciativa, promovida por la administración de Javier Milei y vendida como un gancho para atraer inversiones en tecnología e inteligencia artificial, ha recibido duras críticas de figuras internacionales como el historiador Yuval Noah Harari. Este advirtió que la reforma permitiría a las inteligencias artificiales operar como compañías tradicionales, pero sin exponer a individuos a consecuencias legales.
En este marco, Javier Pallero, analista de políticas digitales, ofreció una visión técnica y ética sobre el alcance de la modificación legal y sus repercusiones para el sistema jurídico y económico argentino. En conversación con el programa Infobae a la Tarde, enfatizó la necesidad de preservar controles humanos en cualquier empresa que utilice inteligencia artificial.
El modelo de empresas automatizadas y sus límites globales
La reforma oficial se inspira en las organizaciones autónomas descentralizadas (DAO), estructuras que operan en blockchain mediante contratos inteligentes que se ejecutan solos.
Pallero señaló que estas organizaciones pueden tomar decisiones y funcionar en tiempo real sin intervención humana directa. Sin embargo, subrayó que “no existe en el mundo una sociedad con figura societaria que funcione completamente sin humanos y con facultad de operar en el sistema financiero tradicional”.
El especialista indicó que, aunque las DAOs han abierto nuevas posibilidades en el ámbito digital, su traslado al derecho societario tradicional plantea desafíos nunca vistos. Pallero destacó la diferencia entre automatización y falta total de responsabilidad: “El mayor riesgo es que la responsabilidad quede limitada solo al patrimonio de la entidad y no alcance a una persona física que responda penalmente”.
La responsabilidad jurídica y la confianza ciudadana
Pallero puso el foco en el problema central del proyecto: la carencia de responsables humanos frente a potenciales delitos o fraudes. Explicó que “no es lo mismo tener responsabilidad limitada que poder ir preso por una posible estafa. Si con una sociedad de ese tipo se comete una estafa, respondería el patrimonio de la entidad, pero nadie responde con el propio cuerpo”.
Para el experto, esta diferencia marca un abismo entre sistemas con consecuencias reales y esquemas que operan en un vacío legal. El entrevistado alertó que la automatización extrema podría facilitar delitos difíciles de rastrear y dejar a las víctimas sin protección jurídica efectiva.
“La gente no se siente cómoda si no hay una persona responsable atrás. Siempre hay alguien moviendo las palancas, alguien que le da instrucciones a estos sistemas y se beneficia. Eliminar la responsabilidad humana es quitarle controles a quienes realmente dirigen la inteligencia artificial”, afirmó.
La opacidad algorítmica y el debate regulatorio
Otro punto crucial que mencionó Pallero es la falta de transparencia con la que operan los algoritmos de inteligencia artificial. Señaló que la dificultad para auditar las decisiones de estos sistemas, conocida como el “problema de la caja negra”, entorpece la trazabilidad legal: “¿Se imaginan cómo funcionaría una cosa que no podés auditar? Los algoritmos se actualizan y adaptan todo el tiempo. Sin controles humanos, el sistema pierde legitimidad y confianza”, advirtió.
En este contexto, Pallero recordó que otros experimentos internacionales fracasaron precisamente por la falta de transparencia y control. “Hay antecedentes de ciudades autónomas en Honduras, impulsadas por empresarios tecnológicos, que terminaron en conflictos legales y políticos”, ejemplificó.
El analista fue crítico con la promesa oficial de desregulación: “Prometer no regular la inteligencia artificial es muy aventurado. La IA tiene impacto en la salud, las finanzas, los datos personales y la privacidad. No se puede prometer no regular”.
Para Pallero, todo avance tecnológico debe ir acompañado de un marco de responsabilidad y trazabilidad. “Hay un incentivo económico, político y ético para que alguien esté identificado como responsable. Sin controles humanos, el sistema pierde legitimidad y confianza”, concluyó.
Fuente: Infobae
