Un fallo judicial que marcó un precedente
En junio de 2025, un juez penal de Esquel dictó una condena de dos años y seis meses de prisión por robo. La defensa apeló y, al revisar la sentencia, la Cámara descubrió una línea sospechosa: la frase con la que un asistente de inteligencia artificial le entregaba el texto al magistrado había quedado pegada en el fallo. La Cámara anuló la sentencia sin que nadie lo solicitara, argumentando que era imposible discernir qué parte del razonamiento pertenecía al juez y cuál a la máquina. Meses después, el Superior Tribunal de Chubut revirtió esa nulidad, sosteniendo que el uso de una herramienta de apoyo no prueba por sí solo una delegación del juicio. El expediente regresó a la Cámara. Ambos tribunales discreparon sobre la nulidad, pero coincidieron en que juzgar no se delega, y que la sentencia siempre es de quien la firma, quien responde por cada palabra escrita.
El caso Air Canada: cuando el chatbot se convierte en excusa
En 2022, un pasajero canadiense consultó al chatbot de Air Canada sobre la tarifa de duelo para viajar al funeral de su abuela. El sistema le indicó que podía solicitar el descuento después de volar, lo cual era falso. La aerolínea se negó a pagar y, ante el tribunal de Columbia Británica que la condenó en 2024, su defensa fue casi idéntica a la del juez patagónico: sostener que el chatbot era una entidad separada, responsable de sus propios actos. Aunque el monto en disputa era de unos cientos de dólares, el tribunal advirtió que si ese argumento prosperaba, cualquier compañía podría esconderse detrás de su software.
El mismo dilema en el Senado
Esa discusión llegó al Senado durante el invierno, con el proyecto de nueva Ley General de Sociedades, que crea las “sociedades automatizadas”, empresas operadas mediante agentes de inteligencia artificial sin empleados humanos. El texto original establecía que por los daños respondiera la propia sociedad con su patrimonio. En agosto, el oficialismo aceptó que cada una tenga personas identificables que respondan, y hoy el capítulo está frenado. Como abogado, el autor del artículo original sostiene que la pregunta de quién responde cuando la IA se equivoca es menos misteriosa de lo que parece: responde quien decidió usarla y quien firma el resultado, sin necesidad de una ley especial. Las reglas de responsabilidad civil y defensa del consumidor ya existentes no hacen excepciones según la herramienta que causó el daño.
El verdadero problema: la IA entra en silencio
El problema práctico comienza antes de cualquier regulación. La decisión de usar IA casi nunca se toma en una reunión de directorio. La IA entra a las empresas en silencio: un empleado resume contratos con una herramienta gratuita, otro carga datos de clientes para armar una propuesta. El autor invita a hacer la prueba y preguntar en cada organización cuántos usos de inteligencia artificial existen hoy, con qué datos y quién los aprobó. Que la gente use estas herramientas es una buena noticia, pero la mala es que casi nadie lleva la cuenta de lo que se está delegando.
A esto se suma una deuda más antigua que la propia tecnología. Las herramientas de IA trabajan con los datos que la organización ya tiene, y muchas empresas conviven con bases duplicadas y definiciones contradictorias. Cuando el error quedaba en una planilla, el daño era acotado. Cuando alimenta un sistema automático, se repite a escala y a toda velocidad. Por la calidad de esos datos tampoco va a responder el proveedor del modelo.
Existe una dificultad adicional: estos sistemas escriben con la misma seguridad cuando aciertan que cuando inventan, y los humanos solemos confundir seguridad con conocimiento. La respuesta habitual es poner a una persona a supervisar, pero no alcanza. Quien firma lo que dice la máquina porque “lo dijo el algoritmo” no supervisa nada: presta la firma. Lo que la Cámara de Esquel no encontró en aquel expediente fueron rastros: no estaba la instrucción que el juez le dio al asistente ni manera de reconstruir qué evaluó él y qué no. Esa es la vara que viene para las empresas: poder demostrar que el control humano existió.
Tres preguntas que todo directorio debe responder
A un directorio le alcanza con poder contestar tres preguntas, sin entender una línea de cómo funciona un modelo de lenguaje: dónde estamos usando inteligencia artificial, qué decisiones le delegamos y quién firma cuando falla. Ninguna es técnica, así que ninguna se le puede derivar al área de sistemas. Si el lunes nadie en la mesa puede contestarlas, la empresa ya tiene un problema. Solo que todavía no se enteró.
Fuente: Infobae