El máximo tribunal de lo contencioso administrativo en Colombia fijó lineamientos claros sobre la aplicación de herramientas de inteligencia artificial en el ámbito de la justicia. La decisión se originó a partir de un expediente donde un abogado presentó fallos judiciales que nunca existieron, generados por el sistema ChatGPT. Con esta medida, la corporación busca prevenir errores, resguardar la seguridad jurídica y garantizar que las resoluciones judiciales permanezcan bajo control humano.
El fallo se emitió durante el análisis de un recurso extraordinario de unificación de jurisprudencia. Los recurrentes argumentaban que una sentencia previa había ignorado precedentes de la propia corporación. Sin embargo, al revisar las decisiones citadas, el tribunal constató que varias de ellas no existían o no coincidían con los datos registrados en el expediente.
La Relatoría de la Sección Tercera del Consejo de Estado realizó las verificaciones correspondientes y determinó que era imposible localizar las sentencias mencionadas. Este hallazgo impulsó a la Sala a desarrollar una reflexión profunda sobre los peligros de emplear inteligencia artificial generativa en actuaciones judiciales.
La postura central del tribunal es contundente: la inteligencia artificial puede servir como apoyo para buscar, organizar y procesar información, pero no sustituye el deber de verificar los datos ni la responsabilidad que tienen jueces y abogados sobre lo que presentan o resuelven.
Uno de los puntos clave de la providencia es el fenómeno conocido como “alucinaciones”, término que describe cuando los sistemas de inteligencia artificial generan información que aparenta ser correcta, coherente y convincente, pero que carece de sustento real. Según la resolución, herramientas como ChatGPT, Claude o Gemini pueden producir referencias jurídicas, normas o sentencias que parecen auténticas aunque jamás hayan existido. Por ello, el tribunal advierte que ningún dato obtenido por esta vía puede asumirse como verdadero de forma automática.
La corporación señaló que la capacidad de estos sistemas para redactar textos fluidos y bien estructurados puede generar una falsa sensación de confiabilidad. Por esa razón, exige que cualquier información sea sometida a verificación antes de emplearse en documentos oficiales o actuaciones judiciales.
“Su utilización sólo resulta admisible bajo una premisa esencial: administrar justicia es una función indelegable y toda decisión judicial debe emanar, siempre, del discernimiento autónomo, razonado y responsable de quien ejerce jurisdicción. La inteligencia artificial no decide, no valora pruebas, no interpreta el derecho con autoridad judicial ni responde por las consecuencias de una providencia; esa responsabilidad recae exclusivamente en el juez”, señaló el Consejo de Estado.
Derivado del caso que motivó la decisión, el Consejo de Estado ordenó remitir copia del expediente a la Comisión Seccional de Disciplina Judicial de Bogotá para que evalúe una posible conducta disciplinaria relacionada con las referencias jurisprudenciales inexistentes. Dicha remisión no implica una sanción inmediata, sino que abre una actuación para que la autoridad competente examine el comportamiento procesal observado durante el trámite del recurso.
La providencia dejó en claro que el uso de inteligencia artificial no elimina las obligaciones profesionales de quienes participan en procesos judiciales. Según la corporación, los abogados mantienen el deber de actuar con diligencia, buena fe y lealtad procesal; la responsabilidad sigue recayendo en quien firma y presenta los documentos.
El tribunal también estableció un límite para los jueces: no pueden delegar en estas herramientas la valoración de pruebas, la interpretación de los hechos ni la adopción de decisiones judiciales. La providencia recordó que la función jurisdiccional es indelegable.
La decisión no prohíbe la incorporación de estas tecnologías. Por el contrario, reconoce que ya son empleadas con frecuencia por profesionales de diversas áreas para búsquedas de información, redacción de documentos y apoyo investigativo. En el ámbito jurídico, pueden facilitar tareas sobre grandes volúmenes de datos. No obstante, el fallo también expresó reservas sobre los programas diseñados para detectar si un texto fue elaborado con inteligencia artificial. Según la providencia, esas herramientas todavía tienen limitaciones de precisión y confiabilidad que impiden otorgarles un valor determinante dentro de actuaciones judiciales.
La advertencia del tribunal se inserta en un debate más amplio dentro de la administración de justicia sobre los límites, riesgos y responsabilidades que acompañan el uso de estas plataformas. La posición del Consejo de Estado es clara: la tecnología puede ayudar a reducir tiempos y apoyar tareas técnicas, pero la decisión judicial y la validación de la información siguen siendo funciones exclusivamente humanas.
Fuente: Infobae
