En Nuevo México, un letrado especializado en derecho penal presentó ante un tribunal testimonios de personas que nunca existieron y documentos que jamás fueron redactados. Todo ocurrió tras utilizar ChatGPT para preparar la defensa de un hombre condenado por asesinato.
El caso concluyó con una multa de 5.000 dólares para el abogado Stephen Aarons, además de una remisión al Colegio de Abogados de Nuevo México para evaluar posibles medidas disciplinarias.
Aarons representaba a Oscar Renee Sandoval, quien fue sentenciado a cadena perpetua el año pasado por el asesinato de la madre de sus hijos. Durante el recurso de apelación, el abogado incluyó nombres de testigos inexistentes, testimonios falsos e informes policiales que nunca fueron elaborados.
Cuando el Tribunal Supremo de Nuevo México detectó los errores, Aarons explicó que había utilizado ChatGPT, el chatbot de OpenAI. Afirmó que desconocía hasta qué punto el sistema podía generar información falsa y calificó lo sucedido como un «error de buena fe».
Sin embargo, los jueces no aceptaron esa explicación. El tribunal consideró que el abogado tenía la obligación profesional de verificar la información incluida en los documentos antes de presentarlos.
¿Cómo ChatGPT generó información inexistente?
Aarons explicó que introdujo en ChatGPT una transcripción generada por ordenador y otro material del caso. Su intención era que la herramienta resumiera la documentación para facilitar la preparación del recurso. Esperaba que el sistema produjera un resumen fiable de la información proporcionada, pero ChatGPT generó datos que no estaban presentes en el material original.
Entre los errores aparecieron supuestos testimonios de personas que nunca existieron y referencias a informes policiales que jamás fueron redactados.
Este tipo de respuestas falsas se conoce como «alucinaciones» de la inteligencia artificial. Ocurre cuando un modelo produce información incorrecta o inventada, pero la presenta con una redacción convincente.
Durante una vista el 21 de agosto, la jueza C. Shannon Bacon cuestionó al abogado por su desconocimiento de estos riesgos. Señaló que los problemas derivados del uso de IA en el ámbito jurídico ya son ampliamente conocidos.
Sanciones y consecuencias
El Tribunal Supremo de Nuevo México declaró a Aarons culpable de desacato por no verificar la exactitud de la documentación presentada. Además de la multa de 5.000 dólares, el caso fue remitido al Colegio de Abogados de Nuevo México para determinar si se deben aplicar medidas disciplinarias adicionales.
Aarons manifestó posteriormente su arrepentimiento y pidió que se considerara su «error de buena fe». También reconoció que el caso demuestra los riesgos de confiar en una tecnología útil pero que no siempre brinda información correcta.
Por su parte, Oscar Renee Sandoval tendrá ahora otro abogado, ya que su caso será asumido por un defensor de oficio.
No es un caso aislado: errores de IA en otros tribunales
El caso de Nuevo México no es único. En los últimos años se han registrado diversas situaciones en las que abogados presentaron documentos judiciales con información incorrecta generada por inteligencia artificial. En algunos casos, los modelos han inventado sentencias, autores, precedentes o referencias jurídicas. También se han dado casos donde las sentencias citadas existían, pero no guardaban relación con el argumento que se pretendía respaldar.
Uno de estos episodios ocurrió en Siracusa, donde un abogado utilizó cuatro precedentes atribuidos al Tribunal Supremo italiano. Aunque las sentencias existían, el juez comprobó que trataban asuntos diferentes y no servían para sustentar los argumentos presentados.
También un bufete de Nueva York tuvo que disculparse ante un juez federal después de presentar un escrito con referencias erróneas o inexistentes generadas mediante IA.
Estos casos comparten un elemento común: la falta de una comprobación humana adecuada. Los modelos pueden ayudar a resumir documentos o preparar borradores, pero sus respuestas no garantizan que los datos sean verdaderos.
Fuente: Infobae