Un juez rechazó un reclamo judicial que fue confeccionado con Inteligencia Artificial

El juez Civil y Comercial de Villa Constitución David Lisandrello dictó una resolución sobre el uso "acrítico" de herramientas de inteligencia artficial como ChatGPT o Gemini en el ejercicio de la abogacía.

Todo se inició cuando el juez se percató de que un abogado había presentado un reclamo judicial basándose en normas y plazos que no existen en el Código Procesal de Santa Fe. El magistrado explicó en su presentación que los modelos de IA "no nativos para cuestiones jurídicas" suelen tener "comprobadas alucinaciones". Es decir, situaciones donde la máquina, ante la falta de una respuesta real, inventa una que suena lógica pero carece de sustento legal.

Para el juez “el planteo incidental ha sido articulado sobre la base de un plazo que no encuentra sustento en el código procesal santafesino, sino que por la tan segura -y a la vez tan equivocada- afirmación realizada, por la cadencia del estilo gramatical y la construcción típica de las frases, en un alto grado de verosimilitud se advierte que es producto de la IA, mal utilizada”.

La IA y el código procesal

En otro aparte, el magistrado da por seguro que “se verifica que no se trata de una simple deficiencia argumental, sino de la introducción en el proceso de una premisa normativa inexistente, lo que desplaza indebidamente el eje del debate y obliga a las restantes partes y al tribunal a pronunciarse sobre construcciones carentes de anclaje jurídico: planteos, traslados, resoluciones (como ésta) totalmente innecesarias, motivadas solamente en el abuso de los modelos de IA”.

El magistrado sostuvo que “no se trata de cuestionar la herramienta en sí, sino de recordar que su utilización no puede implicar una ruptura o abandono en la cadena de control que debe preceder a todo acto jurídico procesal” y ordenó que la decisiones comunique a la Delegación del Colegio de Abogados de Villa Constitución y por su intermedio al Directorio del Colegio de Abogados de Rosario, para que por medio de sus institutos y comisiones, y el propio Tribunal de Ética se tome razón de una nueva arista de complicación del abuso de la IA, tal es: el planteo de incidentes basados en normas inexistentes.

Leer más: "La inteligencia artificial es una herramienta para el bien de los seres humanos, no para sustituirlos"

Antecedente en Rosario

En tanto, en agosto de 2025 la Cámara de Apelaciones de Rosario confirmó un fallo de primera instancia por una demanda, pero la resolución incluyó un llamado de atención para un abogado por citas de jurisprudencia inexistente. La resolución incluyó una advertencia formal sobre el uso incorrecto de Inteligencia Artificial (IA), que ya está regulado a nivel local. En este caso el juez Oscar Puccinelli confirmó el error cuando empezó a buscar fallos mencionados en el escrito del representante de la parte actora y no pudo encontrarlos. Si bien aclaró que su veredicto no implica una sanción, el magistrado decidió dar cuenta del problema de las alucinaciones a la hora de emplear chatbots para los escritos.

"Es un fallo muy controvertido en cuanto a los efectos que produce", opinó en su momento la presidenta del Instituto de Inteligencia Artificial Aplicado al Derecho en Rosario, Claudia Guardia. Además del debate general en torno al uso ético y responsable de los sistemas de IA, señaló que el caso es muy extraño porque el profesional involucrado argumentó que actuó "de buena fe" y su equivocación no modificó el rumbo del proceso: "Tenía todo para ganar y de hecho lo ganó. En vez de sumarle, esta cita le restó".

Leer más: ¿Con la Inteligencia Artificial se podrá juzgar a delincuentes o decidir en un juicio comercial?

Un abogado en problemas

Durante la revisión del fallo en la Sala II de la Cámara de Apelación en lo Civil y Comercial, el abogado se retractó de las citas de jurisprudencia que había hecho cuando contestó los agravios de la parte demandada. Entonces reconoció que ese material fue introducido con IA generativa, de modo que no pudo hallarlo cuando le solicitaron los fallos correspondientes.

"Corresponde hacer un llamado de atención al letrado en cuestión y, además, a fin de prevenir que este tipo de situaciones se generalice en el fuero", puntualizó Puccinelli. Así anunció la comunicación formal con el Colegio de Abogados de Rosario.