El poder judicial, identificado como poder esencial en nuestro estado de derecho y, particularmente, el servicio de justicia que tanto la Constitución Nacional como Provincial le asigna, se encuentra inmerso en un proceso de transformación digital irreversible, que a la vez, no admite límites ni fronteras. En la Provincia de Santa Fe, como en el resto del país, la incorporación de herramientas tecnológicas tales como la Inteligencia Artificial Generativa (IAG), se ha convertido en uno de los debates centrales, llevándolo a extremos que suponen un abordaje ontológico. Especialmente, para los jueces con competencia civil y comercial, quienes manejan importantes volúmenes de información, gestionando conflictos cada vez más complejos, la IAG se presenta como una herramienta de apoyo que ofrece oportunidades significativas para mejorar la eficiencia y facilitar la labor diaria, colaborando en la ideación, análisis, redacción y comunicación de información judicial.
El volumen de expedientes ingresados en el año 2024 representa la nueva demanda de justicia absorbida por cada juzgado durante dicho periodo. En dicho lapso, el promedio de juicios ingresados alcanza una cantidad aproximada a los 800 expedientes por juzgado.
En términos de producción, los juzgados del fuero civil y comercial de Rosario demostraron una capacidad sólida y relativamente pareja para la conclusión de casos mediante sentencia definitiva, logrando un promedio total que oscila entre las 150/200 por cada unidad jurisdiccional. A ello debe agregarse las resoluciones interlocutorias (resoluciones intermedias dictadas durante la tramitación del proceso), cuyo promedio oscila entre los 1.200 y 1.500 pronunciamientos anuales.
La IAG, un complemento vital para el juzgador santafesino
En ese contexto, para un magistrado civil y comercial, la IAG se presenta como un aliado formidable. Las guías de buenas prácticas emitidas por el Poder Judicial de Santa Fe (implementadas mediante Circular 25/25) confirman que la IAG ofrece oportunidades significativas para mejorar la eficiencia y facilitar la labor diaria. Estas herramientas están diseñadas para complementar y fortalecer las habilidades y el juicio de los operadores judiciales.
En el día a día del juzgado, la IAG puede colaborar sustancialmente en:
1. Ideación y Análisis: Ayuda a generar ideas o a procesar vastas cantidades de datos para extraer resúmenes, lo que facilita la investigación legal y la revisión de documentos en pocos minutos o segundos.
2. Redacción de Documentos: Puede asistir en la producción de borradores de documentos, como providencias o informes, y mejorar la calidad del trabajo de los agentes judiciales.
3. Comunicación: Colabora en la redacción, comunicación y divulgación de información judicial, incluso ayudando a escribir claramente y en lenguaje accesible para determinados destinatarios.
4. Soporte de Decisiones: Si bien no toma la decisión final, la IAG puede apoyar los procesos de toma de decisiones y la automatización de tareas.
En esencia, la IAG constituye siempre una herramienta que complementa las habilidades humanas, sin que ello implique sustituir las competencias específicas.
Paralelamente, la integración de la IAG en el servicio de justicia conlleva una serie de desafíos y riesgos cruciales que debemos abordar mediante una estrategia integral que garantice el cumplimiento de deberes éticos y el respeto irrestricto de los principios fundamentales del derecho.
El equilibrio entre la innovación tecnológica (específicamente la integración de la IAG) y los deberes fundamentales del Poder Judicial se logra a través de la implementación de un marco estratégico riguroso, ético y de buenas prácticas, cuyo eje rector es garantizar que la tecnología sirva como un complemento y no como un sustituto del juicio humano.
A todo evento, no debe soslayarse que por imposición de la nueva Constitución de la Provincia de Santa Fe, no sólo se ha previsto la protección efectiva de los datos personales en los entornos digitales, sino además –y específicamente-, se ha reconocido el derecho a conocer de forma clara, accesible y comprensible los criterios, parámetros y lógicas utilizadas en los sistemas automatizados o algorítmicos de toma de decisiones y a la intervención de una persona humana cuando esa decisión pueda afectar sus derechos, especialmente en los que se implemente inteligencia artificial u otras tecnologías emergentes (art. 29).
El logro de tal objetivo se apoya en los siguientes preceptos:
1. Mantenimiento de la Responsabilidad y el Juicio Humano. El pilar fundamental del requerido equilibrio es la prohibición estricta de delegar la toma de decisiones. La IAG debe ser vista como una herramienta de apoyo que complementa las habilidades humanas, pero no sustituye las competencias propias de los órganos jurisdiccionales.
La implementación y el uso de herramientas de la IAG no exime ni disminuye las responsabilidades funcionales y éticas que las leyes establecen para magistrados y funcionarios. Los jueces son los responsables finales de sus decisiones jurisdiccionales.
El juicio humano debe prevalecer en todo momento garantizando una supervisión humana suficiente sobre los resultados generados. Las herramientas están diseñadas para mejorar, complementar y fortalecer las habilidades y el juicio de los operadores judiciales, sin pretender sustituirlos.
2. Garantía de la Fiabilidad, Transparencia y Ética. Para contrarrestar el riesgo de inexactitud o "alucinaciones", se impone la validación obligatoria del contenido generado. Los resultados obtenidos deben ser revisados críticamente y contrastados con fuentes de información confiables, así como con el propio criterio judicial.
En igual sentido, se debe garantizar el estricto respeto a los Derechos Fundamentales. Dado que los modelos pueden reflejar prejuicios y/o estereotipos (sesgos), los usuarios deben identificar y suprimir cualquier contenido sesgado y/o discriminatorio en las respuestas generadas por la IAG.
Los sistemas de IAG a menudo funcionan como “cajas negras”, donde sus procesos internos son opacos, dificultando la explicación de cómo se llegó a un resultado específico. Aunque la IAG puede funcionar como una “caja negra”, dificultando la justificación de los resultados, los usuarios deben evitar el uso de IAG en ámbitos o tareas sobre las que no pueden hacer una verificación con base en su propio conocimiento.
3. Protección de la Confidencialidad y Seguridad de Datos. Muchas plataformas de IAG disponibles públicamente (como por ejemplo, ChatGPT) operan con modelos de entrenamiento abiertos, lo que significa que la información ingresada en los prompts se utiliza para seguir entrenando el modelo. Esto hace que dicha información se vuelva potencialmente accesible al público. En este contexto, la protección de datos personales y la confidencialidad de la información manejada por el Poder Judicial representan un desafío crítico. La protección de datos personales y la confidencialidad son deberes fundamentales que se mantienen plenamente vigentes con el uso de la IA.
Se debe utilizar la tecnología de IA de manera que prevenga la divulgación pública de información de naturaleza confidencial, privada o sensible. No se deben incluir datos personales o información confidencial en las instrucciones dadas a herramientas de IAG cuyas políticas de privacidad no garanticen que la información ingresada no será utilizada para entrenar el modelo o para otros usos comerciales.
Cuando sea necesario procesar documentos con herramientas de IAG que no garanticen la protección de los datos, se deben implementar técnicas y herramientas que aseguren la anonimización o seudonimización de datos personales previamente.
Las reglas que rigen la seguridad y confidencialidad de los registros judiciales se aplican plenamente. Esto implica que no se debe ingresar ningún documento archivado o presentado en los tribunales en una plataforma de modelo público, ya que esto podría hacer que la exposición de la información sensible sea permanente.
Los desafíos éticos y profesionales
La adopción de esta novedosa herramienta tecnológica exige una diligencia proactiva reforzada. Los jueces, aunque pueden apoyarse en estos sistemas, se enfrentan a desafíos críticos que requieren un adecuado equilibrio entre la innovación y el cumplimiento de los deberes esenciales de la actividad jurisdiccional.
La integración de la Inteligencia Artificial Generativa (IAG) en el servicio de justicia, si bien ofrece oportunidades significativas para mejorar la eficiencia y facilitar la labor diaria, conlleva una serie de riesgos éticos y operativos críticos que deben ser mitigados mediante una estrategia integral.
Estos riesgos, reconocidos en las guías de buenas prácticas, se centran en las limitaciones intrínsecas de los grandes modelos de lenguaje (LLM) y la necesidad de mantener el control humano y el cumplimiento normativo.
Los riesgos éticos se refieren a la potencial violación de los deberes fundamentales del Poder Judicial, incluyendo la imparcialidad, la confidencialidad, la rendición de cuentas y el respeto a los derechos humanos.
Los riesgos operativos se refieren a las limitaciones funcionales y técnicas de los modelos de IAG que pueden afectar la calidad y precisión del trabajo judicial.
El uso de la Inteligencia Artificial Generativa (IAG) está siendo reconocido como un salto evolutivo en el ámbito tecnológico que presenta uno de los mayores desafíos y, simultáneamente, una de las mayores oportunidades en la historia reciente de la administración de justicia.
Los fundamentos que explican por qué la IAG puede significar una revolución en la prestación del servicio de justicia se centran en su capacidad para mejorar significativamente la eficiencia, potenciar el razonamiento jurídico humano y ampliar el acceso a la justicia.
Conclusión
La incorporación de la IAG en la Justicia Civil y Comercial de Santa Fe es un paso necesario hacia la eficiencia y la modernización. Pero el éxito de esta integración depende enteramente de la capacitación continua de magistrados y funcionarios y de un enfoque que equilibre la innovación tecnológica con la ética profesional.
La tecnología es la herramienta, no el juez. El verdadero desafío es garantizar que, al abrazar el algoritmo, el servicio de justicia nunca pierda de vista el juicio crítico, la responsabilidad humana y el respeto irrestricto por los derechos fundamentales. Solo así la revolución tecnológica estará verdaderamente al servicio de la justicia y de la ciudadanía.
Ricardo Alberto Ruiz es juez de primera instancia civil y comercial de Rosario, profesor adjunto de la Facultad de Derecho de la Universidad Nacional de Rosario (UNR) y profesor de Posgrado de la Facultad de Ciencias Económicas y Estadística de la UNR
