El pensamiento crítico: la frontera entre la justicia humana y el algoritmo

Hay una escena que ya no pertenece a la ciencia ficción: un juez, frente a su pantalla, recibe en segundos un borrador argumentativo elaborado por una inteligencia artificial a partir de los hechos de un expediente. El texto es fluido, cita jurisprudencia, emplea la terminología correcta. Todo parece en orden. Y sin embargo, algo decisivo puede estar ausente: el juicio humano.

Esta escena, que en la justicia civil y comercial santafesina comienza a ser una realidad cotidiana, nos obliga a formular una pregunta que tiene trasfondo jurídico como filosófico: ¿puede el pensamiento crítico ser reemplazado por un algoritmo? La respuesta, anticipada desde el sentido común pero urgida de fundamento, es un “no” categórico.

La magnitud del desafío

Los números hablan con elocuencia. Un juzgado civil y comercial de Rosario gestiona hoy una carga de trabajo promedio cercana a los 27.000 expedientes activos, con ingresos anuales que rondan los 800 nuevos casos y una producción de entre 1.200 y 1.500 resoluciones interlocutorias por año. Ante ese volumen, la inteligencia artificial generativa (IAG) se presenta como una herramienta formidable: puede resumir, redactar borradores, analizar documentos, organizar información. En ese plano de asistencia técnica, su valor es innegable.

Pero la administración de justicia no es solo gestión de información. Es, antes que nada, un acto profundamente humano en el que interviene alguien que escucha, que pondera, que decide sobre la vida, el patrimonio y los derechos de personas concretas. Y allí reside el nudo del problema.

El pensamiento crítico como garantía jurídica

El ser humano no es simplemente un ser que procesa información. Es un ser que pregunta por el ser, que no solo percibe el mundo, sino que se interroga sobre su sentido, su verdad, su valor. Particularmente, el juez no piensa en abstracto, sino que piensa sobre el caso de personas concretas, en un contexto específico, y con una historia singular. Y esa singularidad exige una apertura que ningún modelo entrenado con datos genéricos puede proporcionar. El pensamiento crítico del magistrado es, en su núcleo, la capacidad de analizar la particularidad irreductible de cada situación y de resistirse a la tentación de subsumirla mecánicamente en una categoría determinada.

En el derecho, el pensamiento crítico no es una virtud intelectual opcional. Es una exigencia estructural del sistema. El debido proceso, la motivación suficiente de las sentencias, la garantía de imparcialidad, la proscripción de la arbitrariedad; todos estos principios constitucionales presuponen un juez que piensa, que duda, que contrasta, que decide desde su propia conciencia.

La nueva Constitución de la Provincia de Santa Fe reconoce expresamente el derecho de todo ciudadano a conocer los criterios y la lógica utilizados en sistemas algorítmicos de toma de decisiones, y a que intervenga una persona humana cuando esa decisión pueda afectar sus derechos (art. 29). No es una declaración programática: es una garantía operativa. Y esa garantía solo puede cumplirse si quien opera la herramienta tecnológica mantiene activa su capacidad crítica.

Las guías de buenas prácticas para el uso de la IAG aprobadas por el Poder Judicial de Santa Fe son enfáticas en este punto: la herramienta complementa el juicio humano pero no lo sustituye. El juez es el responsable final de sus decisiones jurisdiccionales. No puede haber delegación. No puede haber abdicación del razonamiento en favor de la comodidad algorítmica.

El riesgo no es hipotético. Los grandes modelos de lenguaje —los LLM sobre los que se apoyan las herramientas de IA— no razonan, sino que predicen la palabra estadísticamente más probable. Pueden “alucinar” jurisprudencia inexistente, citar doctrina con referencias falsas, reflejar sesgos incorporados en sus datos de entrenamiento. Un resultado presentado con la apariencia de objetividad técnica puede ser, en realidad, irreal o profundamente parcial.

La seducción de la neutralidad

Aquí se instala una trampa conceptual que merece atención especial. Los sistemas de inteligencia artificial se presentan con frecuencia bajo la retórica de la objetividad: el algoritmo no tiene ideología, no tiene emociones, no tiene intereses. Esta narrativa es falsa, y su falsedad tiene consecuencias jurídicas.

Todo sistema algorítmico es el producto de decisiones humanas: quiénes diseñaron el modelo, con qué datos fue entrenado, qué parámetros definen sus respuestas, qué visión del mundo quedó inscripta en su arquitectura son preguntas que responden a quien desarrolló la herramienta. Como señala con lucidez el Ilustre Colegio de la Abogacía de Madrid en su Guía de Buenas Prácticas, los sistemas de IA “pueden reflejar prejuicios, estereotipos, creencias y valores sociales negativos presentes en los datos de entrenamiento”. La aparente neutralidad puede encubrir, en el ámbito judicial, formas sofisticadas de discriminación o exclusión que, por estar revestidas de lenguaje técnico, resultan más difíciles de cuestionar o poner en crisis.

La Corte del Estado de Nueva York, en su Protocolo de uso de IA vigente desde octubre de 2025, advierte que los programas de IA generativa no deben utilizarse como sustitutos del juicio humano, dado que producen contenido que puede ser “inexacto, completamente fabricado o sesgado”. La lección que atraviesa todas las experiencias comparadas es siempre la misma: la IA asiste; el juez decide.

Pensar críticamente: la dimensión ética y la dimensión humana

El pensamiento crítico, en este contexto, no se reduce a la verificación técnica de los resultados de la IA. Tiene una dimensión más profunda, que es la que justifica hablar de un enfoque humanista del problema.

Pensar críticamente es reconocer que detrás de cada expediente hay una persona, que la justicia es siempre un acto de discernimiento entre seres humanos, y que ningún algoritmo puede asumir el peso moral de una decisión que afecta la vida de otro. Es comprender que la empatía, la ponderación de la situación concreta, la percepción de la vulnerabilidad, el reconocimiento de la dignidad del otro; todo eso es irreductible a datos y a parámetros estadísticos.

Esta convicción encuentra hoy una formulación extraordinariamente precisa en la encíclica Magnifica Humanitas del Papa León XIV, publicada hace apenas un par de días. Allí, el Máximo Pontífice advierte que las inteligencias artificiales “no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad”. Tampoco –añade- “tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias”.

Esta descripción, formulada desde la teología y la antropología cristiana, coincide en su núcleo con lo que el derecho exige de un juez; esto es, alguien que no solo predice la respuesta más probable, sino que juzga, que asume la responsabilidad de su decisión, que mira a la persona y no solo al dato.

En este sentido, León XIV propone que la pregunta decisiva sigue siendo la indicada por Juan Pablo II: la IA ¿hace la vida del hombre sobre la tierra, en todos sus aspectos, “más humana”, más digna del hombre? Si la respuesta es “sí”, puede reconocerse en ella una posibilidad buena para usar con responsabilidad, en un camino de reconstrucción compartida y paciente. Si, en cambio, el poder crece mientras el corazón se marchita y los vínculos se rompen —o mientras el juez abdica su responsabilidad en favor de un algoritmo—, entonces estamos ante lo que el mismo Pontífice llama “una nueva versión de Babel: una construcción grandiosa, pero inhumana.”

Lo que no puede delegarse

Existe, en definitiva, un núcleo duro de la función judicial que ninguna herramienta tecnológica puede asumir sin destruir la legitimidad del sistema. Ese núcleo incluye la valoración de la prueba en su contexto humano, el juicio sobre la credibilidad, la ponderación de los derechos en tensión, la decisión sobre la equidad en el caso concreto y, sobre todo, la responsabilidad ante las partes y ante la sociedad por lo que se resuelve.

El pensamiento crítico es el guardián que preserva ese núcleo. No como obstáculo al progreso tecnológico -que bien usado es un recurso extraordinario de eficiencia-, sino como condición de su legitimidad. La IA puede ser bienvenida en el despacho judicial en la medida en que potencie al juez que piensa; se convierte en un riesgo cuando adormece al juez que delega.

La tecnología es la herramienta. El juez es el garante. Y esa distinción no es solo técnica: es, antes que nada, una cuestión de humanidad.