Conflicto con Inteligencia Artificial: un demandante rosarino citó fallos inexistentes en una causa

Una jurista especializada en la materia advirtió que el veredicto del juez es "controvertido por los efectos que produce". El letrado dijo actuar "de buena fe"

26 de agosto 2025 · 14:52hs

La Cámara de Apelaciones de Rosario confirmó recientemente un fallo de primera instancia por una demanda, pero la resolución incluyó un llamado de atención para un abogado por citas de jurisprudencia inexistente. La resolución incluyó una advertencia formal sobre el uso incorrecto de Inteligencia Artificial (IA), que ya está regulado a nivel local.

El juez Oscar Puccinelli confirmó el error cuando empezó a buscar fallos mencionados en el escrito del representante de la parte actora y no pudo encontrarlos. Si bien aclaró que su veredicto no implica una sanción, el magistrado decidió dar cuenta del problema de las alucinaciones a la hora de emplear chatbots para los escritos.

"Es un fallo muy controvertido en cuanto a los efectos que produce", opinó este martes la presidenta del Instituto de Inteligencia Artificial Aplicado al Derecho en Rosario, Claudia Guardia. Además del debate general en torno al uso ético y responsable de los sistemas de IA, señaló a través de LT8 que el caso es muy extraño porque el profesional involucrado argumentó que actuó "de buena fe" y su equivocación no modificó el rumbo del proceso: "Tenía todo para ganar y de hecho lo ganó. En vez de sumarle, esta cita le restó".

Un abogado en problemas con inteligencia artificial

Durante la revisión del fallo en la Sala II de la Cámara de Apelación en lo Civil y Comercial, el abogado se retractó de las citas de jurisprudencia que había hecho cuando contestó los agravios de la parte demandada. Entonces reconoció que ese material fue introducido con IA generativa, de modo que no pudo hallarlo cuando le solicitaron los fallos correspondientes.

"Corresponde hacer un llamado de atención al letrado en cuestión y, además, a fin de prevenir que este tipo de situaciones se generalice en el fuero", puntualizó Puccinelli. Así anunció la comunicación formal con el Colegio de Abogados de Rosario (Colabro) para tomar cartas en el asunto.

>> Leer más: Rosario tendrá semáforos con inteligencia artificial para agilizar el tráfico en tiempo real

Guardia aclaró que la institución aún no recibió la notificación, pero ya están al tanto del episodio. De hecho, recordó que en marzo difundieron una serie de recomendaciones para el uso ético de la IA.

La titular del instituto especializado consideró que el potencial de un chatbot a la hora de litigar es tan grande como riesgoso. "Cuando le planteás un caso, se ajusta tanto a lo que le pedís, que te confunde", indicó.

En este caso, Puccinelli enfatizó que el error le llamó la atención rápidamente: "Resulta claro que las citas mencionadas no fueron chequeadas". Luego apuntó que el abogado citó un precedente inexistente atribuido a la misma sala encargada de revisar la resolución de primera instancia.

Cómo usar IA en documentos jurídicos

El Colabro asumió la responsabilidad del control disciplinario sobre el uso de Inteligencia Artificial. De acuerdo a los lineamientos definidos este año, la institución puede aplicar sanciones si detecta faltas éticas en estas prácticas.

>> Leer más: "La inteligencia artificial es una herramienta para el bien de los seres humanos, no para sustituirlos"

Además de la buena fe invocada por el letrado de este caso, los sistemas generativos deben aplicarse al derecho siguiendo los principios de probidad, lealtad y veracidad, así como el anonimato de los datos de los clientes. "La IA nos da una respuesta que aparentemente es muy linda y está ajustada a la situación, pero tenemos que corroborarla. Hay muchas ocasiones en que no es real", previno Guarda.

El tema también fue abordado del lado de los funcionarios del Poder Judicial. En abril, la Corte Suprema de Justicia de Santa Fe publicó la circular 25 para la aprobación de una guía de buenas prácticas. Por entonces ya se habían implementado protocolos de actuación similares en San Juan, San Luis y Río Negro. Por su parte, la presidenta del instituto especializado en Inteligencia Artificial remarcó: "No está mal utilizarla, pero siempre hay que tener un control y avisarle a la otra parte".

Las más leídas

Milei vs. Kicillof: una encuesta revela quién se impondría en un balotaje

Milei vs. Kicillof: una encuesta revela quién se impondría en un balotaje

Al Capone, el caballo ganador de Santino Alvarado: los fetiches de la mafia que heredó de su padre

Al Capone, el caballo ganador de Santino Alvarado: los fetiches de la mafia que heredó de su padre

Una tormenta potente golpeó a Rosario y Colectividades se suspendió sobre la marcha

Una tormenta potente golpeó a Rosario y Colectividades se suspendió sobre la marcha

Polémica por los mensajes de odio contra el islam de una asesora libertaria

Polémica por los mensajes de odio contra el islam de una asesora libertaria

Lo último

Pensión por discapacidad de Anses: cuáles son los topes de ingresos para mantener el beneficio

Pensión por discapacidad de Anses: cuáles son los topes de ingresos para mantener el beneficio

Se cayó Red Link y hay problemas en el home banking: cómo afecta a Rosario

Se cayó Red Link y hay problemas en el home banking: cómo afecta a Rosario

Faith No More vuelve a la Argentina junto a Alice in Chains y Mastodon

Faith No More vuelve a la Argentina junto a Alice in Chains y Mastodon

Se cayó Red Link y hay problemas en el home banking: cómo afecta a Rosario

El Banco Municipal confirmó inconvenientes con el servicio este martes. La falla también repercute en otras entidades financieras de Argentina

Se cayó Red Link y hay problemas en el home banking: cómo afecta a Rosario
La remodelación de la avenida Jorge Newbery se inaugura con música y exhibición de autos
La Ciudad

La remodelación de la avenida Jorge Newbery se inaugura con música y exhibición de autos

Grupo Oroño: cómo queda el mapa de la salud privada de Rosario después de la venta del siglo

Por Florencia O’Keeffe

Salud

Grupo Oroño: cómo queda el mapa de la salud privada de Rosario después de la venta del siglo

Tormenta en Rosario: un árbol cayó sobre una casa y dejó atrapada a una familia
La ciudad

Tormenta en Rosario: un árbol cayó sobre una casa y dejó atrapada a una familia

Un ciervo murió atropellado por un colectivo en avenida de la zona norte
La ciudad

Un ciervo murió atropellado por un colectivo en avenida de la zona norte

Un negocio de ropa del microcentro rosarino se incendió durante la madrugada
La Ciudad

Un negocio de ropa del microcentro rosarino se incendió durante la madrugada

Las más leídas
Milei vs. Kicillof: una encuesta revela quién se impondría en un balotaje

Milei vs. Kicillof: una encuesta revela quién se impondría en un balotaje

Al Capone, el caballo ganador de Santino Alvarado: los fetiches de la mafia que heredó de su padre

Al Capone, el caballo ganador de Santino Alvarado: los fetiches de la mafia que heredó de su padre

Una tormenta potente golpeó a Rosario y Colectividades se suspendió sobre la marcha

Una tormenta potente golpeó a Rosario y Colectividades se suspendió sobre la marcha

Polémica por los mensajes de odio contra el islam de una asesora libertaria

Polémica por los mensajes de odio contra el islam de una asesora libertaria

Cuándo juega Central los playoffs del torneo Clausura 2026

Cuándo juega Central los playoffs del torneo Clausura 2026

Ovación
Newells fue sancionado con una particular pena por un incidente menor ante Central Córdoba

Por Hernán Cabrera

Ovación

Newell's fue sancionado con una particular pena por un incidente menor ante Central Córdoba

Newells fue sancionado con una particular pena por un incidente menor ante Central Córdoba

Newell's fue sancionado con una particular pena por un incidente menor ante Central Córdoba

Fuerte gesto del plantel de Central: La discapacidad es un partido que jugamos todos

Fuerte gesto del plantel de Central: "La discapacidad es un partido que jugamos todos"

Primera C: fin de temporada de los tres rosarinos que pelearon muy duro para subir o mantenerse

Primera C: fin de temporada de los tres rosarinos que pelearon muy duro para subir o mantenerse

Policiales
Doble crimen en la ciudad de Santa Fe: acribillaron a balazos a padre e hijo
Policiales

Doble crimen en la ciudad de Santa Fe: acribillaron a balazos a padre e hijo

Detuvieron a un hombre por matar a su hermano con un gancho de carnicería

Detuvieron a un hombre por matar a su hermano con un gancho de carnicería

Al Capone, el caballo ganador de Santino Alvarado: los fetiches de la mafia que heredó de su padre

Al Capone, el caballo ganador de Santino Alvarado: los fetiches de la mafia que heredó de su padre

Persecución policial en el microcentro: lograron atrapar a un motochorro

Persecución policial en el microcentro: lograron atrapar a un motochorro

La Ciudad
Se cayó Red Link y hay problemas en el home banking: cómo afecta a Rosario
La Ciudad

Se cayó Red Link y hay problemas en el home banking: cómo afecta a Rosario

Más de 250 cuadrillas municipales intervienen en distintos puntos de la ciudad tras el temporal

Más de 250 cuadrillas municipales intervienen en distintos puntos de la ciudad tras el temporal

La remodelación de la avenida Jorge Newbery se inaugura con música y exhibición de autos

La remodelación de la avenida Jorge Newbery se inaugura con música y exhibición de autos

Pese a los daños que generó la tormenta, Colectividades tendrá este martes su jornada de cierre

Pese a los daños que generó la tormenta, Colectividades tendrá este martes su jornada de cierre

Milei vs. Kicillof: una encuesta revela quién se impondría en un balotaje
Política

Milei vs. Kicillof: una encuesta revela quién se impondría en un balotaje

Expedición Inka 2026: el Conicet transmitirá una campaña arqueológica desde Catamarca
Información General

Expedición Inka 2026: el Conicet transmitirá una campaña arqueológica desde Catamarca

Diego Giuliano entregó 800 diplomas de una escuela de oficios con más de 8.000 inscriptos
Política

Diego Giuliano entregó 800 diplomas de una escuela de oficios con más de 8.000 inscriptos

Dólar blue récord en Rosario: rompió la barrera de los $1.600
Economía

Dólar blue récord en Rosario: rompió la barrera de los $1.600

Voyager 1, el primer objeto creado por el hombre que se aleja a un día luz de la Tierra
Información General

Voyager 1, el primer objeto creado por el hombre que se aleja a un día luz de la Tierra

Qué celulares Android se quedarán sin WhatsApp antes de diciembre
Información General

Qué celulares Android se quedarán sin WhatsApp antes de diciembre

Rosarina de Fútbol: se disputó la 2ª fecha del tradicional torneo Ivancich

Por Juan Iturrez

Ovación

Rosarina de Fútbol: se disputó la 2ª fecha del tradicional torneo Ivancich

Entraron a robar en la casa de la madre del presidente de Central, Gonzalo Belloso
Policiales

Entraron a robar en la casa de la madre del presidente de Central, Gonzalo Belloso

Colectividades con una yapa más: la fiesta más popular se extiende hasta este martes
La ciudad

Colectividades con una yapa más: la fiesta más popular se extiende hasta este martes

Persecución policial en el microcentro: lograron atrapar a un motochorro
Policiales

Persecución policial en el microcentro: lograron atrapar a un motochorro

Mapa colaborativo para localizar los homenajes a las Islas Malvinas en Rosario
La Ciudad

Mapa colaborativo para localizar los homenajes a las Islas Malvinas en Rosario

El camionero que chocó contra una casa estaba alcoholizado y drogado
La Ciudad

El camionero que chocó contra una casa estaba alcoholizado y drogado

Susto en el Papamóvil: un rosario lanzado por la multitud golpeó a León XIV
El Mundo

Susto en el Papamóvil: un rosario lanzado por la multitud golpeó a León XIV

Paritarias: el sueldo inicial de los bancarios llegará a $2,68 millones
Economía

Paritarias: el sueldo inicial de los bancarios llegará a $2,68 millones

Impactante choque de un camión contra el frente de una casa en zona norte
La ciudad

Impactante choque de un camión contra el frente de una casa en zona norte

La crecida en Rosario: la provincia sigue al Paraná y activa la prevención
La Ciudad

La crecida en Rosario: la provincia sigue al Paraná y activa la prevención

Incautaron una camioneta que estaría vinculada al hijo del narco Esteban Alvarado
Policiales

Incautaron una camioneta que estaría vinculada al hijo del narco Esteban Alvarado

La crecida del río Paraná ya dejó 260 evacuados en Santa Fe y refuerzan los operativos
La Región

La crecida del río Paraná ya dejó 260 evacuados en Santa Fe y refuerzan los operativos

El vocero de Milei estará de local en la Fundación Libertad
Política

El vocero de Milei estará de local en la Fundación Libertad

Murió un futbolista de inferiores tras recibir un fuerte golpe en la cabeza
Ovación

Murió un futbolista de inferiores tras recibir un fuerte golpe en la cabeza