“Cum igitur hominum causa omne ius constitutum sit (…)”

Digesto 1.5.2.

La función de los jueces es esencial para mantener el equilibrio y la integridad del sistema social y su función debe adaptarse de forma dinámica a los cambiantes desafíos a los que, permanentemente, debe enfrentarse. Pese al enorme cúmulo de problemas que plantea la transformación digital y su impacto en la dinámica procesal del ámbito social, a salvo de muy cualificadas excepciones (NORES TORRES; ERCILLA GARCÍA), no ha sido éste un tema que haya generado particular interés (nos ocuparemos más ampliamente en un artículo que próximamente se publicará en el número 131 de la revista Trabajo y Derecho) de este tema . Sin embargo, como seguidamente tendremos oportunidad de analizar, son muchas las cuestiones y problemas que se encuentran asociados al cambio tecnológico de la justicia.

Recientemente, la Generalitat de Cataluña ha presentado el plan AI4JUSTICE, un plan para agilizar la resolución de sentencias judiciales con el apoyo en sistemas de IA. El mismo se acompaña de datos impactantes: reducción del tiempo de redacción de sentencias de dos horas a solo 20 minutos; 12.000 horas de trabajo ahorradas al año en el sistema judicial y un ahorro estimado de medio millón de euros por cada 20 jueces que utilicen la IA. Se trata de una iniciativa que responde a la voluntad de hacer la justicia más eficiente y acortar los tiempos de los procedimientos. La herramienta está orientada, en una primera fase, a procedimientos que no requieren interpretaciones jurídicas complejas y, por tanto, en los que sea factible la aplicación de automatismos y actuaciones asistidas. Estamos recorriendo aquí también el camino que va del sujeto al algoritmo.

La IA se puede utilizar para una amplia gama de aplicaciones, incluido el procesamiento de documentos legales, la gestión de casos y la predicción de las controversias. Uno de los aspectos más significativos de la IA es su capacidad para analizar enormes volúmenes de datos legales en tiempos muy cortos, mejorando la eficiencia dentro del sector jurídico.

El uso de los sistemas de IA predictivos tiene numerosos espacios de expansión en el terreno preprocesal y en el procedimiento judicial propiamente dicho. Los usos preprocesales son, efectivamente múltiples.  La IA en la jurisdicción social debería tener un importante espacio en la llamada resolución extrajudicial de conflictos y controversias: Online Dispute Resolution. Otro espacio importante se sitúa en la que se califica como jurimetría, término acuñado en 1949 por el jurista estadounidense Lee Loevinger, quien definió la jurimetría como el uso de métodos estadísticos y matemáticos en el estudio del derecho. A título de ejemplo, el Tribunal de Apelación de Venecia, en colaboración con la Universidad Ca’ Foscari, ha puesto en marcha un proyecto para hacer más predecibles las decisiones sobre despidos por causa justa, desalentando los litigios infundados (https://thinx.expert/en/artificial-intelligence-in-mediation-risks-and-opportunities-in-dispute-resolution/).

El uso de chatbots de asesoramiento o demandas formulario en línea puede no encontrarse demasiado lejos. Como se ha señalado, “bastaría con que las partes plantearan sus demandas y defensas a través de una aplicación, es decir, lejos del estilo literario que hoy se emplea para solicitudes tan simples como una reclamación de cantidad” (NIEVA FENOLL). Hasta llegar a ese punto, los sistemas de IA se están empezando a usar como complementos, en algunos casos excesivos, para la construcción de documentos con proyección judicial.

El Tribunal Superior de Justicia de Cataluña declaró, en su sentencia de 16 de octubre de 2024, improcedente el despido de un trabajador de una empresa de mármoles cuya carta fue elaborada por un sistema de IA. Señala la sentencia que «en el colmo de la dejadez» «se indica, (…), que la empresa se dedica al comercio al por menor de prendas de vestir en establecimientos especializados, lo que invita a pensar que se ha copiado una carta de despido de otra empresa, se ha bajado el modelo de internet, o se ha confiado su redacción a la mal llamada inteligencia artificial».

En Estados Unidos y Asia, el uso de IA para redactar escritos legales crece a ritmo vertiginoso, con un 57% de los abogados que utilizan ChatGPT, un 22% Microsoft Copilot y un 21% Gemini según los últimos estudios (https://tecfuturo.es/la-trampa-digital-del-abogado/). Aunque por el momento los precedentes son escasos, no faltan ya supuestos en la jurisprudencia comparada de imposición de sanciones procesales por el uso indebido de ChatGPT. Así, un Juez de Distrito de Estados Unidos razonó en el año 2023 (caso Avianca)- la imposición de una sanción económica de 5.000 dólares por el uso indebido de ChatGPT en los escritos procesales, clarificando que no hay nada intrínsecamente incorrecto en que los abogados utilicen la IA como ayuda, pero añadiendo a continuación que las normas deontológicas de la abogacía imponen a los abogados una función de control para garantizarla exactitud de sus presentaciones (https://efe.com/ciencia-y-tecnologia/2023-06-23/multa-de-5-000-dolares-a-abogados-que-usaron-un-chatgpt-que-se-invento-precedentes/).

En nuestro país, en el ámbito penal, un abogado presentó una querella en la que citaba el art. 454. b) del Código Penal sobre un delito de destrucción, ocultamiento o alteración de pruebas. Sin embargo, el TSJ de Navarra se percató de que el precepto no correspondía con el CP español, sino con el ordenamiento jurídico de Colombia, lo cual “no puede pasar desapercibido a ningún profesional del Derecho”. El Auto TSJ de Navarra (Civil y Penal) de 4 de septiembre de 2024 (Rº 17/2024),que archiva la pieza separada abierta a raíz del referido comportamiento precisa que: “en la singularidad del caso que nos ocupa, el hecho de que nos encontremos ante una materia ciertamente novedosa, así como la inmediata reacción del Letrado querellante excusando el error cometido, determina que la Sala se incline por el archivo de la presente pieza separada sin imponer la correspondiente sanción pecuniaria, sirviendo la presente -quizá- de advertencia de las implicaciones legales, deontológicas y éticas que puede plantear el uso descuidado de las nuevas tecnologías”.

Tal y como señala el citado elAuto TSJ de Navarra (Civil y Penal) de 4 de septiembre de 2024 (Rº 17/2024), “los riesgos de usar ChatGPT y otras herramientas similares con fines legales se cuantificaron recientemente en un estudio de enero de 2024: Matthew Dahl et. al., «Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models”. El estudio encontró que las alucinaciones legales son alarmantemente prevalentes, ocurriendo entre el 69% del tiempo con ChatGPT 3.5 y el 88% con 2. Además, constató que los modelos lingüísticos de gran tamaño a menudo no corrigen las suposiciones jurídicas incorrectas de un usuario en una configuración de preguntas contrafactuales, y que los modelos de lenguaje de gran tamaño (LLM) no siempre pueden predecir, o no siempre saben, cuándo están produciendo alucinaciones legales. El estudio afirma que «en conjunto, estos hallazgos advierten contra la integración rápida y sin supervisión de los LLM populares en las tareas legales»”

Los usos procesales de la IA y como la doctrina que se ha ocupado de esta materia ha puesto de manifiesto que la misma puede proyectar sus efectos sobre la completa totalidad del proceso tal y como ahora lo conocemos. Desde las reglas de recusación y abstención (un modelo algorítmico carece de interés personales), pasando por las reglas de competencia, la valoración de la prueba (testifical, documental, pericial), llegando, incluso, a la propia motivación de las sentencias. Esta última dimensión está poniendo de manifiesto sus riesgos.

La Sentencia de la Cámara de lo Penal de Esquel Provincia de Chubut, Argentina, de 15 de octubre de 2025 es un buen ejemplo (Un comentario de enorme interés puede encontrarse en GALLO, P., Nulidad de sentencia por uso de la IA: ¿crítica al fallo o miedo a la herramienta?, Almacén de Derecho, Oct 24, 2025). La misma anula una condena a prisión al constatar que el juez de primera instancia había utilizado Inteligencia Artificial para redactar parte de su sentencia. Decía la sentencia: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”, una frase muy común en aplicaciones de IA, que quedó por error en el texto, prueba que evidencia el uso de IA por parte del juez para redactar la sentencia. Dice el referido pronunciamiento que:

“Aunque la IA Gen puede asistir en la generación de ideas o borradores, la decisión final debe recaer siempre en un operador humano que evalúe el contexto específico del caso… En el caso de autos, surge del propio texto mismo de la sentencia, que el magistrado utilizó la IA generativa en un aspecto central de la resolución en crisis, esto es resolver las nulidades de dos pruebas esenciales en el proceso.

Condición esencial de todo sistema judicial legítimo es que sus decisiones sean comprensibles, motivadas y sujetas a impugnación. Los sistemas de inteligencia artificial, especialmente aquellos de tipo «caja negra», vulneran estos principios cuando operan con algoritmos que no pueden ser explicados ni comprendidos por los justiciables, ni siquiera por los jueces”. 

El tribunal consideró que el magistrado vulneró principios esenciales del debido proceso al utilizar una herramienta automatizada, sin delimitar su uso, dentro de una función estrictamente humana como es la motivación judicial.

Pero esta transformación no queda aquí, ya están en camino los jueces robot. A día de hoy, no hay ningún país que tenga jueces virtuales totalmente autónomos que decidan sin intervención humana. En Estonia, el Proyecto de “robot judge” permite resolver reclamaciones de pequeño importe (por ejemplo, menos de 7.000 euros), en China Tribunales de internet usan IA para generar borradores de sentencia, recibir litigios, sistematizar decisiones, asistir con procesamiento rutinario. Como señala Gómez Colomer, “en ninguno de los dos países, sin embargo, la IA se ha apoderado totalmente del proceso. En primer lugar, solo actúan en procesos civiles, y, en segundo lugar, proponen la decisión a un juez, quien debe revisar al procedimiento y ratificarla o no. Los recursos, de caber, se tramitan ante “jueces humanos” (Problemas legales del juez robot desde una perspectiva procesal y orgánica en AA.VV., El proceso penal ante una nueva realidad tecnológica europea, Pamplona, Thomson Reuters Aranzadi, 2023, p.168).

El Reglamento de Inteligencia Artificial (Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial, se asienta en el establecimiento de límites al uso de los sistemas que califica de “alto riesgo”. Entre ellos se incluyen los “Sistemas de IA destinados a ser utilizados por una autoridad judicial, o en su nombre, para ayudar a una autoridad judicial en la investigación e interpretación de hechos y de la ley, así como en la garantía del cumplimiento del Derecho a un conjunto concreto de hechos, o a ser utilizados de forma similar en una resolución alternativa de litigios” (art. 6.1 y 2 por relación con lo establecido en el Anexo III del RIA). Y lo hace, como explica su Considerando 61 dado que: “pueden tener efectos potencialmente importantes para la democracia, el Estado de Derecho, las libertades individuales y el derecho a la tutela judicial efectiva y a un juez imparcial”.

Por ello, queda mucho por reflexionar y decidir en esta materia, pero, sin duda, dos principios, de entre todos los que deben limitar el desarrollo de los sistemas de IA, deben cobrar una particular importancia en este terreno. Por un lado, la revisión humana de todo lo generado por estos sistemas siempre que afecte directa o indirectamente a los derechos de los usuarios del Servicio Público de Justicia o a la propia actividad judicial o jurisdiccional. Por otro, la transparencia de los sistemas que sean utilizados para estos fines. Hace unas semanas en este mismo Blog nos referíamos a la Sentencia de 11 de septiembre de 2025 de Sala de lo Contencioso-Administrativo del Tribunal Supremo de Sala de lo Contencioso-Administrativo del Tribunal Supremo, que condena a la Administración a proporcionar a una Fundación el acceso al código fuente de la aplicación informática BOSCO. La misma era categórica al afirmar que: “evitar la opacidad del algoritmo o el código fuente se muestra consustancial al Estado democrático de Derecho, sujeto al principio de transparencia”, una exigencia que, concluía: “refuerza la confianza ciudadana en el correcto funcionamiento de las Administraciones públicas”.