Chat GPT en los juzgados: La Abogacía Española aclara cómo y cuando se puede utilizar
La Abogacía Española ha difundido el resumen de la nueva Instrucción sobre el uso de sistemas de Inteligencia Artificial en el ámbito judicial, elaborado por Joaquín Delgado, en la que se detallan los límites, condiciones y garantías para la utilización de estas herramientas por parte de jueces, juezas, magistrados y magistradas en el ejercicio de la función jurisdiccional.
El documento establece un marco claro: la IA puede emplearse como apoyo, pero nunca para sustituir la labor decisoria del órgano judicial.
¿A qué sistemas se aplica?
La Instrucción afecta a todos los sistemas de Inteligencia Artificial que puedan ser utilizados en la actividad jurisdiccional, incluidas las soluciones de IA generativa (art. 2).
Se entiende por sistema de IA, conforme al art. 3-a, cualquier sistema basado en máquinas que, de acuerdo con el Reglamento de Inteligencia Artificial, opera con distintos niveles de autonomía, puede adaptarse tras su puesta en marcha y, a partir de los datos de entrada, genera resultados como predicciones, recomendaciones, contenidos o decisiones que pueden influir en entornos físicos o virtuales.
Por su parte, las herramientas de IA generativa (art. 3-b) son aquellas capaces de crear automáticamente textos, imágenes, sonidos, código u otros materiales a partir de instrucciones dadas por el usuario.
¿Qué herramientas pueden usar los jueces?
La regla general es que únicamente podrán emplearse los sistemas facilitados por las Administraciones competentes en materia de Justicia o por el Consejo General del Poder Judicial (art. 5.1). Estas herramientas estarán sometidas a controles de calidad y auditorías por parte del CGPJ (art. 5.2), que además asume funciones de supervisión en todo lo relativo al tratamiento de datos personales con fines jurisdiccionales (art. 12).
De forma excepcional, se permite recurrir a sistemas no proporcionados por estas instituciones, pero bajo tres condiciones estrictas (art. 9): que se utilicen exclusivamente para tareas de preparación o estudio —como elaborar resúmenes, realizar traducciones o analizar fuentes jurídicas—; que la información empleada proceda únicamente de fuentes abiertas (art. 3-g), es decir, accesibles al público sin restricciones; y que en ningún caso se introduzcan datos judiciales en esos sistemas.
¿Para qué pueden utilizarse?
La Instrucción deja claro que la IA solo puede desempeñar un papel auxiliar (art. 6.1). Se prohíbe expresamente “La sustitución, automatización o delegación de la toma de decisiones judiciales, de la valoración de los hechos o de las pruebas, o de la interpretación y aplicación del Derecho” (art. 8-a), prohibición que también recoge el art. 4-b.
Entre los usos permitidos (art. 6.3) figuran la localización de normativa, jurisprudencia y doctrina; la organización y análisis de documentación judicial; la elaboración de esquemas o resúmenes para uso interno; y el apoyo en tareas organizativas vinculadas a la gestión del conocimiento jurídico.
También se admite la elaboración de borradores de resoluciones, aunque con límites muy precisos (art. 7): deben ser objeto de una revisión personal, crítica y completa por parte del juez o magistrado, quien conserva la responsabilidad exclusiva del contenido final. Estos textos no pueden considerarse decisiones automatizadas y deben generarse únicamente a voluntad del juez, con plena libertad para modificarlos antes de validarlos como resolución.
Usos prohibidos
La Instrucción detalla expresamente lo que no está permitido (art. 8). Entre otras cuestiones, se prohíbe que la IA sustituya la función jurisdiccional, que sus resultados condicionen la independencia judicial o que se incorporen a resoluciones contenidos generados automáticamente sin una revisión exhaustiva.
Tampoco se autoriza el tratamiento de datos especialmente protegidos o información sujeta a especial confidencialidad fuera de los casos previstos por la ley, ni el uso de IA para elaborar perfiles, predecir comportamientos o evaluar riesgos personales sin cobertura normativa expresa.
Principios rectores
El uso de la IA en los juzgados debe respetar una serie de principios recogidos en el art. 4. Entre ellos destacan el control humano efectivo, la no sustitución del juez, la responsabilidad judicial plena, la independencia de criterio y el respeto a los derechos fundamentales, como la tutela judicial efectiva, la igualdad, la no discriminación y la protección de datos.
Asimismo, se exige garantizar la confidencialidad y seguridad de la información, prevenir posibles sesgos algorítmicos y aplicar criterios de proporcionalidad y uso limitado, de modo que la IA solo se utilice cuando resulte adecuada para la finalidad perseguida.
Consecuencias del incumplimiento
El quebrantamiento de los criterios y principios establecidos puede dar lugar a responsabilidades conforme a la Ley Orgánica del Poder Judicial (art. 11), sin perjuicio de las medidas preventivas o correctoras que puedan adoptarse en el ámbito organizativo o de gobierno del Poder Judicial.
Con esta Instrucción, la Abogacía Española subraya que la Inteligencia Artificial puede convertirse en una herramienta útil en la modernización de la Justicia, siempre que su uso esté estrictamente sometido al control humano y al respeto de las garantías propias del Estado de Derecho.