Dato: el 41 % de los operadores judiciales han usado IA (ChatGPT y otras inteligencias generativas) para labores profesionales. De esa cifra, el 71% utilizó versiones gratuitas, el 16% cuenta con acceso institucional y el 12% pagan una suscripción. Estas cifras aportadas en 2024 por la Encuesta sobre el uso de sistemas de inteligencia artificial (IA) por operadores judiciales de la UNESCO, muestran que las herramientas de IA más utilizadas por los y las juezas no discriminan entre la información a la que acceden. Es decir, no se trata de fuentes confiables, al no tratarse herramientas jurídicas, ni sistemas expertos.1 A pesar del enorme potencial que pueden tener las herramientas de IA especializadas en temas concretos, como puede ser la justicia.
En este escenario, recientemente, la Corte Constitucional Colombiana tuvo oportunidad de pronunciarse sobre el tema en su sentenciaT-323 de 2024, fijando varios criterios particularmente relevantes e interesantes.
En primer lugar, por ejemplo, estableció que “si el sistema judicial colombiano tuviera su propio sistema de IA generativa especializado en jurisprudencia y normativa colombiana e internacional, este podría tener implicaciones positivas para la eficiencia de la labor de los jueces y ayudaría, especialmente, en la materialización del derecho de acceso a la administración de justicia” (Párr. 428).
El escenario líneas arriba es deseable en el contexto actual en el que pareciera que la IA genera un gran miedo a la sustitución laboral. Así, esta sentencia es pionera al dictar con claridad que, si bien la función de juzgar es irremplazable, las y los operadores jurisdiccionales no deben usar la IA sin controles. Es decir, les ordena que si se apoyan en modelos de IA ChatGPT evalúen qué herramientas están utilizando y cómo o de qué manera las están utilizando y, al mismo tiempo, señala que los requerimientos en torno a la verificación de la información deben ir de la mano de la transparencia en su uso.
Para ello, la Corte colombiana analizó el caso de un juez que incluyó en una decisión algunas preguntas y respuestas planteadas a la versión gratuita de ChatGPT. Esta adición, como si se tratase de información extra, se introdujo en el último apartado de la sentencia en cuestión -es decir, después de haber resuelto y motivado su sentencia-.
El caso se refiere a la lucha legal de Emilio,2 un niño dentro del espectro autista y su mamá, la señora Blanca, con el objetivo de asegurar las dispensas económicas por parte de la aseguradora EPS Salud Total para las terapias que necesita Emilio. No obstante, al resolver este caso, el juez de segunda instancia copió y pegó en la sentencia el texto correspondiente a las preguntas y respuestas generadas por ChatGPT. Así, una vez llevado este asunto ante la Corte Constitucional de Colombia, ésta determinó los siguientes puntos clave:
1. Las personas juzgadoras no van a sustituirse por IA. La decisión judicial es personalísima y la ciudadanía tiene derecho “a la garantía de un juez natural como principal garantía del debido proceso”.
La Corte colombiana analizó que la garantía de debido proceso incluye el derecho a un “juez natural”. Y, en ese sentido, el uso de ChatGPT puede influir en la independencia judicial, debido a que las y los juzgadores que usan IA puede verse afectados con influencias externas al derecho, como pueden ser los sesgos que tiene y los datos con los que fue alimentada esta versión gratuita de ChatGPT.
La Corte determinó, entonces, que el juez no violó el debido proceso de Emilio y Blanca al copiar y pegar preguntas y respuestas que hizo a ChatGPT, debido a que las utilizó meramente como un texto adicional, después de cumplir la obligación de toda persona juzgadora de motivar sus decisiones, basándose en la ley y las reglas aplicables. Así, exhortó a aplicar criterios éticos y asegurar que no se delegue su labor, fundamentada en el razonamiento lógico y humano.
2. La IA debe ser utilizada con responsabilidad. El análisis deben realizarlo las personas para poder garantizar la protección de los derechos humanos.
Para que las y los juzgadores cumplan sus deberes legales deben: i) no delegar funciones irremplazables a la IA; ii) revelar su uso, decir que la están usando; iii) verificar rigurosamente la fiabilidad de la información proporcionada.
Explicó que el juez no hizo un uso adecuado de la IA porque además de manifestar que uso IA y enunciar las respuestas obtenidas, tendría que explicar el contexto en el uso de la herramienta. Afortunadamente el uso de IA sí cumplió el principio de privacidad, pues no introdujo datos personales del menor ni de su historia clínica, ni de las partes involucradas en la disputa concreta.
Exhortó a las y los integrantes de la rama Judicial a aplicar “los principios de transparencia, responsabilidad, privacidad, no sustitución de la racionalidad humana, seriedad y verificación, prevención de riesgos, igualdad y equidad, control humano, regulación ética, adecuación a buenas prácticas y estándares colectivos, seguimiento continuo y adaptación e idoneidad.” (párr. 134). Asimismo, señaló que, para aplicarlos, deben considerar tanto la evolución normativa, como la actualización tecnológica constante y las exigencias específicas del uso de la IA en las diferentes jurisdicciones, todo esto antes de utilizarla.
3. La regulación y capacitación de los operadores es clave.
La Corte Colombiana ordenó al Consejo Superior de la Judicatura que, en cuatro meses, emitiese y difundiese una guía o manual con los lineamientos y los principios dictados en la sentencia relacionados con la implementación de IA generativa en la rama judicial. Así, la escuela judicial se encargaría de divulgar y capacitar a todos los despachos judiciales del país. Todo ello con la finalidad de fomentar el aprendizaje y conocimientos básicos sobre el uso de IA, sus riesgos y los beneficios con un enfoque de derechos humanos.
En ese sentido, la sentencia hace un recuento de la regulación existente en la región latinoamericana señalando que específicamente en materia de IA se rige por softlaw. Por lo que el cumplimiento de la sentencia permitirá a Colombia posicionarse como pionera en la región con la implementación de una guía con principios para el uso de IA en la judicatura.
Algo que ya ocurre en otras regiones como la Unión Europea o las judicaturas de países como China,3 Reino Unido4 y Canadá,5 por mencionar algunas de las que cuentan con guías de uso ético de IA en la judicatura. Mientras que las judicaturas de América Latina cuentan con guías emitidas desde la academia6 pero aún no con este tipo de lineamientos emitidos desde la judicatura.
Esta Corte también señaló que la mayoría de los errores que hoy se observan en la búsqueda en la versión gratuita de ChatGPT residen en que sus respuestas no distinguen fuentes no especializadas. Por lo que exhortó a las y los jueces a que evalúen qué herramienta van a utilizar; alentando “a la Rama Judicial para desarrollar esfuerzos que conduzcan progresivamente a la implementación de una plataforma de IA especializada” (párr. 99).
La sentencia T-323 de 2024 de la Corte Constitucional Colombiana es una belleza porque construye una argumentación conforme a criterios internacionales y principios de IA en la judicatura planteando lineamientos y también temas pendientes a reflexionar sobre el uso de la IA en las decisiones judiciales. Esperemos que la siguiente pregunta que se analice sea conjuntando ambas historias. ¿A Emilio le ayudó el uso de la IA?
No se vulneró su derecho a un debido proceso, porque un juez humano resolvió su caso, confirmó la protección a su derecho a la salud y además ordenó al final a la compañía de seguros a cubrir los gastos del tratamiento integral, con miras a garantizar de manera efectiva la plena protección de los derechos fundamentales del niño a la salud y a la vida digna.
No olvidemos que en el centro del uso de la IA en la judicatura están las personas como Emilio, su madre Blanca, así como las personas que resuelven este tipo de casos, que tienen la intención de usar estas herramientas para mejorar el derecho de acceso a la justicia de personas como Emilio. Pero para que historias como ésta se resuelvan con eficiencia, se requiere capacitar a las personas que usan IA, avanzando a versiones especializadas en derecho como IA LucIA en México o Pretoria en Colombia, para que puedan hacer su trabajo de manera más eficiente y con responsabilidad.
Laura Márquez. Directora fundadora de ÏO Justice, integrante de la Línea de Investigación de derecho e Inteligencia Artificial en la UNAM; con trece años de experiencia judicial en Cortes en México, Europa y Nueva York, impulsa la tecnología jurídica para mejorar el acceso a la justicia. Es maestra por NYU, por la Universidad de Alicante y por el ITAM. Autora del libro, Control difuso desde una perspectiva de acceso a la justicia, México, SCJN, 2017.
1 Susskind, R. Expert systems in law. Oxford University Press, Inc. (1987).https://onlinelibrary.wiley.com/doi/pdf/10.1111/j.1468-2230.1986.tb01683.x
2 Emilio es el nombre que por privacidad usa la sentencia de la Corte Constitucional Colombiana.
3 “Guidelines on the Use of Generative Artificial Intelligence for Judges and Judicial Officers and Support Staff of the Hong Kong Judiciary”.
4 Cortes y Tribuanles en la Judicatura de Reino Unido “Artificial Intelligence (AI) – Judicial Guidance.” 12/2023 disponible en línea en https://www.judiciary.uk/guidance-and-resources/artificial-intelligence-ai-judicial-guidance/
5 Gobierno de Canadá, “Guide on the use of generative artificial intelligence” revisada en línea el 19 de agosto.
6 Directrices de uso de la IA generativa de texto y ChatGPT en la Justicia. UBA derecho, IALAB. Argentina disponible en línea en