IA judicial: usos en expansión, gobernanza inconclusa

La IA judicial y la pregunta por la rendición de cuentas

¿Cómo pueden los tribunales preservar la rendición de cuentas judicial, la equidad procesal y la posibilidad de que las partes controviertan el relato de su caso cuando un sistema de IA ayuda a producir ese relato? Esta pregunta se ha vuelto central en todo el mundo a medida que la inteligencia artificial entra a formar parte del modo en que los tribunales comprenden los casos y preparan sus decisiones. Con el enfoque colombiano como punto de partida, este artículo examina la experiencia italiana dentro del marco normativo europeo e identifica lecciones para la gobernanza institucional.

Como en muchos otros países, el Consejo Superior de la Judicatura ha establecido medidas para la implementación (art. 11) y el análisis (art. 12) de soluciones o proyectos institucionales de IA (Consejo Superior de la Judicatura, 2024). Sin embargo, el enfoque colombiano innova, al menos frente a la experiencia europea, al combinar lineamientos de implementación con dos niveles de declaración del uso (art. 10). Un deber general exige a los servidores judiciales informar expresamente sobre el uso de la IA generativa para el apoyo de labores, tareas o actividades institucionales. Se exige una declaración más detallada en especial cuando esas actividades inciden en la preparación y la emisión de decisiones sustanciales. Los funcionarios deben identificar la herramienta, el modelo y el proveedor, dejar constancia de la fecha de uso, confirmar que leyeron, entendieron y aceptaron sus términos y condiciones, y explicar para qué y cómo se usó, incluidos los prompts o instrucciones utilizados. En este nivel reforzado, deben además indicar dónde se reprodujeron, transcribieron o incorporaron los resultados de la IA, con comillas, negrillas, letra cursiva u otro medio, para distinguir claramente los pasajes producidos directamente por la herramienta (Consejo Superior de la Judicatura, 2024). Estos requisitos hacen visibles tanto el uso de la IA como su contribución a la decisión, y ofrecen una base para el escrutinio dentro de los procesos. La sentencia del Consejo de Estado del 10 de agosto de 2026 muestra cómo funciona este enfoque en la práctica. La Sección Tercera, Subsección C, actuando como juez de tutela, declaró improcedente la acción de tutela porque no cumplía los requisitos de relevancia constitucional y subsidiariedad. La corporación tampoco encontró un defecto procedimental en el uso de la IA para ayudar a organizar los cargos de las demandas acumuladas. El proceso consistió en una organización manual, después en una comprobación y una sistematización asistidas por IA y, por último, en una revisión y un ajuste humanos. Esta sentencia demuestra cómo el uso de la IA y la revisión humana pueden examinarse mediante el escrutinio procesal (Consejo de Estado, 2026). Sin entrar en los detalles del caso, la sentencia importa porque hace visible la secuencia de asistencia de la IA y verificación humana y la abre al escrutinio procesal.

Italia: el despliegue por delante de la gobernanza

La experiencia italiana ayuda a identificar las disposiciones institucionales necesarias para que las salvaguardas sean efectivas: responsabilidades para seleccionar e introducir los sistemas, probar su desempeño, preparar a los usuarios y revisar el uso real. La comparación atiende a los distintos énfasis de dos enfoques que combinan responsabilidades institucionales con deberes para cada juez.

La experiencia italiana que aquí se examina se basa en un estudio de las iniciativas de IA judicial entre 2020 y mediados de 2026 (Contini, 2026) y analiza la gobernanza de la IA en el cruce entre las responsabilidades constitucionales del Ministerio de Justicia y del Consiglio Superiore della Magistratura (CSM). Según la Constitución italiana (art. 110), el Ministerio gestiona la organización y los servicios que sirven de apoyo a los tribunales y a la actividad judicial, incluidos el personal administrativo, la infraestructura, los presupuestos y los sistemas digitales. El CSM salvaguarda la independencia judicial y gobierna la carrera de jueces y fiscales, incluidos los nombramientos, las asignaciones, los traslados, los ascensos y las decisiones disciplinarias (arts. 104-105). Con estas atribuciones, el CSM aprueba además las reglamentaciones necesarias para asegurar la organización de los tribunales, a la vez que protege la independencia. Con este esquema, el Ministerio desarrolló primero las tecnologías digitales para el registro de los casos y para la gestión de los casos y de los tribunales, bajo dirección ministerial. Más adelante, el desarrollo de las plataformas de justicia electrónica involucró al CSM en varias fases, lo que reflejó tanto las dificultades de implementación como los efectos crecientes de esas plataformas en la actividad judicial. Los sistemas digitales determinan a qué documentos pueden acceder los usuarios, cómo se organiza la información y qué acciones están disponibles. Configuran las condiciones en que tiene lugar la actividad de juzgar. Estos efectos, ya visibles en las plataformas de justicia electrónica (Reiling & Contini, 2022), pueden extenderse con la IA a la selección, la clasificación y la síntesis del material, y a la extracción de la información clave del caso que se usa en el razonamiento jurídico, entre otros usos posibles. Por ello, el Ministerio y el CSM deberían coordinarse y ponerse de acuerdo sobre el desarrollo y el despliegue de la IA (Castelli, 2024).

Los resultados limitados del Ministerio en el desarrollo de aplicaciones para el trabajo judicial hicieron más apremiante esta necesidad de coordinación. Por ejemplo, la anonimización mediante IA de la base de datos de decisiones judiciales a la que acceden abogados y ciudadanos volvía a menudo ininteligible el texto. Los abogados cuestionaron tanto la legibilidad como las condiciones de acceso. Los jueces conservaron el acceso a un recurso de información más completo, mientras que la base de datos pública ofrecía textos alterados. La controversia mostró cómo una decisión técnica podía afectar el conocimiento jurídico y las condiciones prácticas de la defensa (Contini, 2026).

Junto a estos resultados institucionales limitados, los magistrados italianos (jueces y fiscales) empezaron a experimentar por su cuenta con grandes modelos de lenguaje (LLM) comerciales, lo que dio lugar a prácticas dispersas de IA en la sombra (shadow AI). Más adelante, en la primavera de 2025, el ícono de Copilot apareció en los computadores de jueces y fiscales. Sin ningún aviso oficial, la IA generativa quedó disponible a través del entorno de trabajo comercial que ya se suministraba a los usuarios judiciales. Su disponibilidad en la primavera de 2025 precedió a una comunicación clara sobre los usos admisibles, las limitaciones funcionales y una formación generalizada. En enero de 2026, una comunicación ministerial se ocupó de la situación. Anunció la introducción de la aplicación a título experimental, aclaró que su uso solo se permitía para tareas administrativas y auxiliares, y anticipó el inicio de una formación específica (Contini, 2026).

Esta secuencia dejó al descubierto una brecha entre el despliegue y la preparación que exige un uso responsable. Además, encajaba mal con la obligación de alfabetización en IA, ya vigente desde febrero de 2025 en virtud del Reglamento de Inteligencia Artificial de la UE. La evidencia respalda la crítica a un despliegue que se adelantó a una preparación adecuada. Evaluar incumplimientos jurídicos concretos exigiría más evidencia sobre las medidas adoptadas respecto de usuarios determinados.

La consecuencia institucional más amplia fue una dependencia creciente de una plataforma comercial de propósito general, ante la ausencia de aplicaciones específicas. El proveedor controla el diseño y las funciones del producto. En consecuencia, satisfacer los requisitos propios del trabajo judicial depende del margen para configurar el sistema y de los procedimientos de trabajo que adopten los despachos judiciales. Cuando un sistema no se adapta a las necesidades de los usuarios, son los usuarios quienes deben adaptar sus tareas al sistema.

Estos problemas de despliegue reflejaban una debilidad anterior en la asignación de la responsabilidad institucional. El Ministerio introdujo inicialmente la IA en el entorno de trabajo judicial por iniciativa propia. El Observatorio sobre la IA en la actividad judicial, creado en julio de 2024, no contó al principio con representantes del CSM. La designación de dos miembros del CSM en junio de 2025 subsanó en parte esta carencia, aunque dejó abierta la asignación más amplia de responsabilidades.

El CSM, por su parte, no fue proactivo ni reactivo. Desarrolló su posición de manera progresiva, con sus primeras recomendaciones específicas en octubre de 2025. Estas recomendaciones llegaron varios meses después de que Copilot quedara disponible y después de al menos dos años de experimentación independiente por parte de los magistrados.

Estas primeras recomendaciones se centran en los usos admisibles y en las salvaguardas institucionales, sin mencionar la declaración del uso. Su énfasis ofrece una base de comparación con el enfoque colombiano, en el que la declaración vincula el uso de la IA con el escrutinio en cada proceso.

Gobernanza compartida y usos en expansión

Los desarrollos mencionados en la sección anterior hicieron cada vez más evidente la necesidad de una gobernanza compartida. El Ministerio aporta infraestructura, seguridad, contratación y capacidad técnica. El CSM responde por la independencia judicial y por la organización del trabajo judicial. La abogacía aporta el conocimiento de los derechos de defensa, de la práctica procesal y de las necesidades de quienes acuden a los tribunales. Sus responsabilidades se cruzan dondequiera que la tecnología condicione el trámite de los casos (Contini, 2026).

El papel del CSM se extiende, por tanto, a las condiciones en que los sistemas deberían seleccionarse, probarse e introducirse. Las reglas dirigidas a cada juez dependen de decisiones técnicas y organizativas previas. Una exigencia de verificar las fuentes, por ejemplo, se vuelve practicable cuando la aplicación ofrece un acceso fiable a la fuente auténtica: mientras los jueces tienen acceso a la base de datos completa y sin anonimizar, los abogados solo acceden a su versión anonimizada e ininteligible. Por ello, también la abogacía debería participar activamente en la gobernanza de la IA.

Las recomendaciones del CSM de octubre de 2025 reconocieron un área intermedia entre la asistencia organizativa y la actividad jurisdiccional. Identificaron usos como la investigación, los resúmenes de decisiones de acceso público, el apoyo administrativo, la revisión lingüística y la traducción. También pidieron cooperación con el Ministerio, experimentación controlada, auditorías periódicas y diálogo con la abogacía. El CSM subrayó el tiempo que exigen la revisión crítica y la valoración independiente del juez (Consiglio Superiore della Magistratura, 2025).

En 2026, la cooperación entre el Ministerio y el CSM facilitó el despliegue. La cooperación se desarrolló a través del Comité Conjunto (Cavallini, 2024)¹, y el Ministerio dio garantías técnicas sobre el entorno de Microsoft disponible para los jueces, entre ellas el almacenamiento de los datos en Italia, la separación respecto de los entornos de otros clientes y la exclusión de los datos judiciales del entrenamiento de los modelos. Pese a la facilidad con que estas salvaguardas técnicas pueden eludirse al amparo de la Cloud Act de Estados Unidos (Rojszczak, 2022), el CSM autorizó usos experimentales que involucran documentos judiciales, sujetos a condiciones acumulativas (Consiglio Superiore della Magistratura, 2026).

Las actividades ampliadas incluyen clasificar los documentos procesales, analizar el contenido de los escritos de las partes y reconstruir sus posiciones. También incluyen comparar esas posiciones para identificar los asuntos por decidir y los hechos que requieren prueba. Estas funciones sitúan a la IA cerca de la preparación intelectual de la decisión judicial y permiten compararlas con la asistencia examinada en la sentencia colombiana.

Entre las condiciones figuran verificar cada resultado antes de usarlo, puntos de aprobación obligatorios que detienen el avance automático en los flujos de trabajo estructurados, prompts estructurados cuando sea factible y formación técnica previa. La valoración judicial del caso y la decisión siguen siendo responsabilidad del magistrado. A diferencia de la experiencia colombiana, los lineamientos del CSM no mencionan un deber de declarar el uso de la IA, lo que deja a los abogados sin posibilidad de controvertir ese uso. Este desarrollo encierra una tensión significativa. El mismo documento deja constancia de debilidades en la conexión de Copilot con las fuentes documentales, de información inventada y de fallas en la señalización de vacíos. El CSM considera además que el Copilot estándar no es adecuado como solución a largo plazo para la IA judicial (Consiglio Superiore della Magistratura, 2026).

La ampliación descansa, por consiguiente, en la capacidad de cada usuario para aplicar las salvaguardas y gestionar las debilidades reconocidas. En los nuevos lineamientos, las garantías de protección de datos ayudan a justificar el tratamiento de los documentos dentro del entorno institucional. Reconstruir esos documentos con exactitud exige controles adicionales.

El monopolio ministerial italiano se atenúa ahora con la comunicación y el diálogo con el CSM. Al mismo tiempo, el uso permitido se ha ampliado al análisis de casos y, por tanto, está muy cerca de la actividad de juzgar, sujeto a la comprobación y la revisión de los funcionarios judiciales.

Hacer que las salvaguardas funcionen en la práctica

La pregunta pasa a ser cómo obtener evidencia de que el uso real se mantiene dentro de los límites autorizados. Un juez puede conservar la responsabilidad final y, aun así, apoyarse en un resumen que ya alteró la importancia aparente de un argumento. Una pretensión omitida o una alegación controvertida presentada como un hecho admitido pueden influir en el análisis posterior. Esa influencia se produce durante la construcción del relato del caso en términos fácticos y jurídicos, que es cuando las partes presentan al tribunal sus pretensiones, argumentos y pruebas.

Una gobernanza adecuada debe, por tanto, vincular las salvaguardas técnicas, la competencia profesional y el escrutinio procesal. Las recomendaciones examinadas dejan abiertas cuestiones importantes de implementación. Las propuestas que siguen desarrollan los requisitos del CSM en mecanismos prácticos que también podrían orientar la implementación institucional en Colombia.

Las auditorías independientes deben examinar dos niveles. Una auditoría tecnológica debería evaluar el sistema tal como está configurado para el uso judicial: los permisos de acceso, el tratamiento de los datos, las fuentes disponibles, los vínculos entre los resultados y los documentos, los registros operativos y el funcionamiento de los puntos de aprobación obligatorios. Las pruebas deberían examinar omisiones, atribuciones incorrectas y referencias inventadas a partir de materiales realistas de casos.

Una auditoría del uso debería evaluar si los usuarios siguen el procedimiento aprobado, consultan los originales, detectan las fallas y completan las comprobaciones exigidas. La evidencia puede incluir ejercicios, entrevistas y muestras de operaciones debidamente protegidas.

El mandato de auditoría debería centrarse en los sistemas y en las prácticas de trabajo, a la vez que salvaguarda la independencia judicial, la información confidencial y la deliberación. Esta evaluación no debería afectar la situación ni la carrera de los jueces involucrados, ni dar lugar a una investigación disciplinaria. Sus hallazgos deberían conducir a correcciones, a formación adicional o a restricciones de usos específicos. La auditoría no se agota en un solo ejercicio. Como Copilot (al igual que cualquier LLM) evoluciona con rapidez, las auditorías deberían ser periódicas.

Los prompts estructurados y validados pueden definir la tarea, las fuentes permitidas, el formato del resultado y la manera de tratar la incertidumbre. Por ejemplo, una instrucción puede exigir que se identifiquen por separado las pretensiones de cada parte, respaldadas por la cita original y una indicación de la página. También puede exigir que el sistema distinga las alegaciones de los hechos y señale los materiales que no se tuvieron en cuenta.

El objetivo práctico es una colección de instrucciones validada institucionalmente y probada para tareas y configuraciones del sistema determinadas. Esto daría efecto práctico a la recomendación del CSM de usar prompts estructurados. La validación institucional se propone aquí como una forma de aplicar esa recomendación. La validación debería abarcar todo el procedimiento, incluidos el texto del prompt, los insumos, los resultados y las comprobaciones.

Los jueces y los especialistas técnicos deberían desarrollar juntos estos procedimientos. Los abogados pueden contribuir con la evaluación de casos en que un resumen es correcto y de casos en que podría distorsionar la posición de una parte. Los cambios sustanciales en el prompt, el sistema o la configuración deberían dar lugar a nuevas pruebas.

Los puntos de aprobación obligatorios deberían impedir que un flujo de trabajo estructurado avance hasta que el magistrado haya revisado su resultado. El software debería imponer este requisito. Los registros deberían identificar la versión revisada y las correcciones que se hayan hecho. Estos registros apoyan la rendición de cuentas, mientras que la sustancia de la revisión requiere evidencia adicional.

La exhaustividad merece especial atención. Verificar la exactitud de los pasajes que seleccionó el sistema deja abierta la posibilidad de que se haya omitido un argumento importante. Por consiguiente, la revisión debe permanecer directamente conectada con los documentos auténticos. El juez necesita tiempo suficiente y medios prácticos para comparar el relato automatizado con el expediente.

La formación podría desarrollar la capacidad del juez para comparar el relato automatizado con el expediente. Los ejercicios podrían incluir pretensiones omitidas, partes confundidas, fuentes inventadas y resúmenes engañosos. La competencia debería evaluarse respecto de los usos autorizados. La formación también debería desarrollar la capacidad de corregir los resultados, reconocer los límites de una tarea y dejar de usar el sistema cuando una verificación fiable se vuelva impracticable.

El llamado del CSM a cooperar con la abogacía puede traducirse en responsabilidades en los niveles nacional y local. El Consejo Nacional de la Abogacía (Consiglio Nazionale Forense, CNF) debería trabajar con el Ministerio y con el CSM para definir los requisitos de los sistemas que procesan escritos y pruebas. También debería contribuir a los procedimientos de prueba y a las auditorías independientes, con atención a la representación exacta de las pretensiones, los argumentos y los hechos controvertidos. Esta participación llevaría los derechos de defensa a las decisiones sobre el diseño, el despliegue y la evaluación de la IA judicial.

Los colegios de abogados locales y los despachos judiciales podrían desarrollar prácticas compartidas mediante grupos de trabajo conjuntos y evaluar de manera compartida los resultados. Estos ejercicios deberían examinar omisiones, atribuciones incorrectas y cambios de sentido, incluido si un sistema convierte una alegación en un hecho o pasa por alto una pretensión subsidiaria. Sus hallazgos orientarían el desarrollo de los prompts estructurados, de los procedimientos de verificación y de la formación.

Estos mecanismos fomentarían además un intercambio permanente entre la experiencia profesional y la supervisión institucional, lo que ayudaría a los tribunales a mejorar sus procedimientos y a corregir las debilidades a medida que surjan.

Conectar la gobernanza institucional con el escrutinio procesal

Las experiencias colombiana e italiana abordan el problema común de integrar la IA en el trabajo judicial y, a la vez, proteger un proceso justo. Ambas combinan responsabilidades institucionales con deberes para cada juez, con énfasis distintos que ofrecen lecciones complementarias.

La experiencia italiana muestra cómo las dificultades del desarrollo público y la introducción de una plataforma comercial dejaron al descubierto las debilidades de un control ministerial concentrado. La cooperación con el CSM ha producido de manera gradual salvaguardas más detalladas y un abanico más amplio de actividades permitidas. Para que esas salvaguardas sean efectivas se requieren procedimientos probados, usuarios competentes, evaluación independiente y participación de la abogacía. Para Colombia, estos desarrollos identifican tareas institucionales que pueden respaldar sus disposiciones de implementación vigentes y los deberes de verificación que pesan sobre los jueces, y subrayan la necesidad de una gobernanza compartida de la IA judicial.

La experiencia colombiana añade un requisito que merece consideración expresa en Italia: la declaración del uso de la IA judicial. La sentencia del Consejo de Estado ilustra cómo la información sobre la secuencia de trabajo humano, asistencia de la IA y verificación posterior puede servir de apoyo al escrutinio procesal. Las recomendaciones italianas dejan abiertas cuestiones importantes de implementación y no prevén un procedimiento de declaración comparable. Un paso adicional sería definir cuándo deberían los jueces declarar la asistencia de la IA, qué información deberían suministrar y cómo pueden las partes plantear sus inquietudes. Estos requisitos deberían reflejar la función desempeñada y su posible influencia en el proceso, en particular cuando la IA ayuda a reconstruir posiciones controvertidas.

La declaración y las salvaguardas institucionales se reforzarían mutuamente. La declaración permitiría a los abogados identificar el papel de la IA en un proceso concreto y cuestionar las omisiones o las distorsiones relevantes. Los procedimientos probados, la formación y las auditorías aportarían evidencia sobre las condiciones en que se usó la herramienta. Las prácticas profesionales compartidas podrían conectar estos dos niveles de rendición de cuentas, a la vez que protegen la información confidencial y la deliberación judicial.

Un enfoque coherente vincularía, por tanto, las decisiones de despliegue con los usos aprobados, los métodos de trabajo verificados, la formación, la declaración y la revisión periódica. También debería asignar la responsabilidad de corregir o suspender las prácticas cuando surjan debilidades recurrentes.

Para Colombia, la experiencia italiana pone de relieve el trabajo institucional que se requiere para sostener la declaración. Para Italia, la experiencia colombiana muestra cómo la declaración puede vincular las salvaguardas institucionales con el escrutinio en cada proceso. En conjunto, los dos enfoques respaldan el contacto directo y crítico del juez con el expediente y la posibilidad de las partes de cuestionar cómo se representan sus posiciones.

Traducción de Código Abierto con asistencia de inteligencia artificial, cotejada por la revista. El autor actualizó el original en inglés, respondió las preguntas de la traducción y dejó en manos de la revista el cotejo de esta versión. El original en inglés está en Judicial AI: Expanding Uses, Unfinished Governance.

Nota

¹ El Comité Conjunto (Comitato Paritetico Ministero della Giustizia - Consiglio Superiore della Magistratura) se creó por deliberación del CSM del 18 de mayo de 2011. Se ocupa de temas que requieren la participación de las dos instituciones, como la informática y la estadística, las plantas de personal y las buenas prácticas en materia organizativa y judicial. https://www.csm.it/portale/web/csm-internet/comitato-paritetico

Referencias

Castelli, C. (2024). L'agenzia: una nuova governance per i servizi informatici del Ministero. Questione Giustizia. Disponible en https://www.questionegiustizia.it/articolo/agenzia-governance-it

Cavallini, D. (2024). Il CSM tra ordinamento e organizzazione della giustizia. L'ampliamento delle competenze nella gestione degli uffici giudiziari. Bologna: Bologna University Press.

Consejo de Estado. (2026). Sentencia de tutela, radicación 11001-03-15-000-2026-04632-00. Disponible en https://codigoabierto.co/documentos/rad-2026-04632.pdf

Consejo Superior de la Judicatura. (2024). Acuerdo PCSJA24-12243 del 16 de diciembre de 2024. Bogotá. Texto oficial: https://actosadministrativos.ramajudicial.gov.co/Home/GetFile?nombreArchivo=PCSJA24-12243.pdf. Traducción al inglés en el sitio del Consejo de Europa: https://rm.coe.int/colombia-guidelines-for-the-use-of-artificial-intelligence-in-the-judi/1680b53484

Consiglio Superiore della Magistratura. (2025). Raccomandazioni sull'uso dell'intelligenza artificiale nell'amministrazione della giustizia. Roma: Consiglio Superiore della Magistratura. https://www.csm.it/portale/documents/21768/87316/linee+guida+intelligenza+artificiale+%28delibera+8+ottobre+2025%29.pdf/e0ed018a-43e2-9dd7-2420-e3d0632d658c?t=1772619014845

Consiglio Superiore della Magistratura. (2026). Aggiornamento delle raccomandazioni sull'uso dell'intelligenza artificiale nell'amministrazione della giustizia. Roma. Disponible en https://www.csm.it/portale/documents/21768/8276330/NEWS+118-VV-2024+-+aggiornamento+uso+IA.pdf/75cc3c96-3e79-9ec0-037a-b5e2b69bbc11?t=1785311382253

Contini, F. (2026). Governare l'IA nella giustizia italiana: progetti, applicativi e responsabilità istituzionali. CNR-DSU Working Paper (1-26), 1-22. doi: https://doi.org/10.36134/CNRDSUWP-2026-1

Reiling, D., & Contini, F. (2022). E-Justice Platforms: Challenges for Judicial Governance. International Journal For Court Administration, 13(1). Disponible en https://doi.org/10.36745/ijca.445

Rojszczak, M. (2022). CLOUD act agreements from an EU perspective. Computer Law & Security Review, 38. doi: https://doi.org/10.1016/j.clsr.2020.105442