Establece normas armonizadas para introducir en el mercado y usar sistemas de IA en la Unión con un enfoque por riesgos (prácticas prohibidas, requisitos para los sistemas de alto riesgo, obligaciones de transparencia y reglas para los modelos de uso general), con multas de hasta 35 millones de euros o el 7 % del volumen de negocios mundial, y rige de manera directa en los Estados miembros, entre ellos España y Portugal.
Califica de alto riesgo los sistemas destinados a ayudar a una autoridad judicial en la investigación e interpretación de los hechos y de la ley y en su aplicación a un conjunto concreto de hechos, o a usarse de forma similar en la resolución alternativa de litigios, salvo los que no planteen un riesgo importante, como los destinados a una tarea de procedimiento limitada o a una tarea preparatoria (artículo 6.3).
Su considerando 61 precisa que la IA puede apoyar el poder de decisión de los jueces pero no sustituirlo, porque la decisión final debe seguir siendo humana, y que esa calificación no debe extenderse a las actividades administrativas meramente accesorias, como la anonimización de resoluciones.
Desde el 2 de diciembre de 2027, quien despliegue uno de esos sistemas para tomar o ayudar a tomar decisiones sobre personas físicas debe informarles que están expuestas a su uso (artículo 26.11), y la persona afectada por una decisión basada en un sistema de alto riesgo del anexo III tiene derecho a que se le explique el papel que tuvo el sistema (artículo 86).
La vigilancia del mercado no puede afectar la independencia de las autoridades judiciales en el ejercicio de su función judicial.
"Sistemas de IA destinados a ser utilizados por una autoridad judicial, o en su nombre, para ayudar a una autoridad judicial en la investigación e interpretación de hechos y de la ley, así como en la garantía del cumplimiento del Derecho a un conjunto concreto de hechos, o a ser utilizados de forma similar en una resolución alternativa de litigios"
anexo III, punto 8, letra a), página 128 del texto oficial