Propone adicionar el Código de Procedimiento Administrativo y de lo Contencioso Administrativo (Ley 1437 de 2011) para reservar a las personas que ejercen legalmente la competencia administrativa, y no a un sistema de inteligencia artificial, la adopción de cuatro clases de decisiones, en procedimientos comunes o especiales: las que determinan la responsabilidad administrativa e imponen o gradúan sanciones, las que suspenden, cancelan, revocan o restringen licencias, permisos o autorizaciones ya otorgados, las medidas provisionales que restringen derechos dentro de esas actuaciones y la resolución de los recursos contra ellas.
Cuando la IA tenga incidencia material en la preparación de esas decisiones, la autoridad debería ejercer un control humano significativo, interpretar ella misma los hechos, valorar las pruebas y elaborar la motivación, y ese control debería constar en actuaciones propias, más allá de la firma, el clic de aprobación o la validación masiva.
La autoridad informaría de oficio al interesado el uso material de la IA, con una explicación comprensible de su incidencia en el caso y oportunidad efectiva de controvertir el resultado, conservaría en el expediente los resultados usados, la versión del sistema y las constancias de verificación humana, y motivaría expresamente la incidencia de la IA en la decisión final, también en la sancionatoria.
Solo un resultado verificado y sometido a contradicción podría fundar de manera determinante una decisión adversa, la autoridad lo valoraría sin darle valor probatorio privilegiado por su origen tecnológico y examinaría las objeciones del interesado sin exigirle probar un defecto del sistema.
"Corresponde a la persona o a las personas que legalmente ejerzan la competencia administrativa, y no podrá atribuirse a un sistema de inteligencia artificial, la adopción de las siguientes decisiones: 1. Determinar la responsabilidad administrativa e imponer o graduar una sanción, o disponer el archivo o la terminación de una actuación sancionatoria."
art. 3 (art. 34B de la Ley 1437 de 2011, inciso 1 y num. 1), página 2 del texto oficial