Propone barreras y obligaciones de seguridad para el uso de sistemas de inteligencia artificial en las funciones críticas de seguridad de las represas hidroeléctricas, aplicables a sus operadores públicos, privados o mixtos y, en lo que les corresponde, a los proveedores, tanto para los sistemas que ejecutan maniobras como para aquellos cuyas recomendaciones se adoptan en decisiones operativas, aunque una persona las apruebe.
Prohibiría que un sistema de IA amplíe, deshabilite o modifique autónomamente los límites esenciales de seguridad o las condiciones que activan las protecciones, una prohibición exigible desde la promulgación.
El operador tendría que inventariar los sistemas y analizar sus escenarios de falla, mantener barreras independientes que impidan que una misma falla comprometa a la vez la función crítica y su protección, designar personal cualificado con autoridad para rechazar recomendaciones inseguras y recuperar el control o llevar la instalación a un estado seguro, validar los sistemas en simulación o en entornos controlados antes de ponerlos en servicio o de introducir cambios sustanciales y conservar durante al menos cinco años los registros de versiones, alertas, actuaciones automáticas e intervenciones humanas.
Ante un incidente alertaría a las comunidades conforme a los protocolos de emergencia, sin esperar a determinar la causa informática, y restringiría o suspendería el sistema afectado cuando no pueda acreditar condiciones suficientes de seguridad.
La Superintendencia de Servicios Públicos Domiciliarios verificaría el cumplimiento de los operadores sometidos a su vigilancia, y el incumplimiento daría lugar al régimen sancionatorio del artículo 81 de la Ley 142 de 1994.
El Ministerio de Minas y Energía reglamentaría la ley en doce meses y los sistemas en funcionamiento tendrían treinta meses para adecuarse.
"Ningún sistema de inteligencia artificial podrá ampliar, deshabilitar o modificar autónomamente dichos límites o las condiciones que activan las protecciones."
art. 5, inciso 2, página 4 del texto oficial