Propone medidas de preparación, respuesta y recuperación para mantener una atención segura cuando fallen o se degraden los sistemas de inteligencia artificial que apoyan funciones asistenciales críticas, a cargo de las instituciones prestadoras de servicios de salud y, cuando sus sistemas intervengan directamente en autorizaciones, referencia y contrarreferencia, dispensación de medicamentos u otros procesos cuya falla o degradación pueda interrumpir una atención en curso o generar un riesgo grave para el paciente, de las entidades responsables de pago y los demás actores del Sistema General de Seguridad Social en Salud.
Prohibiría invocar por sí sola la falla de un sistema de IA para abandonar al paciente, negar arbitrariamente una atención necesaria o mantener en uso un sistema con riesgo inaceptable.
Los obligados tendrían que inventariar y clasificar las funciones críticas apoyadas por IA, evaluar sus dependencias, adoptar un plan de continuidad con alternativas validadas que no dependan del mismo modo de falla, garantizar el acceso seguro a la información clínica indispensable durante la contingencia y reconciliar después los registros, formar al personal y hacer simulacros, y vigilar la pérdida de desempeño y la deriva de los datos o del modelo, con evaluación previa de los cambios sustanciales y validación en condiciones controladas de los que puedan alterar la seguridad o la continuidad.
Ante una falla relevante activarían la alternativa y, cuando sea necesario para proteger al paciente, limitarían o suspenderían el sistema, con una decisión documentada y bajo autoridad humana competente, e informarían al paciente de manera comprensible sobre los cambios en su atención cuando sea clínicamente pertinente.
Los contratos con los proveedores preverían la notificación de incidentes y cambios, la portabilidad de la información y la terminación ordenada del servicio.
El Ministerio de Salud y Protección Social expediría lineamientos técnicos en seis meses, y las adecuaciones se harían dentro de los doce meses siguientes a esos lineamientos, con un máximo de dieciocho meses desde la promulgación.
"La falla o degradación de un sistema de inteligencia artificial no podrá invocarse, por sí sola, para abandonar al paciente, negar arbitrariamente una atención clínicamente necesaria o mantener en funcionamiento un sistema que presente un riesgo inaceptable."
art. 4, inciso 2, página 3 del texto oficial