人工智能目前仅在铁路行业的非安全关键场景中使用，原因是行业标准和法规极其严格。为提升数据科学和 AI 算法的可信度并满足合规要求，需要重点关注三个方面：鲁棒性、运行设计域（ODD）和可解释性。
鲁棒性指 AI 系统在任何环境下保持性能水平的能力，参照 ISO24029 标准。
运行设计域（ODD）通过 DIN DKE SPEC 99004 明确系统预期运行的条件范围，使得系统行为可界定。
可解释性要求 AI 能以人类可理解的方式说明影响结果的关键因素。
这三类研究在非铁路领域已相当成熟，相关算法和方法可直接迁移到铁路应用。
为了在安全的 MLOps 环境中持续满足可信需求，需要系统视角，将鲁棒性、ODD、可解释性等要求在整个生命周期中持续交互，从而获得监管机构、运营方和公众的认可。
超越安全关键应用的保护，深度信任的建立符合全球监管框架的要求，将释放 AI 的全部潜能，加速其在关键任务领域的落地。
点评