摘要
神经常微分方程(neural ODE)开始在安全关键设置中应用,例如用于网络物理系统的连续时间控制器和集成在自动决策流程中的分类器,这引发了对其行为能否进行形式化验证的疑问。现有的神经 ODE 工具仅提供单次可达性调用,且不支持迭代输入集细化,这限制了其判决的精确性。
我们介绍了 TNODEV,首个针对神经 ODE 的声音形式验证器,集成了一个伪造检查器、基于连续时间混合单调性的快速区间可达性后端、一个包含三种输入集划分启发式的验证与细化循环,以及一个并行调度器,形成一个端到端流程。
TNODEV 支持在纯神经 ODE、与神经网络控制器闭环结合的神经 ODE 以及一般神经 ODE(GNODE)上进行安全集包含验证,安全集可以指定为区间或由目标分类标签诱导的半空间交集。我们在多个基准测试上评估 TNODEV,涵盖安全集包含和分类鲁棒性属性,包括与 NNV~2.0 和 CORA 的直接可达性比较,以及在 MNIST 上与 NNV2.0 的验证比较。
博主点评: TNODEV 的推出标志着神经 ODE 领域的一个重要里程碑,尤其在安全性和可验证性要求日益增加的背景下,提供了一种高效的验证工具。其集成的多种功能和并行处理能力,极大地提高了验证的精度和速度,值得研究人员与工程师关注。