在人工智能领域，可解释性解释方法旨在揭示潜在原因及其影响，从而更深入地理解系统在不同输入下的行为。与传统的可解释性方法主要强调输入和输出变量之间的相关性不同，因果解释关注于干预问题。这种方法提供了更为稳健的见解，帮助用户理解自动化决策，尤其是在高风险领域。
然而，在具有反馈循环和部分可观察性的规模庞大的混合网络物理系统中，恢复显式的有向因果结构常常是不切实际的。本文提出了一种新颖的框架，受统计力学启发，通过无向的基于能量的表示来建模网络物理物联网系统中的变量依赖关系。
我们的研究方法通过分析能量景观的变化反映个体组件的影响，从而实现严格的依赖感知归因，而无需恢复有向因果图。
该方法还支持对混合交互中的扰动效应进行推理，提供对异常行为的可靠解释。我们通过在具有混合连续和离散变量的工业物联网测试平台上的模拟实证检验了我们的框架，结果显示其在归因准确性、稳健性和可扩展性方面优于最先进的基于图的方法。
尽管这些归因并不旨在完全恢复系统的生成动态，但它们提供了有价值的、依赖感知的解释，支持人类解释及后续预测和诊断任务。虽然在工业物联网安全中得到了验证，但我们的框架同样适用于其他需要原则性结构解释的高维网络物理和社会技术系统。
博主点评： 本文提出的基于能量的归因框架提供了一种新的思路，能够在复杂的网络物理系统中有效分析变量间的依赖关系，其在准确性和可扩展性上的优势值得关注，尤其是在高风险应用场景中的潜在价值。通过这种方法，研究人员可以更好地理解系统的行为，更有效地进行预测和诊断。