摘要
自动化优化在工业过程中日益受到采纳，但设计这些算法的工程师与必须根据其推荐采取行动的操作员之间仍存在信任差距。可解释的人工智能方法，如SHAP（Shapley加法解释），已经改变了机器学习预测的可解释性；优化输出也可以从类似的技术中受益。
我们提出了一种将基于隐式函数定理（IFT）的敏感性分析与SHAP归因及通过大型语言模型（LLM）生成叙述相结合的方法，为操作员提供量身定制的解释。我们的方法利用IFT从最优条件中计算确切的参数敏感性 $\frac{\partial p^*}{\partial x}$，从而实现高效的GradientSHAP计算。
在一个具有22个特征的工业高压磨矿机（HPGR）控制优化问题上，我们实现了等效的SHAP归因（与KernelSHAP的相关性为0.99），并获得了超过40倍的速度提升，使得实时自然语言解释成为可能。我们在工业场景中进行了验证，并展示了领域专家对生成解释的反馈。
博主点评： 本文通过结合隐式函数定理与SHAP，成功提升了工业优化问题的可解释性，为操作员提供了更可信的决策依据。这种方法不仅提高了计算效率，还为实时应用提供了可能性，具有重要的实际应用价值。