摘要
神经符号（NeSy）系统将神经网络与逻辑推理结合，以实现泛化和可解释性。然而，最近的研究表明，这些系统容易受到推理捷径行为的影响。为此，我们提出了一种新颖的方法，利用基于矩阵的可微逻辑编程来缓解推理捷径，涉及两种现象：
- 约束满足捷径：在未实现预期任务的情况下满足约束。
- 认知捷径：偏见数据导致语义上不正确的概念映射，尽管推理在逻辑上是合理的。
基于最近的矩阵逻辑编程语义，我们引入设计元素以缓解捷径，包括在单个矩阵中统一编码规则和约束。同时，我们识别了与模糊逻辑 t-norms 的联系，并实证比较了它们的梯度流特性。通过对 MNIST 变体的精心设计实验，我们展示了将神经输出一对一地映射到逻辑原子的方式，相较于依赖软概率分布的先前方法，显著减少了两种捷径类型。最后，我们确认了将符号知识与神经学习结合的架构选择在捷径缓解中扮演了关键角色。
博主点评： 该研究展示了通过可微逻辑编程克服神经符号系统中推理捷径的潜力，强调了结构设计在实现逻辑推理与神经网络结合中的重要性，具有重要的学术和应用价值。有效的推理机制不仅提升了模型的性能，还增强了其可解释性，值得进一步探索与应用。