摘要
尽管知识编辑为多模态大语言模型(MLLMs)提供了一种高效的知识更新机制,但我们发现当前的范式仍然面临一个重要且尚未深入探讨的问题:编辑解耦失败。当模型通过多模态输入(文本-图像查询对)触发时,相关知识能够被更新;然而,当这些配对输入被拆分为单模态输入时,模型往往会恢复到过时的编辑前事实。
我们的深入实证分析揭示,MLLMs中的实体知识并非以统一表示存储,而是分散在解耦的模态特定路径中。因此,针对多模态查询的更新无法有效传播到单模态电路。为了解决这一问题,我们提出了DECODE,它明确解耦和定位模态特定的神经元组以进行有针对性的知识更新。大量实验表明,DECODE在不同模态触发下始终实现有效的知识更新,从而缓解了编辑解耦失败的问题。
博主点评: DECODE的提出为解决多模态大语言模型中的知识更新问题提供了新的思路,通过明确解耦模态特定的神经元组,显著提高了知识编辑的有效性。这一研究不仅丰富了知识编辑的理论基础,也为实际应用中提升模型性能带来了希望。