摘要
增量目标检测(IOD)旨在扩展检测器以适应新类别,同时保留之前获得的知识。现有方法通常采用类别增量学习的视角,分离特征空间以锐化决策边界。然而,这种分离导向的范式可能忽视了检测中的对象共生现象,在这种现象中,共现和遮挡引入了空间和语义依赖,这种依赖从共享表示中受益。
忽视这些依赖关系会扭曲共享表示,加剧旧类与新类之间的混淆,并加速灾难性遗忘。为了解决这个问题,我们提出了共生启发的知识蒸馏(SIKD),它在两个互补层面上明确利用对象共生。
空间共生蒸馏(SpSD)
SpSD专注于共生区域,在这些区域中,旧模型对新任务中的对象响应高度重叠。它保留了可泛化的旧类线索,抑制了类特定的偏差和冗余,并通过匹配的空间位置与槽对齐的监督将精炼的证据蒸馏到新模型中。
语义共生蒸馏(SeSD)
SeSD通过为旧类别形成置信度加权原型,并对旧类别logits的类间软排名进行对齐,来保持类级结构,这在适应过程中稳定了语义拓扑。大量实验表明,所提方法的有效性和优越性。
博主点评: 本文提出的SIKD方法在增量目标检测领域具有显著的创新性,尤其是在处理旧类别和新类别之间的共生关系方面,通过空间和语义两个层面的蒸馏,有效减少了灾难性遗忘现象。这一方法不仅提升了模型的适应性,也为后续的研究提供了新的思路。