Source-Free Domain Adaptation (SFDA) 旨在在不访问源数据的情况下,将已在源域预训练的模型迁移到无标签的目标域。
早期单模型方法依赖自我细化,容易产生确认偏差,难以纠正系统性错误。近期引入视觉语言(ViL)模型作为外部知识,但多数采用单向监督,只让 ViL 指导源模型,忽视了两者错误模式互补的结构特性——当一个模型出错时,另一个可能正确,提供了相互纠正的机会。由于缺乏真实标签,难以判断哪模型在特定样本上可信,直接交换预测会导致错误传播。
为此我们提出 SafeCut。核心是利用 cut statistic 作为无标签的可靠性度量,对跨模型监督进行门控。具体做法是:对每个样本计算两模型的 cut 值,较小的 cut 表示更可靠的预测;根据相对可靠性动态决定监督方向并调节权重,仅在可靠模型对不可靠模型进行软标签传递。这样在每个样本上既放大真实纠正,又抑制误纠正。
我们进一步给出理论分析,证明在可靠性门控下,期望的纠正信号为正,即整体提升模型性能。实验在多个 SFDA 基准上验证了 SafeCut 的有效性,显著超越现有方法,证明了通过 cut 统计保护相互纠正的可行性。
点评