NeFut Logo NeFut
EN 管理员登录

[AI学术] 差分秩保持流形学习

发布于:2026-11-03 22:00 最后更新:2026-11-05 00:45
#AI #Machine Learning #optimization

流形学习方法如 t-SNE 和 UMAP 能够保持局部邻域,但往往忽略邻居之间的相对排序。两个嵌入可能拥有相同的邻居集合,却在最近点的顺序上出现分歧,这会削弱对顺序敏感的下游任务。为此我们提出 Smooth Rank t-SNE(SR‑tSNE),在标准 t‑SNE 损失上加入可微分的秩项。该秩项采用 sigmoid 秩近似,显式迫使高维空间中的真实邻居在低维嵌入中超越无关点,并保持原有顺序。我们进一步扩展局部保持度(DLP)指标为 Ordinal DLP(O‑DLP),仅在邻居保持其原始秩时计分。实验在图像、文本、语音、遥感和单细胞等八类基准上进行,SR‑tSNE 在秩保持和邻域重叠上超越 12 种基线。消融实验表明,仅秩项即可将 O‑DLP 提升 5%~28%,而传统的成对损失难以实现。该优势在下游任务中得以转化:在七个视觉数据集上实现最佳标签转移性能;在六个单细胞数据集的细胞类型发现任务中,18 项数据集‑指标组合中有 17 项排名第一,无论是否使用细胞标签进行聚类分辨率选择。金融实盘实验显示,SR‑tSNE 在日内交易中获得更高收益、更低风险和更低换手率。我们认为 SR‑tSNE 是首个在 t‑SNE 系列中显式保序的算法。\n\n点评:SR‑tSNE 通过可微分秩近似实现了嵌入顺序的精细控制,在多模态数据和实际应用中展现出显著优势,为流形学习提供了新的评价维度。

原文链接: https://arxiv.org/abs/2610.41107

[h] 返回首页