NeFut Logo NeFut
EN 管理员登录

[AI学术] 面向高效异构模型协作的校准感知不确定级联

发布于:2026-09-12 22:00 最后更新:2026-09-15 01:15
#AI #Machine Learning #optimization

异构模型协作旨在利用不同模型的互补优势,在保持预测性能的同时降低推理成本。传统方法要么依赖训练好的路由器,将路由决策绑定到固定任务和模型集合,要么使用原始置信度级联,但后者的阈值在不同模型之间缺乏统一的可靠性语义,导致在模型池或预算变化时适应性差。我们提出校准感知不确定级联(CAUC),这是一种后置框架,先对每个模型的置信度进行独立校准,再利用验证集选取部署策略。校准后的置信度形成统一的可靠性尺度,可用于决定是否接受早期预测、调用更强模型或选择性地融合模型输出。该决策准则与具体模型池或运行预算解耦。理论上,校准赋予置信阈值明确的选择风险解释,而未校准的分数则无法提供可靠保证。实验在六个语言基准上显示,CAUC 相比仅使用强模型推理,平均提升 1.9% 的相对准确率,同时约减少 47% 的强模型调用;在图像分类基准上,保持或提升预测性能的同时,测得的 GFLOPs 最多下降 57%。

点评

原文链接: https://arxiv.org/abs/2609.11446

[h] 返回首页