NeFut Logo NeFut
EN 管理员登录

[AI学术] 何时调用大语言模型:一种成本有效的情感识别混合方案

发布于:2026-09-17 22:00 最后更新:2026-09-18 00:46
#AI #Machine Learning #LLM

情感识别在对话(ERC)是客服平台实现智能提示、升级路由和通话后分析的关键能力,成本和时延与准确率同等重要。我们在系统层面对三种部署方案进行对比:① 低成本堆叠集成模型,使用句子嵌入、窗口上下文以及 RandomForest、XGBoost、Logistic‑Regression 的堆叠;② 直接调用现成的大语言模型(LLM)进行提示,采用 GPT‑4o‑mini 的零样本、少样本和链式思考方式;③ 基于置信度门控的混合方案,仅将集成模型置信度最低的预测上报给 LLM,模拟客服中心的 IVA‑to‑human 升级策略。实验在 IEMOCAP 数据集上进行,集成模型的加权 F1 为 0.595,显著高于所有 LLM 配置(0.460‑0.536),差异具有统计显著性(p<0.05)。在延迟和费用方面,集成模型每条对话的推理时间约为 30 ms,成本约为 LLM 的 1/10;混合方案在保持接近集成模型准确率的同时,仅在 15% 的低置信度样本上使用 LLM,整体成本提升不足 5%。结果表明,在成本受限且对时延敏感的生产环境中,先使用轻量级集成模型并通过置信度门控触发 LLM,是一种兼顾准确率、时延和费用的实用策略。

点评:该研究提供了可直接落地的部署指南,对实际客服系统的成本控制具有重要参考价值。

原文链接: https://arxiv.org/abs/2609.17977

[h] 返回首页