NeFut Logo NeFut
EN 管理员登录

[AI学术] 基于证据的本地行为预测架构

发布于:2026-10-26 22:00 最后更新:2026-10-27 00:43
#AI #Machine Learning #LLM

用户在明确请求帮助前往往会改变交互行为,这为系统提前预测未来的求助提供了可能。尤其在高风险场景中,延迟帮助可能导致运营、财务或安全问题。传统的大语言模型因计算和内存需求难以在设备上持续运行,而行为模式又高度个体化、设备相关,要求本地处理以保护隐私和数据主权。小语言模型因体积小、推理快而成为候选,但其在低层序列交互事件上的可靠推理能力尚未充分研究。

本文提出 Evidence-Grounded Local Behavioral Prediction(ELBP),由四层组成:

  1. 确定性交互处理,将原始事件转化为统一格式;
  2. 双视图行为表示,分别捕获时间序列特征和上下文语义;
  3. 基于小语言模型的预测层,接受双视图输入输出概率分布;
  4. 证据验证与弃权机制,利用模型生成的证据判断预测可信度并在必要时放弃。

实验选取三种指令微调模型,参数不超过 3B,分别在原始事件、结构化视图、双视图以及完整 ELBP 配置下评估。最佳组合为 Qwen2.5-3B + ELBP,整体 F1 达 0.80,PR‑AUC 为 0.84,相比仅使用原始事件提升 15.9%,比 XGBoost 提升 17.6%,同时整体校准误差(ECE)下降 43.2%。加入证据验证后,在覆盖率 91% 时选择性 F1 提升至 0.84,证据支持率达到 96%。

这些结果表明,结构化的行为表示以及基于证据的选择性预测能够显著提升小语言模型在行为预测任务中的可靠性。

点评

原文链接: https://arxiv.org/abs/2610.32193

[h] 返回首页