NeFut Logo NeFut
EN 管理员登录

[AI学术] 相同反馈,不同答案:前沿模型客户反馈分析中的运行间不稳定性度量

发布于:2026-10-08 22:00 最后更新:2026-10-12 00:49
#AI #Machine Learning #LLM

AI 代理正被用于在大规模非结构化数据上自动化知识工作。此类自动化要求结果可重复:在证据不变的情况下,同一任务的类别、优先级和计数不应出现实质性变化,即使每次的单个答案看似合理。我们提出一种重复运行评估框架,首先对语义等价的类别进行对齐,然后关注两个运行指标:主题漂移(theme churn),即返回的类别集合的归一化变化;以及体量分歧(volume disagreement),即在保留的类别上计数的变化。我们在八个前沿模型上,对三类常见的客户反馈任务进行实验,语料规模从 100 到 5,000 条记录,使用多种提示词,并比较三种执行方式:直接生成、无 taxonomy 的层次分解、以及基于持久主题、子主题和记录级预测的 taxonomy‑grounded agent(TGA)。在 Claude Opus 4.8 与 1,000 条记录的固定语料下,TGA 将主题漂移降低 86%–88%,且匹配主题的体量分歧为零。相较于所有原始模型,taxonomy‑grounded 代理在所有语料规模下均表现更稳定,且在主题匹配阈值放宽或收紧时仍保持优势。虽然实验聚焦客户反馈,但该框架同样适用于金融报告、法律文档、事故记录和科学文献等非结构化语料的重复综合。总体而言,taxonomy 引导能够显著提升重复知识工作的输出一致性和可重复性。

点评

原文链接: https://arxiv.org/abs/2610.08036

[h] 返回首页