NeFut Logo NeFut
EN 管理员登录

[AI学术] TIDE:基于模型行为的树形细粒度诊断评估

发布于:2026-10-23 22:00 最后更新:2026-10-25 13:04
#AI #Machine Learning #LLM

TIDE(Tree‑Induced Diagnostic Evaluation)将诊断评估重新表述为行为驱动的决策树归纳过程,以实现对大语言模型(LLM)能力的细粒度诊断。核心思路是递归构建一棵层级化的能力树:在每个节点,LLM 评审器会提出若干候选划分方案,并对基准样本进行分组分类;随后利用基于模型行为的信息增益(information gain)挑选最能区分样本的划分。整个过程持续迭代,直至形成覆盖所有样本的树结构,每个叶节点对应一种具体能力子集。

我们在四个公开基准上对五个模型(包括 Claude Opus 4.6 与 GPT‑5.4)执行 TIDE,结果揭示了聚合分数难以捕捉的细节差异。例如,Claude Opus 在微观经济市场推理上取得 100% 正确率,而 GPT‑5.4 为 83.3%;但在合同法推理上 Claude Opus 仅为 77.8%,落后于 GPT‑5.4 的 88.9%。这些对比在传统的整体准确率或通过率中完全不可见。

TIDE 的优势在于:

未来工作可以将 TIDE 扩展到历史基准以及新出现的评测任务,使评估结果中的丰富行为信息得到充分利用,以指导模型研发和安全评估。

点评

原文链接: https://arxiv.org/abs/2610.29985

[h] 返回首页