DecisionPivot 是一个面向大语言模型(LLM)系统中决策模型的诊断基准。它覆盖 48 项任务、40,033 条样本,涉及七类决策角色。核心轨道包含 7,800 条样本,来源于 13 种自动生成的任务族,并按对比组组织,每组的答案由独立实现的求解器验证。参考轨道则收录 32,233 条样本,来自 35 个公开测试集,保留原始评估指标。\ \ 我们按照文档化的模型专属协议,对 40 种决策模型和 14 种通用模型进行评估,测量项目准确率、对比组准确率、概率排序、校准度以及经验选择覆盖率。结果显示,聚合得分掩盖了大量差异:两款 27B 模型在参考轨道上仅相差 2.6 分,却在对比组准确率上分别为 70.1% 与 44.2%。在 2,400 对二元对比中,Perplexity Decider 能以 92.3% 的比例将正例排在负例前,但两者同时答对的比例仅为 74.1%,揭示了概率排序与决策正确性之间的鸿沟。相似的项目准确率并不意味着高置信预测的可靠性相同。以 1,296 条子集为例,GLM-5.3 在高推理设置下的对比组准确率为 93.5%,而在最低努力模式下仅为 81.5%。DecisionPivot 通过将错误关联到关键细节和难度层级,提供了细粒度的决策失效诊断,这是单纯聚合评估无法实现的。\ \ 点评