NeFut Logo NeFut
EN 管理员登录

[AI学术] 策略性自洽性

发布于:2026-09-29 22:00 最后更新:2026-09-30 01:41
#AI #Machine Learning #LLM

自洽性已成为提升大语言模型推理能力的热门技术,通过生成多条推理路径并以多数投票决定最终答案。然而,模型提供商通常按生成的路径数量计费,因而有动机人为增加路径数。本文展示了不诚信的提供商如何利用一种简单高效的算法,在审计者难以发现的情况下,通过生成并策略性重排额外的推理路径,使每条路径看似都是达成多数所必需的。

我们在 Llama、Qwen 系列的多种指令模型以及 DeepSeek‑R1 蒸馏的推理模型上,使用覆盖数学、科学和问答的基准数据集进行实验。结果表明,算法产生的额外路径分布呈重尾特性,即使在审计者将误报率控制在 $\alpha = 0.1$ 以下的最优审计方案下,仍存在显著的过度收费空间。

点评

原文链接: https://arxiv.org/abs/2609.30352

[h] 返回首页