NeFut Logo NeFut
EN 管理员登录

[AI学术] 代理仅在有帮助时思考

发布于:2026-11-05 22:00 最后更新:2026-11-07 12:32
#Machine Learning #optimization #LLM

LLM 代理蒸馏通过在学生模型上训练完整的教师轨迹(包括思考过程和动作)来迁移代理能力。本文探讨思考监督对最终动作表现的关键性。我们在蒸馏过程中分别扰动教师的思考和动作,以独立评估它们的影响。实验覆盖多个主流代理基准和不同模型规模,结果显示:即使完全去除教师的思考信息,学生模型的性能几乎不受影响。唯一例外是当教师的思考内容在对应动作中未被透露时,思考监督才会显著提升学生表现。通过识别这些信息不一致的情形,我们质疑了在 LLM 代理蒸馏中必须使用完整教师轨迹的常规做法,并提出在信息已在动作中体现的情况下,可省略思考监督以提升效率。\n\n点评:本文提供了对思考监督必要性的细致实验验证,为未来的代理蒸馏提供了更灵活的设计思路。

原文链接: https://arxiv.org/abs/2611.05709

[h] 返回首页