NeFut Logo NeFut
EN 管理员登录

[AI学术] 通过行为局部化实现工具使用代理的软技能适配

发布于:2026-10-23 22:00 最后更新:2026-10-25 13:04
#AI #Machine Learning #LLM

文本技能可以扩展工具使用代理的能力,但冗长的技能描述会显著增加计算开销。软提示提供了更紧凑的替代方案,然而从完整的成功轨迹学习可能会引入不必要的行为变化。我们发现,文本技能的有效作用高度集中在轨迹的少数位置。基于此,我们提出行为局部化(Behavioral Localization),通过比较冻结的代理在有无文本技能时的输出,识别出既提升成功 token 概率又显著改变下一个 token 分布的位置。随后利用这些局部化位置对一个短软提示进行监督。实验在 SpreadsheetBench 上使用冻结的 Qwen3.6-35B-A3B 代理进行。结果表明,前 10% 的轨迹位置捕获了 96.12% 的正向技能增益。在共享提示设置下,选择性监督将成功率从完整轨迹的 30.36% 提升至 36.79%。在任务特定条件下,使用前 10% 的局部化位置可达 57.38%,超越完整文本技能和基于策略的 OPCD 基线。该研究表明,仅需少量行为相关的轨迹位置即可为软技能提供有效监督。

点评: 行为局部化通过聚焦关键决策点,大幅提升软提示的效率和效果,为大模型在工具使用场景中的可扩展性提供了新思路。

原文链接: https://arxiv.org/abs/2610.30041

[h] 返回首页