LLM 智能体能够执行日益复杂的任务,但要提供有效帮助,需要将其行为与用户可能未明确说明的目标和约束对齐。我们将此问题视为通过澄清实现的交互式意图对齐。澄清只有在智能体能够将答案转化为更好决策时才有价值。随着训练改变智能体处理不完整信息和利用额外答案的方式,同一条澄清的效用会随之增减。为此我们提出 CLEAT(CLarification through valuE‑guided Agent co‑Training),该框架在共享交互结果上共同训练澄清价值控制器和任务策略。我们定义残差查询价值,用以衡量在当前策略下继续执行与主动询问之间获得的任务效用差异,并通过同一交互历史的配对 rollout 进行估计。这些配对回报用于训练控制器预测澄清价值,同时让任务策略学习选择有用的问题并依据答案行动。控制器在后续 rollout 收集阶段提供指导,而更新后的智能体产生的新交互结果又为价值标签提供来源,使澄清指导能够随智能体学习而自适应。实验使用 Qwen3‑4B,在四个基准的十个评估设置中,CLEAT 获得所有最高平均分。相较最强基线,在 UserGym Travel 和 IN3 两项不完整判定准确率上分别提升 13.2% 和 6.5%。消融实验表明,即使在推理阶段去除控制器,共同训练仍能提升任务策略;而让澄清指导随策略演进进一步提升性能。
点评