NeFut Logo NeFut
EN 管理员登录

[AI学术] CRAFT:学习架构,执行计划的革命性方法

发布于:2026-07-29 22:00 最后更新:2026-07-30 03:24
#algorithm #Open Source #Reinforcement Learning

在企业编码代理中,自然语言分析请求被转换为可执行代码,利用专有API、架构和指标定义。然而,现有的部署模式通过在每个提示中注入详尽的架构和工具文档,增加了推理开销,复杂化了架构演变,并削弱了多轮分析的可靠性。我们研究了是否可以通过后训练获得稳定的架构知识和工具使用行为,同时保持生产环境分析所需的一致性。\n\n我们提出了CRAFT,一种针对架构基础编码代理的两阶段后训练方案。第一阶段,去架构的PLAN监督微调,从经过验证的轨迹中学习域结构化计划和可执行行为,而无需在提示时进行详尽的架构注入。第二阶段,执行形状的强化学习对工具选择、代码质量、计划与代码的一致性以及从失败执行中恢复的策略进行对齐。训练轨迹通过结合执行验证、数据完整性检查和LLM评估推理审核的三重门控过滤器进行策划。\n\n我们评估CRAFT在广告分析中的计划推广,包括广告活动绩效分析、指标深入分析、实体级绩效分析和多轮分析优化。企业评估环境结合了代理工具表面的beta API,并覆盖25个与架构相关的核心实体和30个代理工作流。相较于架构充填的基线,CRAFT在综合代理得分上提升了9.6个百分点,在一致性上提升了4.1个百分点,在多轮连贯性上提升了4.2个百分点,同时将输入令牌负担减少约9倍,架构发现循环减少最多5倍。我们进一步报告了部署权衡、奖励塑造的局限性以及企业环境中多轮工具使用强化学习所需的训练基础设施扩展。\n\n博主点评: CRAFT通过后训练的方法有效解决了传统架构注入的弊端,提升了多轮分析的效率和一致性。这不仅优化了资源使用,还为企业级分析工具的开发提供了新的思路,具有重要的实际应用价值和研究意义。

原文链接: https://arxiv.org/abs/2607.22642

[h] 返回首页