LLM 代理在新环境中往往缺乏操作性知识,需要自行发现工具行为或环境约定。缺少过去尝试的记忆会导致在不同任务中重复错误,进而增加失败率和轨迹长度。传统做法依赖人工编写的指南或基于训练任务和 oracle 验证器构建的程序性记忆,这两者都要求事先了解环境。
DAEDALUS 提出一种无需已有任务或 oracle 验证器的自举记忆构建方法。系统由两名代理组成:
- explorer:在环境中交互,生成既具挑战性又可解的任务;
- solver:尝试完成这些任务。
每当 solver 失败时,会从失败轨迹中提取启发式规则(heuristic),并在 solver 多次成功使用该规则后予以接受。接受的启发式会反馈给 explorer,用于调节后续任务的难度。最终,所有被接受的启发式被汇总进记忆库,在测试阶段直接供代理调用。
在 AppWorld、$\tau^2$-bench 和 AutomationBench 三大基准上,DAEDALUS 将平均成功率提升至多 15.9 点,pass^5 提升至 2.2 倍,相比无记忆基线表现显著;与使用训练任务的方法相当,却以更低的推理成本实现。实验表明,即使探索预算很小,性能提升也已显现;此外,DAEDALUS 生成的任务可作为模型排序的代理基准。
进一步的消融实验显示,solver 的执行轨迹是提取有效启发式的关键信息,而对早期发现进行因式分解能够提升探索效率。
代码与数据已开源:www.github.com/illuin-tech/daedalus。
点评