LLM 代理在推理和执行动作时往往逐 token 生成中间步骤,这导致交互过程冗长且计算开销大。Jev‑style 模型能够在有限域上快速给出概率预测,但必须预先指定这些域,限制了在自然语言指令驱动的自主任务中动态生成可用动作的能力。
JevSpawn 提出了一种组合策略,将自然语言任务描述映射到有限域的概率探索。核心机制包括:
- 并行动作生成:一次性在有限域内产生多个候选动作向量;
- 反馈驱动的分支选择:根据环境反馈实时挑选最有前景的分支;
- 表示修订:在交互过程中对任务表示进行增量更新,以适应新出现的约束;
- 保留备选的恢复:当主分支失败时,可快速回滚到先前保留的备选方案。
共享的动作结构和模型前缀使得不同分支之间可以复用已生成的上下文,显著降低重复生成和上下文计算的成本,无需额外的微调或再训练。
在八个基准任务上,JevSpawn 与七种主流代理基线以及一种 TypeSafe Jev 变体进行对比实验,展示了更高的任务成功率和更快的导航速度。
点评:JevSpawn 通过将自然语言指令与有限域概率搜索相结合,实现了高效且可扩展的代理推理,为后续的自适应任务求解提供了有价值的思路。