摘要
智能LLM系统在通过多轮工具使用生成代码时面临一个根本的上下文问题：每个会话都从零开始，丢弃了之前会话中使其高效的配置选择、领域约束、数据模式和工具使用模式。简单地持久化整个对话历史是低效且适得其反的：无关上下文会降低生成质量。
我们提出了共享选择性持久内存（Shared Selective Persistent Memory），一种架构，它识别并保留四类可重用上下文（任务规格、数据模式、工具配置和输出约束），同时丢弃会话特定的推理痕迹。关键在于，这种内存是共享的：封装选择性内存的工作空间可以在用户之间转移，并通过基于角色的访问控制实现协作重用，避免冗余规格。
我们在一个部署的协作工作空间平台中实现了这一点，LLM代理可以从异构来源（CSV、SQL、REST API和MCP服务器）生成、编辑和维护git版本化的工件（仪表板、报告和数据驱动文档）。一种互补的零令牌数据刷新机制解耦了生成程序与运行时数据，使得工件重用无需重新调用。在三个企业场景中，使用共享选择性持久内存的任务完成率达到96%（而没有内存时为79%，使用完整历史时为71%）。零令牌刷新消除了LLM对重复更新的重新调用（任务时间减少14倍），而基于摘要的生成相比于原始数据注入将每次调用的令牌成本降低了97倍。
在四个公共数据集上的复制实验确认了其普适性，零令牌刷新在12/12次试验中成功。值得注意的是，简单的全历史持久化会通过使代理受到过时痕迹的偏见影响而积极降低完成率，而选择性内存则优于这两种极端情况。
博主点评： 共享选择性持久内存的提出，显著提升了LLM系统在协作场景中的效率，通过有针对性地保留上下文信息，避免了无效数据的干扰。这一机制为智能代理在复杂任务中的表现提供了新的思路，尤其是在多用户环境下的应用潜力值得关注。