NeFut Logo NeFut
EN 管理员登录

[AI学术] 高分支代理沙箱的内存压缩

发布于:2026-09-12 22:00 最后更新:2026-09-15 01:15
#AI #optimization #LLM

高分支代理工作负载会产生严重的内存瓶颈,因为单个任务可能同时生成大量沙箱会话。这些沙箱并非完全独立:它们共享同一模板并执行相似的轨迹,导致模板相对和跨沙箱的内存冗余。传统的内存压缩在三个维度上与此场景不匹配:压缩方式未利用非完全相同页面之间的相似性;压缩对象受保守的页面选择限制,导致页面错误开销;压缩时机要么仅在内存压力下触发,要么在不考虑代理执行阶段的情况下进行。

AgentZip 是首个专为 AI 代理沙箱设计的内存压缩系统。它引入了同时利用模板相对冗余和跨沙箱冗余的压缩机制,扩展压缩范围至任何具有盈利表示的页面,并将开销控制从压缩时的页面选择转移到恢复时的预取。系统还将高开销的压缩任务对齐到大语言模型(LLM)等待阶段,避免干扰前台工具执行。

在 LLM 训练和推理工作负载中,AgentZip 将沙箱占用内存降低至最高 8.7 倍,而 Linux 默认配置仅为 2.1 倍。通过恢复预取和基于代理执行阶段的调度,激进压缩导致的性能下降从最高 3.1 倍降至 1.40 倍,几乎保留了全部内存节省效果。

点评:AgentZip 在保持大幅内存节省的同时,将压缩开销与 LLM 等待时间对齐,显著降低了性能损失。

原文链接: https://arxiv.org/abs/2609.11294

[h] 返回首页