NeFut Logo NeFut
EN 管理员登录

[AI学术] SlackDrive:利用运行时余量实现自适应驾驶推理

发布于:2026-09-24 22:00 最后更新:2026-09-28 00:49
#Machine Learning #optimization #Artificial Intelligence

驾驶世界行为模型通过将多模态推理与未来预测耦合来提升规划能力,但其推理开销随模型规模增长,越来越难满足车辆控制的实时延迟要求。现有加速方法在部署前通过降低 token 数、层数或采样步数来设定策略,却只能在离线剖析和静态调度后留下残余的运行时波动,未能进一步利用。

我们发现,可接受的最大计算预算会随剩余运行时状态系统性变化,而最近一次实际延迟直接提供了可用计算余量的信号。基于此观察,本文提出 SlackDrive——一种在推理前分配计算资源的调度器,它利用已实现的延迟为每个控制步选择计算预算。SlackDrive 仅需对一小组离散预算进行一次延迟与规划效用的剖析,在运行时根据已完成的前向传播估计计算状态,并预测在可接受的延迟范围内能够保持最高效用的预算,从而在保持原有驾驶骨干网络和计算执行器不变的前提下,补充已有的剖析与资源调度。

在 NAVSIM v2 环境下使用 DriveDreamer-Policy 进行评估,SlackDrive 在严格的延迟约束下,使延迟受限的 EPDMS 提升 $21.7\%$,相较于最强基线表现更佳;而全预算模型和预配置的 token 剪枝基线在运行时竞争中超出可接受的延迟上限。

点评

原文链接: https://arxiv.org/abs/2609.28064

[h] 返回首页