FlexFloor 是一种系统，旨在同步生成响应时提前释放计算资源，同时保证仍在处理的响应所需的专家计算。它通过联合调整响应调度和活跃工作组实现。系统利用历史响应长度和显存约束决定批次大小和提示放置位置，然后在保持专家可用性和通信正确性的前提下，逐步释放已完成本地生成的工作者。实验表明，与基线相比，FlexFloor 在占用计算时间单位内产生的响应 token 提升约 65.40%，吞吐量提升 52.74%，且 rollout reward 基本不变。该方法显著降低强化学习后训练的计算成本，加速大模型和智能体的迭代开发。
点评