LLM 服务优化通常在延迟目标未达标时基准测试多种配置，并依赖重型分析工具。我们主张相反的原则：估算是分析层的基础，没有它，优化便沦为网格搜索。地板优先（Floor First）是一种基于残差的筛选工作流。每个解码步骤被建模为一个五维资源向量（HBM 字节、FLOPs、网络字节、网络消息、KV 容量）；在资源内求和并跨资源最大化得到乐观的下限，简单求和则得悲观的上限。测量落在这个 [最大, 和] 区间内的结果，可以在未打开任何分析工具前读取重叠质量，而分析工具仅在残差超过设定阈值时升级。部署选项通过墙排序进行比较——在负载增长时哪个资源墙首先绑定，而不是通过具体基准测试。该方法是组合性的：新的注意力或状态空间变体通过声明一个模块进入工作流，工作流作为零依赖计算器和一个在自主优化循环中强制执行原则的代理技能进行交付。作为案例研究，我们分析了在 16 个 NVIDIA H20 GPU 上的 DeepSeek-V3.2 风格 671B MoE/MLA 模型，其约 74 FLOP/字节的临界点（相比 H100 的 ~590）使其成为极端解码导向的部分。地板显示 TP16 解码在 KV 容量限制下约为 70 个并发的 8K 请求；稀疏注意力消除了 KV 带宽项但不影响容量墙；EP16+DP-注意力布局接受稍差的同批权重流量，但容量墙提高了一个数量级（约 644）——而单流延迟在 2.4 倍上更有利于 TP。因此，布局判断是操作点的可计算函数，解释了为何在相同硬件上生产部署会采用相反的注意力布局。
博主点评： 这篇文章提出了一种创新的地板优先筛选方法，以优化 LLM 服务的性能。通过对资源的五维建模，作者展示了如何在不依赖重型分析工具的情况下，利用估算和墙排序来有效进行部署决策。这种方法不仅提升了效率，还能在实际部署中实现更好的性能调优，值得研究者和工程师们深入探讨与实践。