我们对 86 个开源权重模型检查点进行直接测量，覆盖七个基准和六种硬件平台（从消费级 GPU 到八卡服务器），以量化推理能耗与能力之间的权衡。结果显示，即使在能力相近的模型之间，能效差异也非常显著。大多数配置远离得分‑能耗 Pareto 前沿，使用的能量中位数比另一种至少同样得分的配置高 $2.6\sim4.8$ 倍，极端情况下差距可达 $27$ 倍。
推理模式对能耗影响显著。开启思考（Chain‑of‑Thought）可提升能力，但平均会将能耗放大约 $3.7$ 倍，且提升幅度强烈依赖模型家族和输出预算。生成的 token 数并非能耗的可靠代理，误判了 $18\sim24\%$ 的模型对。
在硬件层面，使用 FP8 计算可将能耗降低约四分之一，而得分几乎不受影响。更换硬件主要导致能耗整体缩放，但不改变模型相对排名。
这些发现表明，仅凭能力得分无法完整描述模型的效率。我们建议在报告基准得分时，同时提供在特定服务模式和输出预算下测得的能耗数据，以便更全面地评估模型的实际使用成本。
点评