结论前置:能效比不是一个数,而是一组约束下的比值

球友体育技术解读栏目给出的核心结论是:任何AI芯片能效比榜单,只有在明确算力精度、负载类型、显存带宽配置与互连规模之后才具备可比性。脱离这四项约束的单一比值,只能作为粗略参考。球友体育在整理公开规格书时发现,同一颗芯片在不同精度档位下的能效表现差异,往往大于不同芯片之间的差距。

因此读榜的第一步不是看排名,而是看榜单标注了口径没有。球友体育建议读者先问四个问题:算力是按哪种数值格式标称的、功耗是芯片级还是板卡级、负载是训练还是推理、是否包含互连与主机侧开销。这四问决定了榜单能否被复算。

维度一:算力精度的标称口径决定分子大小

能效比的分子是算力,而算力标称高度依赖数值格式。同一架构在FP16、BF16、FP8乃至更低精度下的峰值算力可以相差数倍,功耗却基本不变,于是能效比数字会随精度档位大幅漂移。球友体育提醒,看到榜单把不同精度峰值混排时,应先统一到同一精度再比较。

  • 优先看榜单是否注明“稠密算力”还是“稀疏算力”,两者口径不同。
  • 关注标称算力是否包含结构化稀疏加速,训练负载未必能吃满该加速。
  • 推理榜单应额外标注批大小与序列长度,否则吞吐不可复算。
  • 球友体育建议自建一张精度对照表,把各芯片折算到同一档位再排序。

维度二:显存带宽与容量常被榜单忽略

能效比的分母是功耗,但真正限制实际表现的是数据搬运。显存带宽不足时,算力单元空转,实测能效比会显著低于峰值推算值。球友体育在梳理公开资料时注意到,不少榜单只列算力与功耗,不列带宽与容量,导致大模型推理场景下的排名失真。

可复算的做法是:用模型参数量与批大小估算每步需要搬运的字节数,再除以带宽得到理论最短时延,与榜单给出的吞吐对照。若两者差距明显,说明榜单负载偏小或未计入访存瓶颈。球友体育建议把带宽与容量作为榜单的必填列,而不是附注。

维度三:互连开销与部署规模改变分母

单卡能效比与集群能效比是两件事。规模上去之后,互连协议、拓扑与通信占比会吃掉相当一部分功耗预算,榜单若只测单卡,结论无法外推到集群。球友体育在解读互连相关公开材料时发现,scale-up域内带宽与scale-out网络开销对整体能效的影响,随并行策略变化很大。

  • 看榜单是否标注并行方式:数据并行、张量并行还是流水并行。
  • 关注是否计入交换芯片、光模块与主机侧功耗。
  • 球友体育建议对小规模验证结果保持谨慎,集群结论需集群级实测。
  • 液冷与风冷部署条件下的功耗口径也应统一后再比较。

维度四:负载类型与软件栈成熟度是隐藏变量

同一颗芯片跑推荐模型与跑长上下文大模型,能效表现可以差出数倍。榜单若不说明负载构成,排名只反映该榜单的负载偏好。球友体育提醒,软件栈成熟度同样关键:算子覆盖不全时,实际能效会被回退路径拖低,而这类信息通常不体现在规格书里。

可复算的评估应包含:负载清单、框架版本、算子覆盖率与是否使用厂商图编译器。球友体育建议读者把榜单当作筛选起点,再用自己的负载做小规模验证,两端对照后再下结论。能效比榜单的价值在于缩小候选范围,而不是替代实测。

  • 训练榜单应标注模型规模与训练步数,推理榜单应标注并发与延迟目标。
  • 关注是否报告尾延迟,平均吞吐好看不代表服务能效好。
  • 球友体育建议记录每项结论的公开出处,便于后续追踪与复算。

综上,球友体育认为一份可信的能效比榜单应同时给出精度口径、带宽配置、互连规模与负载定义,四项缺一即降级为参考信息。读者可用本文五维框架自行折算,把排名还原成可复算的工程结论。