结论先行:在2026年的AI基础设施语境下,集群性能的上限更多由互连协议而非单卡算力决定。scale-up域内追求低延迟与内存语义共享,scale-out域内追求高带宽与拓扑可扩展性,两者对协议的要求截然不同。球友体育技术解读栏目认为,选型时应先确定模型并行策略,再倒推互连形态,而不是先买卡再想办法连起来。

一、scale-up与scale-out:两种扩展逻辑的协议分野

核心结论:scale-up域通常限制在单机柜或少数机柜内,协议设计围绕内存语义与缓存一致性展开;scale-out域跨越大量节点,协议设计围绕高带宽利用率与拥塞控制展开。球友体育在梳理公开互连标准时发现,两类协议的演进节奏并不同步,这给集群设计带来了现实的组合难题。

scale-up的典型特征是节点间可直接访问对方显存,编程模型接近单机多卡,适合张量并行这类通信密集的切分方式。其协议开销集中在地址转换与一致性维护上,域规模越大,维护成本越高。scale-out则以消息传递为主,适合数据并行与流水线并行,协议优化的重点在于降低端到端延迟与提升链路利用率。

  • 内存语义互连:适合张量并行,对延迟敏感,域规模受一致性开销限制。
  • 消息语义互连:适合数据并行,对带宽敏感,拓扑选择影响收敛效率。
  • 混合拓扑:机柜内用高带宽互连,机柜间用标准以太或专用网络分层承载。

二、带宽预算怎么算:从模型并行策略倒推

核心结论:互连带宽需求应由每步训练的通信量除以目标步长时间得出,而不是笼统按算力比例配置。球友体育建议用「通信占比」这一指标做快速估算:若通信耗时占整步的三成以上,说明互连已成为瓶颈。

具体估算可分三步。第一步,根据模型结构与并行策略,列出每步需要交换的张量规模。第二步,结合目标批量规模与序列长度,计算单步通信字节数。第三步,用目标步长时间减去计算时间,得到可用的通信时间预算,再反推所需带宽。球友体育在技术解读中强调,这套算法对张量并行尤其关键,因为其通信量与并行度呈近似线性关系。

值得注意的是,协议效率并不等于标称带宽。实际可达带宽受报文大小、拥塞程度与协议栈开销影响,小报文场景下的有效带宽可能显著低于峰值。球友体育提醒读者在评估时关注厂商公开的实测数据口径,而非只看理论数字。

三、部署取舍:三种典型集群形态的适配建议

核心结论:中小规模训练优先保证scale-up域内的互连质量,大规模预训练则需在scale-out域做拓扑优化,推理集群更看重弹性与成本。球友体育按三类场景给出适配思路。

  • 中小规模微调:单机柜高带宽互连即可满足,重点是把域内延迟压到最低,避免跨柜通信。
  • 大规模预训练:采用分层拓扑,机柜内高带宽、机柜间多轨道网络,配合通信与计算重叠调度。
  • 推理服务:以弹性扩缩为目标,互连协议选择应服务于请求调度与显存池化,而非极致带宽。

球友体育在部署实践类内容中反复提到一个原则:互连选型必须与并行策略同步设计。若先定硬件再改并行策略,往往会出现通信路径与拓扑不匹配的情况,此时再优化软件栈的收益有限。对于关注端侧与边缘部署的读者,互连逻辑会简化为片内总线与片间高速接口的取舍,这部分将在后续选题中单独展开。

综合来看,互连协议是AI芯片从单点走向系统的关键一环。球友体育会继续依据公开标准文档与厂商技术白皮书,为读者梳理可核验的协议演进与部署路径。