敬请参阅报告结尾处的免责声明东方财智 兴盛之源超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch看好/维持通信行业报告分析师执业证书编号:S1480518080001投资摘要:大语言模型(LLM)参数规模从千亿级向万亿级乃至十万亿级演进,跨服务器张量并行(TP)成为必然选择;此外混合专家(MoE)模型在Transformer 架构LLM 中的规模化应用,更使跨服务器专家并行(EP)成为分布式训练和推理的关键技术需求。为应对TP 和EP 对网络带宽与延迟的极为严苛的要求,构建超高带宽、超低延迟的Scale up 网络(纵向扩张网络)成为业界主流技术路径。目前英伟达超节点已经推出成熟方案。2024-2026 年,英伟达陆续推出GH200 NVL72、GB200/ GB300NVL72、VR200 NVL72 三代超节点。Hopper 架构开启超节点Scale up 初步探索。GH200 通过NVLink 和NVLink-C2C(Chip-to-Chip)技术,使得每个GPU 可以访问其他所有CPU 和GPU 芯片的内存,实现GPU 与CPU 内存统一编址。Blackwell 架构推动Scale up 标准化。GB200 NVL72 将Scale-up 规模稳定在72 个GPU/机柜,形成可复制标准化方案。NVL72 由18 个Compute Tray(计算托架)和9 个Switch Tray(网络交换托架)构成。其中,Compute Tray 是计算核心单元,负责提供强大的计算能力;Switch Tray 是高速通信枢纽,用于实现GPU 之间的高速数据交换。NVL72 背板通过“NVLink5 私有协议 + 铜线缆”将18 个Compute Tray 中的72 颗B200 GPU 和9 个Switch Tray 中的18 颗 NVSwitch 芯片进行满带宽全连接。Rubin架构推动Scale up方案带宽倍增。2026年1月CES展会,英伟达发布Rubin架构VR200 NVL72。其中NVLink 6 Switch 实现单GPU 的互连带宽提升至3.6 TB/s,上代为1.8TB/s。Scale out 方面,Spectrum-6 交换机支持CPO(共封装光学)技术,将32 个1.6Tb/s 硅光光学引擎与交换芯片直接封装集成。在超节点方案上,英伟达处于领先优势。2024-2025 年,英伟达陆续推出GH200 NVL72、GB200/ GB300NVL72 等成熟超节点解决方案。根据大摩预测,2025 年英伟达GB200/300 NVL72 出货量约2800 台。展望2026-2027 年,英伟达计划推出Vera Rubin NVL144 和Rubin Ultra NVL576。互联GPU 数将从72 颗进一步向576 颗发展。届时,英伟达将在新一代Kyber 机架架构中引入NVLink Switch Blade(NVLink 交换机刀片),通过PCB 中板替代传统5000+根有源铜缆。可以看到,Rubin Ultra NVL576 仍具有较强的工程创新能力。英伟达超节点的优势建立在NVLink 和NVLink Switch。为实现AI 训练集群高带宽与低延迟数据传输,NVLink 重新设计通信架构,并引入一系列先进技术,包括网状拓扑、差分信号传输、流量调度信用机制、多Lane绑定技术、统一内存空间等。截止2025年,NVLink 5 Switch实现支持单GPU到GPU带宽1800GB/s,可构建72 GPU 的NVLink 域,总带宽达130 TB/s(双向),支持72 GPU 全互联通信。在后续计划中,NVSwitch Gen6 和Gen7 的GPU-to-GPU 通信带宽继续升级为3.6TB/s。P2东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源但另一方面,Scale up 网络兴起源于满足大模型分布式训练和推理中的张量并行(TP)与专家并行(EP)。目前AI 产业也在探索降低TP 与EP 规模的技术方案,从而降低Scale up 网络规模的上限。我们认为,Scaleup 网络的发展空间或限制英伟达在超节点领域的领先优势。为保持领先优势,实现Scale up 网络和Scaleout 网络融合或将成为英伟达超节点新的发展趋势。投资策略:自2025 年开始,超节点成为AI 算力网络重要的技术创新方向。从AI 基建竞争维度,AI 芯片厂商从芯片算力性能竞争延续至芯片+Scale up 网络的双战场。因此,除了原先英伟达、华为、AMD 以及谷歌等芯片公司,全球更多厂商加入超节点赛道的竞争,包括微软、Meta、Amazon、
中国移动、阿里巴巴、腾讯、百度、
中科曙光、
中兴通讯、
浪潮信息、
紫光股份(新华三)、
沐曦股份、
恒为科技等。我们认为,全球超节点竞争格局尚未确立。英伟达目前处于领先地位,建议关注英伟达超节点供应链,包括PCB 背板、高速铜缆、光模块、供电与液冷系统等。其次,中国厂商在超节点与Scale up 网络领域的参与度很高,或有国内厂商在超节点领域取得领先优势,建议关注发布国产超节点的云厂商、通信设备厂商与芯片厂商。最后,基于交换机及芯片是Scale up 网络互联的关键设备,建议关注国内交换机供应商以及交换机芯片研发商。风险提示:(1)LLM 训练与推理技术路径变化;(2)超节点互联方案不确定性;(3)英伟达超节点出货量低于预期;(4)AI 应用端增长不及预期。东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP3敬请参阅报告结尾处的免责声明东方财智 兴盛之源目 录2.1 Scale up 网络核心技术:NVLink 与NVLink 交换机 ................................................................................................. 102.2 GB200 NVL72 超节点:铜缆互联,总交换容量129.6TB/s ...................................................................................... 132.3 VR200 NVL72 超节点:延续GB200 NVL72 工程技艺,总交换容量翻倍 ................................................................ 192.4 总结:处于领先优势,互联GPU 数将从72 颗进一步向576 颗发展 ....................................................................... 22插图目录图1: Scale up 网络(左)与Scale out 网络(右)特点对比 ............................................................................................. 6图2: 英伟达NVL72 超节点示意 ........................................................................................................................................... 7图3: 全球主流算力方案对应Scale Up 协议......................................................................................................................... 8图4: 全球主流算力芯片厂商旗下Scale up 协议特点 ........................................................................................................... 9图5: NVLink 技术规格参数对比......................................................................................................................................... 10图6: NVLink 交换机规格参数对比 ..................................................................................................................................... 10图7: NVLink 网状拓扑结构提供高速双向带宽 ....................................................................................................................11图8: NVLink 交换网络的演进过程(1) ............................................................................................................................ 12图9: NVLink 交换网络的演进过程(2) ............................................................................................................................ 12图10: 英伟达GB300 NVL72 超节点外观 ........................................................................................................................... 13图11: GB 200 NVL72 机柜外观与内部构件细节 ................................................................................................................ 14图12: GB200 NVL72 中计算托盘 ...................................................................................................................................... 15图13: GB 200 NVL72 中NVLink 交换机托盘.................................................................................................................... 15图14: GB 200 NVL72 中NVLink 电缆盒 ........................................................................................................................... 16图15: B200 端口Port 示意图 ............................................................................................................................................ 17图16: NVLINK Switch5 芯片Port 示意图 ......................................................................................................................... 17图17: GB200/300 NVL72 单层计算托架的互联拓扑 .......................................................................................................... 17图18: 英伟达GB200 NVL72 机柜后置铜线背板 ................................................................................................................ 18图19: VR200 NVL72 机柜计算托盘 ................................................................................................................................... 19图20: Vera Rubin NVL72 机柜交换机托盘 ........................................................................................................................ 19图21: 英伟达Vera Rubin GPU 芯片互联方式 ................................................................................................................... 20图22: VR200 NVL72 机柜中GPU 互联拓扑结构 ............................................................................................................... 20图23: Vera Rubin NVL72 机柜交换机托盘无缆线设计 ...................................................................................................... 21图24: 英伟达Rubin NVL576 新一代Kyber 机架 .............................................................................................................. 24图25: 英伟达算力芯片发布时间表 ..................................................................................................................................... 24P4东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源表格目录表1: AI 大语言模型训练中多种并行计算方式对比 ............................................................................................................... 5表2: GB200 NVL72 超节点算力与通信性能 ...................................................................................................................... 14表3: 英伟达超节点Scale up 迭代路线 .............................................................................................................................. 22东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP5敬请参阅报告结尾处的免责声明东方财智 兴盛之源我们计划推出超节点与Scale up 网络行业系列,详细研究英伟达、谷歌、AMD 以及华为四家头部AI 算力芯片厂商在此领域的布局进展以及各自优势。本篇报告作为专题一,首先深度研究英伟达超节点与Scale up网络的进展和优势。
1. LLM 训练要求高带宽与延迟,驱动超节点成为AI 算力网络创新方向
大语言模型(LLM)参数规模从千亿级向万亿级乃至十万亿级演进,跨服务器张量并行(TP)成为必然选择;此外混合专家(MoE)模型在Transformer 架构LLM 中的规模化应用,更使跨服务器专家并行(EP)成为分布式训练和推理的关键技术需求。为应对TP 和EP 对网络带宽与延迟的极为严苛的要求,构建超高带宽、超低延迟的Scale up 网络(纵向扩张网络)成为业界主流技术路径。表1:AI 大语言模型训练中多种并行计算方式对比并行方式带宽要求延迟要求说明张量并行(TP)数百至数千GB/s 级延迟要求极高将单个运算(如矩阵乘法)拆分到不同GPU 上运行,通常在机内完成专家并行(EP)数百至数千GB/s 级延迟要求极高基于不同的任务选择不同专家进行训练,引入All to All流量,适合机内完成流水线并行(PP)MB/s 至GB/s 级延迟要求较高将模型的不同层划分为若干个阶段,每个阶段可以在不同的GPU 上执行,通常在机间完成数据并行(DP)GB/s 级延迟要求较高将同一批数据分割成多个子集,并将每个子集分配给不同GPU 上(模型实例相同)运行,通常在机间完成P6东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源根据阿里云给出的定义为:Scale up 是在一定范围内,于成本和互联技术约束下实现的超高带宽互联。其范围固定且带宽是Scale out 的数倍以上,可在协议层面优化以支持内存语义。我们对Scale up 网络与Scaleout 网络特点对比如下:Scale up(左)vs Scale out(右)算力规模:数十卡至千卡级vs 万卡至十万卡级;资源利用率:80%以上vs 30%-50%;通信延迟:百纳秒级vs 微秒级;内存访问:统一内存或全局地址空间vs 独立内存空间;标准化:定制化程度高vs 基于开放网络标准,相对统一。图1:Scale up 网络(左)与Scale out 网络(右)特点对比东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP7敬请参阅报告结尾处的免责声明东方财智 兴盛之源超节点主要由计算节点、交换节点和Scale-up 网络互联构成。通过Scale up 网络,可将几十、上百甚至上千张XPU 高速互联构建为超节点(SuperPoD),像一台超级XPU 服务器一样实现高效的计算和通信协同能力。其中Scale up 网络互联是超节点的核心要素。Scale up 网络互联方案直接影响超节点系统的功耗、散热、成本、规模、可靠性和可维护性等关键指标。目前主流的互联方案有铜缆互联和光纤互联两大类:铜缆互联方案(如英伟达的NVL72 超节点及NVSwitch Scale-Up 网络采用的DAC 即无源铜缆技术)具有功耗低、成本低、可靠性高的明显优势。不过,受限于铜缆的信号传输距离,单个超节点的规模较小,目前商用的英伟达NVL72 超节点最大支持72 张XPU 卡。光纤互联方案(如华为的CloudMatrix384 超节点及Unified Bus (UB)Scale-Up 网络采用的AOC 技术)则突破铜缆距离限制,超节点规模可以做的更大,目前商用的华为CloudMatrix384 超节点可支持多达384 张XPU 卡,但这种互联技术方案也存在明显短板,如光模块功耗大,成本高,故障率高。图2:英伟达NVL72 超节点示意P8东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源目前英伟达、谷歌、AMD 以及华为四家头部AI 算力芯片厂商均推出各自的Scale up 协议。英伟达在AI 数据中心的Scale up 网络中采用自研的NVLink 高速互连技术;AMD 与AWS、思科、谷歌等公司组成超以太网联盟(UALink);Google 采用私有ICI 协议,机柜之间运用OCS 光交换技术;华为推出自研的灵衢协议技术(UB)。图3:全球主流算力方案对应Scale Up 协议东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP9敬请参阅报告结尾处的免责声明东方财智 兴盛之源Scale up 网络主要有两个技术方向。一是封闭的私有技术方向,以英伟达、Google 为典型代表,二者均采用专有协议:NVLink 仅向第三方半开放CPU/Chiplet 接入权限;Google ICI Link 则服务于自研TPU 集群;二是基于Ethernet 的开放技术方向,以各大互联网和云计算公司以及一些GPU 芯片公司为代表。开放标准以UALink 和华为灵衢为代表,UALink 基于标准以太网组件打造开放互联协议,华为灵衢从2.0 版本起转向开放标准。目前两者均处于生态建设初期。图4:全球主流算力芯片厂商旗下Scale up 协议特点P10东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源
2. 英伟达:超节点领先优势建立在NVLink 和NVLink Switch
2.1 Scale up 网络核心技术:NVLink 与NVLink 交换机NVLink 与NVLink 交换机是英伟达构建单机柜Scale up 网络的核心技术组合。二者协同演进,从早期点对点互联发展到如今全互联通信,并支持多代GPU 架构算力芯片。2026 年1 月,英伟达发布第六代NVLink以及NVLink 交换机,两者支持最新的Rubin 架构。从性能指标看,第六代NVLink 交换机支持的GPU-to-GPU通信带宽为3.6TB/s;在VR NVL72 系统中提供260TB/s 聚合带宽。其中每GPU 的NVLink 带宽保持不变,与NVLink5.0 一致,仍为100GB/s。图5:NVLink 技术规格参数对比图6:NVLink 交换机规格参数对比东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP11敬请参阅报告结尾处的免责声明东方财智 兴盛之源NVLink 重新设计通信架构,推出网状拓扑理念。为实现AI 训练集群高带宽与低延迟数据传输,NVLink 允许GPU 之间形成多对多的直接通信网络,每个GPU 都可以同时与多个其他GPU 建立高速通信链路。NVLink协议创新如下:在物理层面,NVLink 采用差分信号传输技术,具有高带宽和高抗干扰性能。每个链路由多对差分信号线组成,每对信号线负责传输一个方向的数据。SerDes 模块是NVLink 物理层的核心组件,负责将并行数据转换为高速串行流,并在接收端进行反向转换。NVLink 的SerDes 设计采用时钟数据恢复技术,以及集成复杂的自适应均衡电路。在链路层,NVLink 定义多种类型的符号,包括数据符号、控制符号和填充符号,实现复杂的通信协议功能;设计精细的信用机制,实现不同优先级的流量调度。除此之外,NVLink 其他创新之处包括多Lane 绑定技术、统一内存空间等。图7:NVLink 网状拓扑结构提供高速双向带宽P12东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源NVSwitch 是实现Scale up 网络复杂交换的关键设备。早期的NVLink 实现主要采用点对点连接模式,GPU 之间通过直接的串行链路进行通信。当系统包含多个GPU 时,点对点模式的连接复杂度呈平方级增长。作为专门的交换芯片,NVSwitch 可以提供多端口的高速交换能力。NVLink 的交换网络采用多阶Clos 网络架构,Clos 网络通过多级交换结构实现输入端口到输出端口的任意连接。图8:NVLink 交换网络的演进过程(1)图9:NVLink 交换网络的演进过程(2)东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP13敬请参阅报告结尾处的免责声明东方财智 兴盛之源2.2 GB200 NVL72 超节点:铜缆互联,总交换容量129.6TB/s目前英伟达超节点已经推出成熟方案,在行业中处于领先地位。2024-2026 年,英伟达陆续推出GH200NVL72、GB200/ GB300 NVL72、VR200 NVL72 三代超节点。Hopper 架构开启超节点Scale up 初步探索。GH200 通过NVLink 和NVLink-C2C(Chip-to-Chip)技术,使得每个GPU 可以访问其他所有CPU 和GPU 芯片的内存,实现GPU 与CPU 内存统一编址。Blackwell 架构推动Scale up 标准化。GB200 NVL72 将Scale-up 规模稳定在72 个GPU/机柜,形成可复制标准化方案。NVL72 由18 个Compute Tray(计算托架)和9 个Switch Tray(网络交换托架)构成。其中,Compute Tray 是计算核心单元,负责提供强大的计算能力;Switch Tray 是高速通信枢纽,用于实现GPU 之间的高速数据交换。NVL72 背板通过“NVLink5 私有协议 + 铜线缆”将18 个ComputeTray 中的72 颗B200 GPU 和9 个Switch Tray 中的18 颗 NVSwitch 芯片进行满带宽全连接。Rubin 架构推动Scale up 方案带宽倍增。2026年1月CES 展会,英伟达发布Rubin 架构VR200 NVL72。其中NVLink 6 Switch 实现单GPU 的互连带宽提升至3.6 TB/s,上代为1.8TB/s。Scale out 方面,Spectrum-6 交换机支持CPO(共封装光学)技术,将32 个1.6Tb/s 硅光光学引擎与交换芯片直接封装集成。图10:英伟达GB300 NVL72 超节点外观P14东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源目前全球算力芯片公司进入芯片性能与超节点性能并行竞争的新阶段。GB200 NVL72 作为全球超节点发展的标杆产品,我们将从多个维度拆解其硬件构成以及重点性能指标。从算力和通信性能看:GB200 NVL72 提供180 PFLOP 的TF32 Tensor Core 算力,总内存容量13.8TB,内存带宽576TB/s;Scale up 带宽64800 单向GB/s。表2:GB200 NVL72 超节点算力与通信性能单位GB200 NVL72算力(TF32 Tensor 核心)PFLOPSHBM 内存TB13.4HBM 带宽TB/sScale up 带宽单向GB/s64800Scale up 计算单元GPUs功耗KW除了算力与通信性能,尺寸、重量、功耗均是超节点TCO(总体拥有成本)的关键影响因素。GB200 NVL72机柜尺寸为长1068 毫米、宽600 毫米、高2495 毫米;重约1.36 吨;功耗145KW。图11:GB 200 NVL72 机柜外观与内部构件细节东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP15敬请参阅报告结尾处的免责声明东方财智 兴盛之源单台GB 200 NVL72 机柜有18 个计算节点。GB200 NVL72 超节点主要由18 个Compute Tray(计算托盘)和9 个Switch Tray(网络交换托盘)构成。每个计算托盘容纳4 颗B200 GPU 和2 颗Grace CPU,构成两个GB200 超级芯片。图12:GB200 NVL72 中计算托盘GB 200 NVL72 机柜有9 个网络交换托盘。每个网络交换托盘中包含两颗NVLINK Switch5 芯片,合计18颗NVSwitch5 芯片。单颗NVSwitch5 芯片交换容量为7.2TB/s,总交换容量129.6TB/s。网络交换托架中金色电缆用于NVLink 连接,与电缆盒相连,机箱前面的蓝色电缆用于OSFP 接口,实现不同版本的扩展。图13:GB 200 NVL72 中NVLink 交换机托盘P16东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源电缆盒负责垂直方向信号重组。电缆盒有8 个底部连接器和10 个顶部连接器,每个连接器可处理一个GPU的全部带宽。图14:GB 200 NVL72 中NVLink 电缆盒东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP17敬请参阅报告结尾处的免责声明东方财智 兴盛之源GB200 NVL72 实现72 颗B200 完全互联,总交换带宽129.6TB/s。计算节点访存带宽为7.2TB/s:B200 设置18 个端口(Port)。每个端口采用224G Serdes,由四对差分线构成。每个端口的传输速率为200Gbps * 4(4 对差分线)/8 =100GB/s(双向)。每个计算托盘容纳4 颗B200GPU,则每个计算节点72 个NVLink5 Port,总访存带宽为7.2TB/s。交换节点访存带宽为14.4TB/s:NVSwitch5 芯片由72 个NVLINK Port(上下各36 个Port)。同样,每个Port 采用双路200Gbps 速率的SerDes 高速串行接口,则每个Port 带宽为100GB/s。每个交换托盘两颗NVLINK Switch5 芯片。每个交换节点144 个NVLINK Port,总访存带宽为14.4TB/s。图15:B200 端口Port 示意图图16:NVLINK Switch5 芯片Port 示意图图17:GB200/300 NVL72 单层计算托架的互联拓扑P18东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源GB200 NVL 72 Scale up 方案中以铜缆互联为主。GB200 NVL72 在互联方案中主要采用直连铜缆(DAC),在某些特殊场景(如跨托盘连接或需要稍长传输距离的场景)中,会采用ACC 铜缆。ACC(主动铜缆,在DAC 基础上增加有源信号处理芯片)的信号增强能力可以弥补DAC 在较长距离传输时的信号衰减问题,确保数据传输的稳定性和可靠性。在GB200 NVL 72 中所需铜缆数量:18(托盘数量)×4(GPU 数量)×4(GPU 到NVSwtich 单端口铜缆数量)×18(NVSwtich 数量)=5184 根。(100GB/s 单端口由4 根DAC 铜缆组成)图18:英伟达GB200 NVL72 机柜后置铜线背板东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP19敬请参阅报告结尾处的免责声明东方财智 兴盛之源2.3 VR200 NVL72 超节点:延续GB200 NVL72 工程技艺,总交换容量翻倍2026 年1 月6 日在CES 2026 展会上,英伟达发布新一代超节点VR200 NVL72。我们认为,相比GB200NVL72,新一代VR200 NVL72 属于连续性创新,而非破坏性创新。具体对比如下:计算节点:Rubin NVL72 机架通过无缆互联架构整合18 个计算托盘,每个托盘2 颗超级芯片,每颗超级芯片集成1 个Vera CPU 与2 块Rubin GPU,共72 GPU 与36 CPU。图19:VR200 NVL72 机柜计算托盘交换节点:VR200 NVL72 配置9 个交换托盘,每个托盘集成4 颗第六代NVSwitch 芯片,全机柜部署36 颗NVSwitch。相比GB200 NVL72,NVSwitch 芯片数量实现翻倍。单颗第六代NVSwitch 交换容量为7.2TB/s,相比NVSwitch5 芯片,保持不变。图20:Vera Rubin NVL72 机柜交换机托盘P20东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源VR200 NVL72 Scale up 方案实现总交换容量259.2TB/s,对比GB200 NVL72,提升一倍。计算节点:VR200 设置72 个端口。每个端口带宽100GB/s。每个计算托盘2 颗VR200 GPU,则每个计算节点144 个NVLink 6.0 端口,总访存带宽为14.4TB//s。交换节点:NVSwitch6 芯片72 个NVLink 6.0 端口。每个NVLinkPort 交换容量100GB/s。每个交换托盘4个NVLink 6 Switch 芯片,每个交换节点288 个NVLink Port,总访存带宽为28.8TB/s。此外,VR200 NVL72 依托NVLink-C2C 实现1.8TB/s CPU-GPU 互联,相比GB200 NVL72 的NVLink-C2C的速率为900GB/s,提升一倍。图21:英伟达Vera Rubin GPU 芯片互联方式图22:VR200 NVL72 机柜中GPU 互联拓扑结构东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP21敬请参阅报告结尾处的免责声明东方财智 兴盛之源VR200 NVL72 Scale up 方案延续铜缆互联方案。稍有不同之处,VR200 用中板取代计算托盘内部的线缆,中板采用覆铜板技术。此外,基于Rubin 平台NVLink6.0 升级至448G SerDes 通道速率。因此,GPU 到每个NVSwtich 铜缆连接由4 根变为2 根。主干铜缆数量= 18(托盘数量)* 4(GPU 数量)* 2(GPU 到NVSwtich 铜缆数量)* 36(NVSwtich 数量)= 5184 根。图23:Vera Rubin NVL72 机柜交换机托盘无缆线设计P22东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源2.4 总结:处于领先优势,互联GPU 数将从72 颗进一步向576 颗发展在超节点方案上,英伟达处于领先优势。2024-2025 年,英伟达陆续推出GH200 NVL72、GB200/ GB300NVL72 等成熟超节点解决方案。根据大摩预测,2025 年英伟达GB200/300 NVL72 出货量约2800 台。展望2026-2027 年,英伟达计划推出Vera Rubin NVL144 和Rubin Ultra NVL576。互联GPU 数将从72 颗进一步向576 颗发展。届时,英伟达将在新一代Kyber 机架架构中引入NVLink Switch Blade(NVLink 交换机刀片),通过PCB 中板替代传统5000+根有源铜缆。可以看到,Rubin Ultra NVL576 仍具有较强的工程创新能力。英伟达超节点的优势建立在NVLink 和NVLink Switch。为实现AI 训练集群高带宽与低延迟数据传输,NVLink 重新设计通信架构,并引入一系列先进技术,包括网状拓扑、差分信号传输、流量调度信用机制、多Lane 绑定技术、统一内存空间等。截止2025 年,NVLink 5 Switch 实现支持单GPU 到GPU 带宽1800GB/s,可构建72 GPU 的NVLink 域,总带宽达130 TB/s(双向),支持72 GPU 全互联通信。在后续计划中,NVSwitchGen6 和Gen7 的GPU-to-GPU 通信带宽继续升级为3.6TB/s。但另一方面,Scale up 网络兴起源于满足大模型分布式训练和推理中的张量并行(TP)与专家并行(EP)。目前AI 产业也在探索降低TP 与EP 规模的技术方案,从而降低Scale up 网络规模的上限。我们认为,Scale up网络的发展空间或限制英伟达在超节点领域的领先优势。为保持领先优势,实现Scale up 网络和Scale out网络融合或将成为英伟达超节点新的发展趋势。表3:英伟达超节点Scale up 迭代路线架构Blackwell UltraVera Rubin NVL72Vera Rubin NVL144Rubin Ultra NVL576Feunman首发时间2025-032026-01预计2026 下半年预计2027 年预计2028 年核心平台GB300 NVL72VR200 NVL72VR200 NVL144Rubin Ultra NVL576Feynman NVL1152计算托盘
18 个(单盘
4GPU+2CPU)
18 个(单盘
4GPU+2CPU)
36 个(单盘
4GPU+2CPU)
72 个(单盘
8GPU+4CPU)
144 个(单盘
8GPU+4CPU)CPU36 Grace CPUs(72 核) 36 Vera CPUs(72 核)
72 Vera CPUs(88 核)
288 Vera Ultra CPUs
(176 核)
576 Feynman CPUs
(256 核)单颗内存带宽3.6Tpbs单颗内存带宽4.8Tpbs单颗内存带宽4.8Tpbs单颗内存带宽9.6Tpbs单颗内存带宽19.2TpbsNVLink C2C 0.9TpbsNVLink C2C 1.8TpbsNVLink C2C 1.8TpbsNVLink C2C 3.6TpbsNVLink C2C 7.2TpbsGPU
72 GB300 GPUs
72 VR200 GPUs
144 VR200 GPUs
576 VR300 GPUs
1152 Feynman GPUs
单颗288G HBM3E单颗512G HBM3E单颗512G HBM3E单颗1TB HBM4E单颗2TB HBM5E单颗MVFP4 15PFLOPS单颗MVFP450PFLOPS单颗MVFP450PFLOPS单颗MVFP4100PFLOPS单颗MVFP4200PFLOPSScale up铜缆背板铜缆背板铜缆背板+板载无源光引擎(非CPO)3.2T CPO 硅光(规划)6.4T CPO 硅光(规划)
18 个NVLink5
36 个NVLink6
72 个NVLink6
144 个NVLink7
72 个NVLink8 硅光交换
单个144*200G 28.8T单个72*400G 28.8T单个72*400G 28.8T单个144*800G115.2T单个288*1.6T 460.8TGPU 侧NVLink 带宽18*1.8TBpsGPU 侧NVLink 带宽18*3.6TBpsGPU 侧NVLink 带宽18*3.6TBpsGPU 侧NVLink 带宽36*7.2TBpsGPU 侧NVLink 带宽72*14.4TBps东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP23敬请参阅报告结尾处的免责声明东方财智 兴盛之源架构Blackwell UltraVera Rubin NVL72Vera Rubin NVL144Rubin Ultra NVL576FeunmanScale outSpectrum-5 800G OSFP可插拨Spectrum-6 CPO 硅光Spectrum-6 CPO 硅光Spectrum-7 CPO 硅光Spectrum-8 CPO 硅光64*800G 51.2T128*800G 102.4T128*800G 102.4T256*1.6T 409.6T512*3.2T 1638.4T注:28.8Tbps=3.6TBps信息来源:光芯之路公众号,东兴证券研究所P24东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源Rubin NVL576 由单个计算柜配置一个Kyber SideCar 机柜构成。计算柜内由4 个NVL144 的计算机框构成,每个计算框包含18 个ComputeTray;Switch Blade 垂直插入机架后部,与计算刀片通过中板直接连接。图24:英伟达Rubin NVL576 新一代Kyber 机架后续NVSwitch Gen6 和Gen7 的GPU-to-GPU 通信带宽为3.6TB/s。图25:英伟达算力芯片发布时间表东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink SwitchP25敬请参阅报告结尾处的免责声明东方财智 兴盛之源
3. 投资建议
自2025 年开始,超节点成为AI 算力网络重要的技术创新方向。从AI 基建竞争维度,AI 芯片厂商从芯片算力性能竞争延续至芯片+Scale up 网络的双战场。因此,除了原先英伟达、华为、AMD 以及谷歌等芯片公司,全球更多厂商加入超节点赛道的竞争,包括微软、Meta、Amazon、中国移动、阿里巴巴、腾讯、百度、中科曙光、中兴通讯、浪潮信息、紫光股份(新华三)、沐曦股份、恒为科技等。我们认为,全球超节点竞争格局尚未确立。英伟达目前处于领先地位,建议关注英伟达超节点供应链,包括PCB 背板、高速铜缆、光模块、供电与液冷系统等。其次,中国厂商在超节点与Scale up 网络领域的参与度很高,或有国内厂商在超节点领域取得领先优势,建议关注发布国产超节点的云厂商、通信设备厂商与芯片厂商。最后,基于交换机及芯片是Scale up 网络互联的关键设备,建议关注国内交换机供应商以及交换机芯片研发商。
4. 风险提示
(1)LLM 训练与推理技术路径变化;(2)超节点互联方案不确定性;(3)英伟达超节点出货量低于预期;(4)AI 应用端增长不及预期。P26东兴证券深度报告超节点与Scale up 网络专题之英伟达:行业标杆,领先优势建立在NVLink 和NVLink Switch敬请参阅报告结尾处的免责声明东方财智 兴盛之源分析师简介石伟晶首席分析师,覆盖传媒、互联网、云计算、通信等行业。上海交通大学工学硕士。10 年证券从业经验,曾供职于华创证券、安信证券,2018 年加入东兴证券研究所。