在商用GPU市场中,当前主要由英伟达和AMD两强主导。MI300时期,AMD因缺乏系统级方案(系统的核心在于互连技术),几乎未能从AI算力热潮中获益。但随着Helios的问世,我们需要思考:
1)AMD是否真正具备了与英伟达正面竞争的实力?
2)在互连方案的演进中,产业链逻辑发生了哪些变化,谁受益、谁受损?
我们将从互连角度切入探讨。关于AI互连的基础知识,请参考前文梳理。
以下为详细分析
我们先从英伟达与AMD组网方案的对比开始:
1.1 Scale-Up:英伟达的黄金标杆 vs 众人抱团取暖
英伟达:黄金标杆的封闭生态。 NVLink与CUDA、NCCL软件栈深度整合,延迟和带宽性能卓越,但价格高昂,且封闭生态意味着客户几乎被英伟达锁定。为了缓解客户顾虑,英伟达在2025年推出了NVLink Fusion,向第三方CPU、xPU部分开放,将NVLink转变为半开放标准,便于非英伟达芯片接入其芯片域。
AMD:抱团对抗英伟达。UALink是以AMD为主的联盟,旨在对标NVLink的Scale-Up协议,核心是Infinity Fabric(最初为CPU间通信协议,现已扩展至GPU间互连)。
随后AMD开源IF,并提供灵活的I/O通道支持不同标准,推动下一代开放标准UALink,联盟成员包括AMD、ALAB、AWS、Google、Meta等。
联盟声势浩大,但硬件缺失令人尴尬。 由于原生UALink标准的交换芯片仍在ALAB与Marvell处研发和量产中,目前Helios方案的Scale-Up协议实际上采用的是UALoE(UALink over Ethernet),即基于以太网的过渡方案。
从下表可见,UALoE的带宽已与NVLink 6持平。尽管延迟数据未公开,但海豚君认为难以匹敌NVLink:UALoE底层仍是以太网,数据传输需要在两套标准间反复封装和解封,再加上以太网自身的转发开销。
1.2 Scale-Out: IB太贵又封闭,以太网胜出
Scale-Out层的格局相对清晰,竞争主要在英伟达主导的InfiniBand与开放生态的以太网之间展开,英伟达的核心硬件包括Quantum交换机、ConnectX网卡和BlueField DPU。
如今市场天平已明显倾向以太网。 以太网本身具备强兼容性、庞大生态、更低成本和更强扩展性;随着各厂商(AMD是超以太网联盟UEC成员)纷纷加入以太网阵营,持续补齐性能短板,与IB的差距不断缩小。英伟达自身后续也扩展了以太网产品线,主要引入Spectrum交换机,搭配网卡/DPU。
组网方案的竞争,除了协议标准的生态站位,还在于硬件按协议组网后,方案的部署规模和用户接受度。
这里我们重点对比3P市场中两家GPU厂商的组网方案:AMD Helios和英伟达GB300 NVL72。
先看代际差异:AMD的Helios形态基本参照GB300 NVL72,实际上市时面对的竞品是GB的换代方案Vera Rubin机架。显然,Helios是用上一代架构来对抗下一代产品。因此,海豚君重点拿Helios与GB300比较,再观察Vera Rubin的主要升级点。
2.1 AMD:默默无闻的MI300时代
在Helios(MI450平台)之前,AMD主要销售MI300芯片,GPU之间只有简单的板内直连方案,缺少像英伟达NV Switch那样能将几十个GPU直接互连的Scale-Up交换芯片。
短板很明显:GPU仅板内直连时,8个GPU之间可以直连,但超过8张卡的GPU间互连,就必须跳出直连网络,走Scale-Out网络,导致带宽和延迟同步恶化。
这就是海豚君上篇提到的:同一办公室的同工种同事互传文件,八人以内可以两两互传。超过八人,就得通过你传我、我传他,逐级传递。
英伟达GB机架内,计算托盘(办公区)与交换托盘(调度室)组成机架(办公楼)。下图对比显示:机架正面,9块交换托盘并非集中置于顶部或底部,而是夹在18块计算托盘中间。
相当于把调度室设在中间楼层,一个人传资料时,只需将资料放在中间调度层,调度解析后,直接一键投递到目标收件人。72人范围内无障碍沟通。
当前无论是训练还是推理,在数万亿参数和MoE混合专家背景下,能集合多少GPU算力是核心竞争点。 这直接导致AMD在MI300时代与英伟达的GB方案完全无法抗衡,尤其在训练方面差距过大。
MI300对阵Grace Hopper或GB,均无还手之力。因此,AMD直到推出对标英伟达GB300的Helios(MI450平台)机架方案,才算有了上牌桌的可能。
除了CUDA生态的强大,海豚君重点强调英伟达组网的一大杀手锏——用NVLink串起的GPU Scale-Up互连。
2.2 英伟达GB300关键差异——NVLink为核心的GPU Scale-Up
英伟达在处理GPU互连时,为打破互连片数限制,直接在GPU之间引入了基于NVLink协议的交换芯片,同样命名为NVSwitch。
交换芯片的作用是:将18个计算托盘、每个计算托盘内的4颗Blackwell GPU,全部通过NVSwitch连接起来。当这72个GPU需要交换信息时,各自将信息发送给NVSwitch芯片,由该交换芯片一站转发给另一个GPU。
具体来看,一个英伟达GB300的结构包括18个计算托盘(72颗GPU),上面10个、下面9个,中间夹着9个交换托盘(18颗NVSwitch 5交换芯片)。
每颗GPU引出18条链路,分别接入18颗NVLink 5交换芯片。单GPU聚合双向带宽为1.8TB/s;每颗NVSwitch有72个端口,接满所有GPU,实现任意两颗GPU间单跳互通,无阻塞全互连。
两个GPU之间,无论距离多近,并不直接互连,而是先经过托盘基盘,到达托盘边缘的连接器,再通过托盘背面的铜线进入交换托盘(物理路径:GPU → 托盘走线 → 托盘连接器 → 背板连接器 → 铜缆 → 交换托盘连接器 → 飞线 → NVSwitch ASIC)。
此外,单个托盘内有两个CPU,CPU-GPU通过英伟达专属的NVLink C2C连接(通用方案通常走PCIe),双向带宽为900GB/s。
2.3 AMD抄作业:抄了什么?像不像?
Helios在组网核心上与英伟达GB300相似:引入交换机连接18个托盘中的72颗GPU,整机架有6个交换托盘、12颗Switch ASIC,同样走铜缆背板。由于连接的交换机端口更多,单GPU双向速度达到3.6TB/s,是GB300的两倍。
但方案实际落地上差异较大:
a. 协议标准: GPU的Scale-Up确实引入了交换机,但协议标准,如前文所述,并非AMD自有的UALink,而是基于以太网的UALoE。
b. 交换机硬件: 采用第三方交换机标品。硬件上使用博通的交换机产品——Tomahawk 6,该交换机属于标准品,普遍用于Scale-Out,端口众多,在Helios用于Scale-Up时存在端口冗余。
Helios单交换托盘有4组连接器共864条通道、2颗TH6各占432条,而单TH6可用512条,约16%的交换容量因此闲置,而英伟达则全部接满。
此外,由于托盘内SerDes能力较弱,还加装了以太网Retimer,同时推高了成本、功耗和组装难度。
c. 2倍的铜缆用量:共10,368根铜缆, 是英伟达的两倍。差异源于英伟达SerDes能在同一对DP上同时收发。
d. 交换介质:铜飞线仍在。 连接器-Switch段保留了GB300设计中的飞线,增加了成本与维护风险。
e. CPU配比低,CPU与GPU再次引入飞线连接: 每个计算托盘配1颗Venice CPU、4颗MI455X GPU。CPU与GPU配比从英伟达的1:2降至1:4(核数比也更低)。
GPU因距离CPU较远,通过飞线连接Venice CPU与Vulcano网卡,而非英伟达的NVLink C2C连接方式。
从下图的协议带宽看,海豚君推测AMD中CPU配比下降是因为英伟达自研了NVLink C2C(1.8TB/s),CPU及其内存被纳入GPU一致性访问域,需要更高配比支撑传输;而AMD的CPU-GPU走IF(仅256GB/s),CPU可能只负责控制与调度,一颗即可覆盖4颗GPU。
2.4 Helios真正的同台竞品:Vera Rubin到底迭代了什么?
飞线是易耗品,容易损坏且维修麻烦。Vera Rubin的主要升级是取消了飞线,交换芯片升级到36颗NVLink6,将GPU间传输带宽提升至3.6 TB/s;此外,CPU-GPU间的NVLink C2C带宽翻倍至1.8TB/s。
关键在于飞线是如何取消的?
GB300方案中,计算托盘以一块高度集成的PCB板为核心,GPU、CPU、LPDDR同板。信号出柜路径为CPU→GPU→NIC网卡→OSFP(出柜接口)→Leaf交换机。其中,从NIC网卡到OSFP这一段走飞线(左图中蓝色虚线),是最容易故障的线路。
Vera Rubin的解法是将板卡模块化,例如CPU和GPU组成计算模块,CX-9紧挨OSFP出口排列,一起做成独立网络通信模块Orchid。
几个独立功能模块加上一块竖在中间的PCB中板,模块间不再使用线缆,而是通过板与板连接器盲插对接(右图红色箭头)。易于维护、便于组装。
这样经过盲插对接后,全程为PCB走线。
PCB上的长距离传输比飞线更易衰减,因此英伟达在配备高速SerDes之外,同步升级了PCB的材料、层数和面积。
可以看出,英伟达NVL72从GB系列到Vera Rubin,GPU连接方式不变,主要是通过模块化+PCB板+连接器来取代飞线,降低组装时间,且易于维护。
而Helios是模仿英伟达上一代设计,通过高成本堆料拉高了可比参数,但由于组件非定制和设计等问题,实际成本更高。其同台竞争的是英伟达改良后的Vera Rubin产品。
2.5 Scale-Out:无核心差异
该层级组网方式较为简单,主要是硬件数量及带宽的升级。我们结合前文Scale-Up的比较分析,整理了方案整体差异对比表。浅红底色表示AMD相较于英伟达落后的部分。
2.6 英伟达的下一代:Rubin Ultra又是一次大变革?
英伟达方面,Vera Rubin的下一代——Rubin Ultra代际已在酝酿中,可能首次采用光跨柜进行Scale-Up。
目前,有两种机架形态——Kyber机架 vs 传统Oberon机架,在同时考虑中。
a. Kyber 机架(NVL144,见下图左侧):形态重构
计算托盘改为刀片状(Blade),垂直安装在上下两块大型PCB中板的一侧。单刀片集成4颗Rubin Ultra GPU与2颗Vera CPU,整机柜分为2个全功能模块(Canister),各含18块刀片,合计36块刀片、144颗GPU。
PCB中板另一侧交换芯片同步加量:每块交换刀片含6颗NV Link 7交换芯片,每机架12块,合计72颗。GPU通过2块PCB中板(每个Canister一块)以全互连方式连接至各交换刀片。此侧中板另插入管理模块。
b. Oberon 机架(上图右侧):沿用横置托盘
①机架内:布局由Vera Rubin时的9个交换托盘在中间,上面10个GPU托盘、下面8个GPU托盘的10+9+8模式。
新方案改为9+18+9。18个计算托盘等分两组,分布于机柜顶部与底部,NVLink交换托盘翻倍至18个,单托盘高度压缩至0.75U。目的是缩短最远计算托盘与最远交换托盘的间距,确保铜背板上NVLink信号的链路驱动能力。
② 跨机架,用光互连提升Scale-Up上限: 8个各装72颗GPU的机架,首次引入Scale-Up CPO,实现8个机柜之间Load/Store内存语义的全互连,而非RDMA消息语义的Scale-Out。
总体来看,在最核心的带宽指标上,Helios无论是Scale-Up还是Scale-Out,都已基本追平英伟达的机架方案。单GPU双向3.6TB/s的Scale-Up带宽与Vera Rubin相当,Scale-Out侧同样是800G网卡。对于下游客户而言,AMD已具备成为替代方案的基本资格。
但理论带宽追平并非全部。AMD的差距集中在工程实现与自研全栈,沿用GB机架的落后设计直接推高了单机架的物料成本。
基于海豚君的测算,两家厂商的单机架网络物理层成本(外采口径),即便在英伟达Scale-Out侧计入了较激进的CPO预期、从而抬高其成本的前提下,AMD方案仍接近英伟达的两倍。
这一差距主要来自Scale-Up侧:翻倍的铜缆数、外采的交换芯片与Retimer占到了Helios Scale-Up网络成本的60%。
作为追赶者,AMD面向客户显然会采取相对更低的定价(不考虑存储容量差异),而上文分析的差距将完全反映在其组网方案的毛利上。
Helios由于第三方组件使用较多,即使同样销售机架,其真正留存体内的收入是GPU(Instinct MI455X)+CPU(EPYC Venice)+网卡(Pensando Vulcano)的收入,其他多为低毛利转售业务。
回到机柜级组网竞争,AMD受制于原生UALink进展缓慢以及组网上的跟进者策略,而英伟达的机架方案仍在快速迭代,其下一代机架方案的物理形态或将发生变化。
AMD的方案与英伟达差距仍然明显。 但在当前算力供给紧缺的背景下,这仍是AMD向上的出货周期,公司公开表示2027年的需求量已超出最初预期,将继续扩产。
从目前已部署和获取订单的下游来看,Vera Rubin规模发货于8月启动,且已获得所有主要超大规模客户、AI云厂商和系统OEM的采购订单,市场普遍预期4Q26放量。
Helios于7月下旬量产,首批发货在9月末。规模商业化落后约一个季度,大规模放量可能要等到27年上半年。
产业链上,AMD的公开信息较少,但前文可见两家机架的硬件规格已接近(同为3.6TB/s、200G SerDes、铜缆背板加多层PCB),而后文将看到相关环节的竞争格局相对集中。
在基板、PCB、液冷、电源环节,供应链重合度高;主要差距在于:①交换芯片上,AMD采用博通交换芯片;②整机组装环节,英伟达使用鸿海、广达等,而AMD则采用Sanmina、Celestica与HPE等偏美链组装厂。
以下,海豚君主要从机架方案对比和迭代中,梳理网络互连供应商的价值变化。
4.1 方案迭代几家欢喜几家愁?
a. AMD链:Helios使AMD从单板8卡扩展到跨板72卡,交换托盘和Scale-Up层是最直接的增量。
博通供应交换托盘的以太网Retimer和交换芯片;Amphenol提供从连接器到铜缆的整体方案,两者是直接受益标的。
长期来看,UALink原生芯片将由Marvell、ALAB供应,这是对博通交换芯片的替代逻辑。此外,海豚君后续要分析的谷歌方案中,OCS交换机在设计初衷上就是博通叶、脊交换机的一种替代。
b. 英伟达链:铜退,PCB & 光进,连接结构升级
英伟达的机柜连接方案发生了以下两点关键变动:
一是取消了计算托盘与交换托盘的飞线;
二是PCB板的面积和强度都得到了提升。
物理成本测算参考下表,Vera Rubin方案的整体网络连接成本达到GB方案的1.8倍左右,但同期单卡带宽翻倍,折算下来,单位带宽的网络成本反而下降约10%。
连接:安费诺Amphenol多空交错。 飞线(无源铜缆)取消显然对Amphenol利空。但利好是:计算托盘内连接器的ASP相对更高,且接口数增量明显,一定程度上实现了对冲。背板铜缆方案(含连接器)仍然是Amphenol主供,整体安费诺偏中性。
PCB板存在量价齐升的逻辑。量上由更大的组网规模推动机架数量,价上是PCB板的技术升级迭代带来的层数与材料升级。在更长期视角下,Kyber机架将用PCB中板替代机柜内铜缆连接,继续利好PCB厂商,利空机柜铜连接。
4.2 连接产业链价值分配,谁高谁低?
我们按单机架物料测算,将全部网络物料归并为四个环节,价值量由高到低为:光连接(光模块以及光器件)> 交换 > 铜连接(铜缆以及连接器)> PCB & ABF。
1) 光连接:非技术主导的供需错配涨价,持续性存疑
我们已经对单机柜价值量最高的光连接板块进行了深度覆盖,具体内容请参见技术演进、产业链梳理。此处补充光纤光缆产业链。
涨价来自供需错配。 需求侧是AI集群规模扩张驱动的结构性量升;供给侧瓶颈在最上游的光纤预制棒——超高纯石英玻璃实心棒,决定光纤的光学DNA,用于拉制裸纤,再给裸纤套上“外衣”,就变成常见的光纤。
光纤预制棒价值量最大,贡献了产业链近70%利润


想了解更多预约活动页面附有详细使用说明,确保用户充分了解规则后再做决定。相关内容,尽在九游娱乐网站。