一场没有新芯片的架构革命
9月17日,华为在上海全联接大会上发布了Peerium计算架构。有意思的是,这场发布会的主角不是芯片——尽管同一天昇腾960的研发进展也被披露——而是一套组织芯片的方式:嵌套并行(Nested BSP)、统一内存寻址、平等互联。华为宣称,这三样东西加在一起,可以让百万级处理器"真正成为一台更大的计算机"。
首代产品Atlas 950超节点的25.6万卡集群已在部署中,基于NPO光引擎的Atlas 960系统正在测试。最大集群规模可达51.2万卡,结合多轨道拓扑,上限定在100万卡。
这个数字值得停下来想一想。今天全球绝大多数"十万卡级"集群的本质,仍然是用网络胶水粘起来的计算机群:每一台机器有自己的操作系统、自己的内存空间,机器之间靠消息传递(MPI、集合通信)协作。而华为想做的事情在语义上完全不同——把百万颗处理器变成一台计算机,单一的系统映像,统一的地址空间。
区别在哪?在于程序员看到的抽象层级。
冯·诺依曼的墙,和主从架构的天花板
从ENIAC到最先进的GPU服务器,几乎所有计算机都在冯·诺依曼体系内:运算器、控制器、存储器、输入、输出。这个范式在单机尺度上依然无可撼动,问题出在尺度上——当一颗芯片内的晶体管无法再指数级增长,AI算力的需求却继续指数级增长,唯一的出路是把更多机器连起来。
但"连起来"的方式,八十年来只有一种主流答案:主从架构(master-slave)。集群里有一个调度中枢,把任务分发给一群听话的执行者;存储与计算分离,机器之间是上下级关系而非对等关系。互联网时代的分布式系统——Hadoop、Kubernetes、乃至今天的大模型训练框架——本质上都是这个模式的各种变体。
主从架构在万卡尺度开始失灵。训练中断恢复动辄数小时,checkpoint写到共享存储的带宽成为瓶颈;跨机集合通信的延迟让数据并行的同步开销随规模非线性增长;到了十万卡、百万卡,故障不再是例外而是常态,“主"节点成为单点,“从"节点之间的内存墙使得任何一次跨节点访存都要经过整条网络协议栈。
华为对Peerium的表述颇为大胆:“突破了图灵范式,提出了Nested BSP”。严格说,Bulk Synchronous Parallel(整体同步并行)是Leslie Valiant在1990年提出的经典并行模型,并非华为首创——华为的真正贡献是把BSP做成嵌套的、多层的:超节点内一层,超节点间一层,集群间再一层,每一层都提供统一的内存视图。与其说突破了图灵范式,不如说是终于把并行计算的抽象从"进程间消息"拉回到"线程间访存”——把一台超级计算机当一台SMP机器来编程。
灵衢:把总线做成开放协议
这套架构的关键使能技术是"灵衢”——一条基于开放协议、可无限扩展地联接CPU、NPU、内存、SSD、网卡和交换机的高速总线。注意这个部件清单:它联接的不只是计算部件,而是计算、存储、网络三者。有了灵衢,这三者之间是"平等互联",没有谁是谁的外设。
真正体现工程深度的细节在昇腾960超节点上:全球首个采用NPO(共封装光学)光引擎的超节点,用5500个Hi-ONE替代了原本需要的4.8万颗800G光模块,功耗降低超550千瓦,系统无故障运行时间提升一倍,可用度99.8%,可扩展至4096卡、8 EFLOPS FP8。这不是架构论文里的概念图,而是光互联工程在超节点尺度的一次激进落地——分立光模块的数量级削减,直接改写了可靠性和功耗的账本。
这一步棋的行业背景很清楚。NVIDIA的NVLink/NVSwitch走的是封闭专有路线,NVL72把机柜变成计算单元,但再往上依然要靠InfiniBand/IP织网;Google的TPU Pod在内部做到了大规模直连,但从不外卖。灵衢选择开放协议,显然是想把"平等互联"变成一个生态位:让第三方CPU、内存、SSD、网卡厂商都能接入这条总线,用开放性对冲NVLink的封闭溢价。这套打法在历史上的对标物是PCIe、是Ethernet——都是靠开放协议吃掉整个市场的范例。
冷思考:硬件之后,软件才是护城河
对Peerium保持敬意的同时,有几分冷静的判断是必要的。
第一,“一台计算机"是编程模型的胜利,不是物理的胜利。 百万卡之间仍然隔着物理网络,统一内存寻址 hides latency,但不会消除 latency。Nested BSP的超步同步模型对通信密集型负载(MoE专家路由、序列并行)是否真的比现有的异步流水线更优,需要真实训练任务说话。历史上统一内存的尝试(NUMA大规模SMP、Hive类方案)大多败在缓存一致性的开销上,华为需要证明自己的分层一致性协议在万卡尺度不会退化。
第二,生态是比互联更硬的仗。 好消息在发布会上也有:CANN外部开发者首次超过内部(占比61%),社区月活开发者突破5200名,昇腾成为PyTorch官网可直接安装的首个中国算力平台,原生训练模型超40个。这些数字说明昇腾已经跨过了"能不能用"的阶段,正在攻"用起来顺不顺"的阶段。但如果Peerium的统一内存编程模型想要兑现"像写单机程序一样写百万卡程序"的承诺,需要框架层(PyTorch分布式)、编译器层、运行时层的深度协同改造——这比造硬件慢得多,也贵得多。
第三,被制裁塑造的路线,未必是被制裁限制的路线。 不可否认,华为在先进制程受限的背景下选择在体系结构和互联上做文章,有很强的现实约束成分——单芯片性能追不上,就把系统做成优势。但有意思的是,这条路线可能恰好踩中了行业的下一个范式:当NVIDIA自己也从"卖芯片"转向"卖机柜”(NVL72)再到"卖数据中心"(AI Factory)时,全行业的竞争焦点都在从单点性能转向系统级扩展效率。华为等于是在用架构创新回答一个所有人都要回答的问题。
判断
我倾向于把Peerium看作一个信号而非一个结论:AI算力竞争的下半场,比的是系统,不是芯片。 过去三年的叙事是"谁的模型大",未来三年的叙事很可能是"谁的百万卡跑得稳、用得省、编程门槛低"。统一内存寻址和平等互联如果在真实负载中被验证有效,它改变的不只是华为自己的集群效率,而是给整个行业一个不同于NVLink封闭生态的选项——就像Android之于iOS。
当然,从架构发布到生态成立之间,隔着五年的软件工程和无数个深夜的稳定性告警。Atlas 950的25.6万卡集群部署成效、昇腾960在2027年的如期落地、CANN开发者社区的持续增长,是接下来值得盯的三个里程碑。
百万颗处理器成为一台计算机——这句话究竟是营销修辞还是计算史上的一个节点,答案会在未来两三年内揭晓。