训练从16分钟压到4分钟,Vera Rubin在MLPerf上交了一份规模答卷

首页 / AI资讯 / 泛AI领域

0:00
0:00
1x
定时

英伟达在 MLPerf Training v6.1 的提交里第一次放上了 Vera Rubin 平台,结果是全项领先。官方给出的口径是每 GPU 性能最高达到 GB300 NVL72 的两倍。同一批提交里还有两个容易被忽略的细节:DeepSeek-V3 的训练从 256 颗 GPU 扩到 1024 颗,扩展效率约 97%,训练时间从 16 分钟压到约 4 分钟;MLPerf Endpoints 首次提交,在 Kimi K3 上每瓦吞吐超过十倍。另外在 SC26 上,英伟达还发布了面向高性能计算的 Rubin HPC。

GB300还在爬坡,Rubin已经把曲线拉直了

两倍这个数字要放在上下文里读。MLPerf 比的是同一任务下的完成时间,每一代平台的提升通常来自三处:制程与架构、互连带宽、软件栈。英伟达这次强调的重点是机架级设计,Vera Rubin NVL72 把 72 颗 Rubin GPU 和 Vera CPU 放在同一个机架域里,第七代 NVLink 把域内带宽再抬一档。对训练任务来说,带宽决定的是梯度同步和专家并行的代价,这部分在混合专家模型上尤其敏感。

所以两倍不是单卡算力的两倍,而是整机架跑同一个负载时的吞吐比。这个口径很重要,因为采购决策买的从来不是单卡。GB300 NVL72 大规模交付才刚起步,很多客户的集群还在部署阶段,此时拿出下一代机架的评测成绩,作用不只是证明性能,更是给下一轮预算周期一个明确的技术锚点。

从256颗扩到1024颗,效率还有97%

扩展效率 97% 是这次提交里信息量最大的数字。线性扩展的理想情况是 GPU 数量翻四倍、训练时间降到四分之一,实际系统会因为通信开销、负载不均、故障恢复而打折。97% 意味着几乎没打折。英伟达给出的对照是训练时间从 16 分钟降到约 4 分钟,正好是四分之一,说明在这个规模区间里通信没有成为瓶颈。

同一批提交里还出现了 10240 颗 GPU 的规模数据,这个量级已经不是实验室环境,而是接近实际超算集群的形态。对大模型团队来说,真正关心的不是峰值,而是把集群扩到这个规模之后每颗卡还能不能吃到活干。扩展效率掉十个点,意味着一千颗卡里有几十颗在空转,这笔账在长周期训练里会放大成实实在在的成本。

还要看清一点,97% 是特定任务在特定拓扑下测出来的。任务越依赖全局通信,扩展越难做;任务越接近纯计算,曲线越平滑。把单次评测的效率当成通用常数,是做容量规划时最常见的误判。

Endpoints首次提交,比的不是算力是省电

MLPerf Endpoints 是这批评测里相对新的赛道,比的是推理服务的端到端表现,包含吞吐、延迟和功耗。英伟达在 Kimi K3 上给出每瓦吞吐超过十倍的成绩。这个指标的意义在于它改变了成本的计量单位。推理的账本上,电费和机架密度往往比芯片单价更影响长期支出,尤其是在模型越做越大、单次请求算力消耗越来越高的情况下。

十倍每瓦吞吐不等于十倍便宜,但它意味着同样机房面积能承载更多请求。这条曲线对云厂商的定价策略影响很直接:单位 token 的成本下降,才有空间把长上下文和高并发同时卖出去。对自建推理集群的企业来说,判断标准也从买多少卡变成每瓦能出多少 token,供电容量反而成了更硬的约束。

功耗指标还有一个现实约束:机柜供电。每瓦吞吐再高,单机柜的功率上限摆在那里,能装多少卡由配电决定,不是由芯片决定。数据中心在扩推理容量时,先碰到的往往是电,而不是芯片供应。

SC26上的另一条线:Rubin HPC与Vera机架

SC26 上发布的 Rubin HPC 是另一套取向。单 GPU 超过 5 万 CUDA 核心,配第七代 NVLink,面向的是科学计算而不是大模型训练。同一场活动里英伟达还提了 Vera CPU 机架级平台,以及一个叫 Nemotron for Science 的模型集合,包含近 5 万道化学推理题。三件事放在一起看,路径很清楚:用 GPU 承接训练和推理,用 CPU 机架承接传统高性能计算负载,再用领域模型把科学问题翻译成算力能吃的形状。

Rubin HPC 预计 2028 年可用。这个时间点和首批 Rubin 系统的上市节奏明显错开,说明英伟达在做两件事:一边用训练和推理的现货市场换现金流,一边用科学计算的路线图锁住未来几年的科研预算。5 万核心这个数字针对的是仿真类负载,与训练卡的取向完全不同,混着读会得出错误结论。

2028年可用才是这件事的定价依据

MLPerf 的成绩是当下的,Rubin HPC 的可用时间是两年后的。两者拼在一起才是完整的商业叙事:先让训练和推理的客户看到代际提升,再用高性能计算的路线图把科研和工业仿真的预算也纳入同一套生态。评测榜单负责说服工程师,路线图负责说服财务。

对采购方来说,需要分清哪些数字现在就能下单,哪些是路线图承诺。两倍性能、97% 扩展效率、十倍每瓦吞吐属于前者;5 万核心、第七代 NVLink、2028 年可用属于后者。把这两类数字混在一起读,很容易做出偏乐观的容量规划,也很容易在预算评审时被问到答不上来的问题。

一个更实际的做法是把评测成绩换算成自己任务的预期。训练时间缩短四倍,意味着同样的实验轮次能在更短窗口内跑完,返工成本下降;每瓦吞吐提升十倍,意味着同样的机柜能服务更多用户,扩容节奏可以放缓。这两条才是能写进立项报告的东西,剩下的都是参考坐标。

素材来源:MLPerf、英伟达开发者博客、量子位、机器之心 发布时间:2026-11-18