10月12日,微软云与AI执行副总裁斯科特·格思里发布官方博客,披露了自研芯片路线的重要节点:第三代自研AI加速器Azure Maia 300将于2027年进入量产,自2027年起,Maia家族将扩展至多吉瓦级部署,并成为微软产品与服务的主要推理系统。博客特别强调,这颗芯片是按推理负载的全新形态设计的:长上下文推理、延迟敏感的对话、持续多步的智能体任务。自研芯片从陪跑角色转正,云巨头的算力自持竞赛再次提速。
先看设计取向。过去几年的AI算力讨论集中在训练,训练拼的是峰值算力与集群规模,而2026年的现实是,推理已经成为吞噬算力的主战场:智能体一次任务要跑几十轮工具调用,长上下文把每次请求的词元量推高几个量级,对话应用的延迟要求又卡死了批量调度的空间。Maia 300针对的正是这三种负载的交集,长上下文的吞吐、对话的低延迟、智能体的持续多步运行。
把它做成完整系统而非单颗芯片,也是值得注意的细节。博客的表述指向软硬一体的取向,从芯片、服务器到系统软件协同设计,这与谷歌TPU多年的路径一致。对微软来说,推理负载占自家产品组合的比重只会越来越高,Office Copilot、搜索、智能体服务都跑在自己的云上,把最大宗的推理负载放到自研芯片上,等于把最稳定的成本项握在自己手里。
推理专用芯片的设计取舍与训练芯片差别很大。训练要的是大规模并行与高精度梯度交换,芯片之间靠高速互联把上万张卡绑成一台机器;推理更在意内存带宽与容量,因为长上下文的键值缓存会把显存吃得干干净净,一次请求跑到几十万词元,缓存体积甚至超过模型权重本身。Maia 300 强调长上下文与低延迟,意味着它在显存配置、缓存管理与批处理调度上做了针对性裁剪,牺牲一部分训练通用性换取推理吞吐。这种专用化能效更高,代价是灵活性下降,负载形态一旦变化,芯片的适配空间比通用GPU窄得多。
多吉瓦级部署这个说法值得展开。吉瓦是电力单位,一座大型核电机组的容量约为一吉瓦,用吉瓦来形容一个芯片家族的部署规模,意味着对应的数据中心集群将以电站级别的电力为计量单位。业界此前谈论吉瓦级数据中心还是远景叙事,微软这次直接把它写进了自研芯片的路线图,等于官宣:自研芯片的量产节奏要与电力、土地、散热的基建节奏对齐。
定位的转变同样关键。前三代Maia产品在微软内部的口径多是补充与试验,跑特定内部负载;Maia 300被明确为主要推理系统,意味着未来微软产品矩阵的推理大头将由自研芯片承担,英伟达GPU则退居高复杂度与训练场景。这不是替代,而是分工重构,但重构本身足以改变采购谈判桌上的力量对比。配套的电力与散热同样是硬约束,多吉瓦意味着选址必须靠近电源与水源,建设周期以年计,芯片路线图再激进,也要等基建跟上。这也解释了微软把量产节点定在2027年的原因,芯片、机柜、供电与冷却是一个整体工程,任何一环提前或延后,都会让整批算力无法按时上线,多吉瓦的说法本质上是对整套基建节奏的承诺。
云巨头押注自研,账本上其实有三笔。第一笔是成本账:通用GPU溢价高昂,而自研芯片围绕自家负载裁剪冗余,单位推理成本可以显著下探,规模化之后差额直接写进利润表。第二笔是供给账:旗舰GPU供不应求,交货周期与配额政策受制于人,自研产能是对冲供给风险的保险单。第三笔是生态账:软硬协同带来的差异化性能与定价空间,是云业务最稀缺的护城河。
先例已经摆在那里。谷歌的TPU支撑了自家的搜索与模型服务,并对外输出了七代产品;亚马逊的自研芯片家族覆盖训练与推理两条线。英伟达的CUDA生态依然是训练侧的绝对王者,但推理侧的标准化程度更高、迁移成本更低,恰恰是自研芯片最容易撕开的口子。对英伟达而言,最大的客户们都在自建产能,增长的故事需要更多新叙事来支撑。
自研的隐性成本常被低估。芯片流片只是起点,软件栈的成熟度决定了它能不能被真正用起来,编译器、算子库、调试工具与框架适配,每一项都需要数百人年的投入,还要与上游框架的版本节奏同步演进。良率与产能同样受制于人,先进制程的配额要提前很久锁定,量产爬坡期的报废成本由自己扛。更关键的是分摊逻辑,自研芯片的研发投入要靠自家负载的量来摊薄,一旦推理需求增长不及预期,单位成本反而高于直接采购。这也是多数云厂商的自研芯片只覆盖最标准化那部分负载的原因,长尾场景仍留给通用GPU,这笔账能否算平,最终要看三年后的单位词元成本对比。
对运行在Azure上的开发者,Maia 300量产后的影响将逐步显现:标准推理负载的定价有望更具弹性,区域容量规划里会多出自研算力池的选项,长上下文与智能体类应用的单位成本曲线更平缓。当然,兑现的前提是量产爬坡顺利,自研芯片的软件栈成熟度历来是最大变数,从编译器、算子库到调度系统,每一层都需要时间打磨。
把视野再放宽,微软的提速与全球算力竞赛的节奏同频:各家云厂商都在用自研芯片摊薄推理成本,国产算力也在自己的路线上迭代推进。推理算力的供给侧正在从一家独大走向多元共存,买算力的一方议价权在上升。对整个行业,这是好事:更低的推理成本意味着更丰富的应用实验,下一波AI应用的创新,很可能就孕育在这些降下来的成本里。对中小企业,这类变化的意义更直接,过去因单价过高而不敢上量的大模型推理场景,会因为成本下降变得可算账,许多被搁置的产品想法会重新拿到桌面上评估。