当地时间11月9日,谷歌AI与基础设施高级副总裁兼首席技术专家阿明·瓦赫达特在官方博客上宣布,第八代TPU新增两款系统:TPU 8tx与TPU 8i Max。按公司说法,这是它第一次在同一年里推出四款TPU系统。
前两款是今年4月22日谷歌云Next大会上发布的,8t主打大规模模型训练,8i主打低延迟推理。这次的两款不是全新设计,而是在这两块硅片的基础上重新配置算力、网络、存储与封装。8tx是第三个,8i Max是第四个。
瓦赫达特的解释很直白:与其造一款试图覆盖整个市场的芯片,不如推出专用版本,后者创造的价值大得多。他把这归为谷歌的一贯判断,也就是未来属于专用化。这个说法放在五年前会被当成产品线过多的借口,放在今天则更像是对客户结构变化的承认:用TPU的人从少数几家超大规模公司,变成了各类企业。
常规的安全模型是这样的:数据在存储时加密,在网络传输时加密,但处理器要算它,就必须在内存里把它解开,于是运算期间存在一段明文窗口。8tx 想消掉的就是这段窗口。它与8t使用同一块硅片,主机侧配第五代AMD EPYC处理器,把保护直接做进硬件层,让敏感数据与模型权重在被使用的过程中也保持隔离。
网络侧它用了谷歌为实时推理打造的Boardfly低延迟网络。官方给出的数字是,相比8t延迟最多降低一倍,性能损耗接近零。这两个指标放在一起才有意义:机密计算过去的通病是安全加上去,速度掉下来,客户要在合规与体验之间选一个。如果损耗真的接近零,这道选择题就不成立了。
还有一个容易被忽略的连带效果。训练级算力与快速推理网络装在同一套系统里,意味着团队可以用私有数据微调模型、把大模型蒸馏成小模型、用强化学习训练智能体,全程不必在集群之间搬运敏感数据。数据不出域这件事,在受监管行业里往往比算力本身更难谈。
目标客户也写得很清楚:政府机构,以及金融、医疗这类受严格监管的行业,跑的是前沿模型或自有模型,还要把自主智能体放在最敏感的数据旁边。这类客户的采购周期长,但一旦定型,替换成本极高。
8i Max 针对的是另一个约束。谷歌的描述是,当几十个AI智能体同时在一个完整代码库或几个小时的视频上协作时,内存带宽会很快变成瓶颈。这类负载的特点不是算不动,而是数据喂不进来,处理器大部分时间在等。
解法是把两颗低延迟的8i芯片放进同一个封装。官方称算力、SRAM与HBM带宽三项都是8i的两倍,算力与内存同步扩张,处理器手上始终有关键数据,大任务不至于卡住。同步这一点是关键,只扩算力不扩带宽,等于把瓶颈挪个位置。
机架层面的账更实际。两倍的硅塞进现有封装与机架,意味着每平方英尺、每瓦能部署的算力显著提高。数据中心的选址、供电、散热都是硬约束,同样空间里多跑一倍活,比单芯片跑分高更有说服力。
代价也在这里。双芯片封装的散热与良率历来是难点,两颗芯片之间的互联带宽一旦成为新瓶颈,翻倍的说法就要打折。谷歌没有公布两款产品的价格与上市时间,瓦赫达特说它们明年上市。也就是说,现在能核对的只有架构描述,还没有第三方实测。
这次发布会真正占篇幅的是软件。上个月谷歌开源TorchTPU,让PyTorch代码与Hugging Face模型原生跑在TPU上不必改写,并给vLLM、SGLang这类开源推理引擎配了现成后端。这一条针对迁移成本,过去把负载从GPU搬到TPU,重写代码是最大的拦路石。
还有开源的TPU agent suite,目前是预览状态,可接进Claude Code、Cursor与Google Antigravity这类编码工具,用自然语言完成TPU上手、瓶颈诊断与kernel调优;开源的XLA Serving Engine让人用Python训练、用C++低延迟运行时部署,目标可以是TPU、GPU或CPU。
编排层两项转正式可用。Cloud Pathways在GKE上GA,把支撑Gemini的运行时通过单控制器架构开放给云客户;GKE dynamic slicing也GA,用光路交换把TPU拼成更大拓扑或切成隔离的小负载,官方称作业启动最多缩短5倍,故障恢复提升4.5倍。
最后两件冲着智能体经济性。Agent Compute Engine会在智能体等待数据库、外部工具或人工反馈时自动挂起恢复空闲会话;开源的TPU Sync把主机DRAM、共享存储、数据中心网络与HBM合成一个内存层级,KV缓存毫秒级放片外,官方称首字元时间降九成以上。
一个不容忽略的背景是供需。据财联社报道,TPU需求旺盛、货源已被预订一空,但零部件短缺在制约供货,同时AI基建支出放缓的风险也还没有消散。也就是说,产品线扩张发生在产能紧张的时刻,专用化在这里不只是技术选择,也是分配策略。
商业规模可以对照着看。行业研究机构的预测是,到2028年,包含相关软硬件在内的TPU销售额将超过1350亿美元,今年的预估约为120亿美元。十多年前谷歌与博通合作研发TPU,初衷只是更高效地满足自家算力需求,如今已经在云业务之外对外销售,这条线的性质变了。
竞争格局也在往同一个方向走。长期把GPU定位成通用AI产品的英伟达,开始提供面向特定任务的芯片系统,包括自研CPU,以及利用从Groq获得的技术推出专注推理的芯片。按任务切分产品线,已经不再是谷歌一家的做法。
对采购方来说,专用化带来的直接后果是选型变复杂了。过去问的是买哪一代,现在要问的是自己的负载属于哪一类:做大规模预训练看8t,做低延迟推理看8i,涉密业务看8tx,长上下文与高密度看8i Max。一个团队如果同时干这几件事,答案就从"买最贵的"变成"配哪几款,以及能否混部"。