蚂蚁百灵新一代开源:560B参数4卡就能跑,百万上下文下探成本

首页 / AI资讯 / 大模型

0:00
0:00
1x
定时

开源大模型的竞争焦点正在从参数大小转向部署成本。10月15日,蚂蚁集团百灵大模型宣布开源新一代Ling-3.1-flash,总参数560B、每token激活约25B,延续混合线性架构,最高支持1M上下文,面向办公、医疗、软件工程与终端操作等真实业务场景。这款模型最引人注目的不是跑分,而是账本:经过量化压缩后,560B级的模型4张卡就能部署,把超大参数模型的落地门槛整体拉低了一档。

4卡跑560B是怎么做到的

压缩的关键在量化策略的分工。Ling-3.1-flash对路由专家部分采用MXFP4量化,稠密层则保持block-FP8精度,模型权重占用从534GB降到292GB,服务部署从8卡减少到4卡。对打算在自有环境接入的企业来说,这组数字直接换算成真金白银:少一半的显卡,意味着起步预算、机房功耗和后续扩容成本全部减半。开源模型此前的常见痛点是权重公开了,但部署规模劝退,此次压缩等于把最后一道门槛也拆掉了。

架构本身延续了百灵系列的混合线性路线,用稀疏激活在能力与效率之间取平衡:总参数撑起知识容量,每token只激活约25B保证推理成本。官方披露的最高1M上下文,适配的是长合同、长病历、大型代码库这类真实工作流,而不只是为了刷榜。拿一个具体场景来说,三甲医院的病历综述动辄数十万字的检查报告与病史记录,一次读入后做跨文档比对,以往要靠切片检索拼凑,长上下文模型可以直接通读后给出结论;软件工程场景里,整个中型项目的代码库一次挂载,跨文件的改动影响分析不再需要人工圈定范围。从上一代Ling-3.0-flash的124B级规模,到这一代直接上探560B,百灵系列在开源梯队里的身位明显上移。

智效比打法与定价

性能与成本的组合拳之外,蚂蚁给这代模型定的叙事是智效比。Artificial Analysis智能指数41,输出速度约210 token每秒,混合调用价格约0.19美元每百万token。把三个数字放在一起看:智能指数处在可用梯队,速度足够支撑交互式业务,价格则压到了主流闭源API的零头。对高频调用场景而言,单位成本的优势会被调用量放大,这正是面向企业批量业务的定价逻辑。拿客服质检这种动辄每天处理百万级对话的业务粗算一笔账,费率差一个数量级,年度成本就是七位数与六位数的差别,这也是为何企业选型越来越把每token成本当成与准确率并列的硬指标。

值得留意的是开源策略背后的商业账。模型免费开放,换取的是生态位:企业用惯了百灵的部署工具链,后续的云服务、行业方案与企业版能力才是变现入口。这套打法在开源阵营已成共识,比拼的不再是单一模型的榜单名次,而是从权重、部署工具到行业方案的整条链路谁更省心。百灵此番把4卡部署当卖点,等于把竞争直接拉到了企业机房现场。

开源梯队的身位竞争

把视角拉宽,这轮开源与国产模型的密集更新已经形成共振。千问、GLM、Kimi与DeepSeek各自完成新一代迭代,开源阵营在长上下文、工具调用与部署效率上你追我赶。Ling-3.1-flash切入的位置很明确:不与旗舰闭源模型比拼极限能力,而是在企业真实业务所需的智能水平线之上,把部署与调用成本压到最低。医疗、办公、软件工程这些场景的共同特征是任务量大、单次价值密度有限,性价比权重天然更高。

与同行相比,百灵这代产品的差异化其实落在工程细节上。同级别的MoE开源模型普遍需要8卡起步,MXFP4加block-FP8的组合把量化损失控制在业务可接受范围内,等于把别家论文里的实验技巧做成了开箱即用的默认配置。对集成商而言,选型时的隐性成本往往比榜单分数更真实:环境适配、显存规划、推理框架兼容性,每一项都是人力。开源模型想要进入企业的私有化环境,合规与数据不出域是硬需求,4卡部署恰好踩在多数企业既有算力冗余的范围内,不需要为此新建机房。

模型与应用的双线节奏

蚂蚁的模型线近期动作密集,一边是百灵系列持续开源迭代,另一边是个人智能体应用灵光推进内测,模型与应用双线并进。应用侧的真实调用量反过来为模型迭代提供业务样本,模型侧的能力进步又抬升应用体验,这条内部循环是开源策略里容易被忽视的价值:开源换来的不只是声量,还有外部开发者在真实场景里踩出来的问题清单。对行业来说,560B级模型进入4卡部署区间是一个信号:超大参数模型的经济性问题正在被工程手段逐步化解,量化、稀疏激活与推理优化的组合,让参数规模与落地成本不再绑死。开源模型的下一阶段竞争,大概率会围绕这套工程化能力展开,榜单名次反而退居其次。

对企业选型者而言,这代模型带来的实际变化落在预算结构上。过去要跑一个百亿级以上的模型,通常需要专门的推理集群与运维团队,现在四张卡就能覆盖,等于把原本属于基础设施的开支挪回了业务侧。更现实的是试错成本下降:模型换代的周期已被压缩到季度级别,企业不必再为一次部署做三年的容量规划,可以按业务需要随时替换,甚至在同一套业务里并行跑两家模型做对比。

素材来源:站长之家、AIbase日报、机器之心 发布时间:2026-10-16