智能体落地的瓶颈,正在从模型能力转移到运维成本。一个等待模型返回结果的智能体,在传统容器编排里依然占着沙箱资源,几十个并发任务就能把预算烧光。9月20日前后,谷歌低调开源了声明式智能体编排器AX,试图把这个问题当作基础设施问题来解决。
AX的项目说明对智能体的定位很明确:它是一种新类型的工作负载。它不像无状态微服务那样处理短生命周期的请求响应,也不像批处理任务那样确定性地执行到结束。智能体是有状态的、突发式的、长时运行的,在推理、工具执行与本地代码求值阶段密集消耗算力,随后又会在等待模型响应、外部接口回调或人工介入时长时间空转。
这种负载特征让常规做法两头不讨好。在Kubernetes里保持沙箱常驻,会在空转阶段造成大量算力浪费;而让容器冷启动,又会引入延迟,破坏交互式的智能体循环。AX的思路是承认这种间歇性,把空闲期的资源真正释放掉。
底层执行运行时名为Agent Substrate,专门为高密度actor多路复用设计。每个智能体会话运行在独立沙箱中,具备严格的CPU与内存边界;当它进入等待状态时,平台会把执行状态做检查点后挂起,恢复时间做到亚秒级且没有冷启动延迟。密集多路复用让数十个任务共享同一批worker,把智能体发呆的时间换算成可回收的闲置算力。
项目采用Apache 2.0许可,代码托管在GitHub的google/ax仓库。官方README标注项目仍不稳定,核心概念在稳定版发布前可能发生破坏性变更,这一提示本身也说明团队把它当作基础设施探索而非成品工具来发布。
控制面暴露四个声明式原语,均定义在ax.io/v1alpha1接口组下。Task定义执行生命周期与沙箱资源约束,负责在隔离沙箱内运行不可信的智能体代码,并支持挂起与恢复以保存状态。Workspace负责执行前的环境装配,可以声明式地挂载Git仓库、配置MCP服务器、安装技能包,或给出一个自然语言目标交由初始化智能体去搭建工具链。
Gateway管的是出站网络策略,把沙箱内智能体的访问范围限制在明确的主机与端口白名单内,同时负责把凭据注入到对外请求中。这一层直接对应智能体在循环中反复调用外部接口、无人盯守时可能失控烧钱的场景。Model则是统一的模型配置点,集中管理服务商、模型标识、生成参数以及存放在Kubernetes密钥中的凭据。
交互方式刻意贴近已有习惯。命令行工具用Go编写,提供apply、get、describe、delete等命令,操作对象是YAML清单;watch用于流式查看任务状态变化,ssh可以直接进入运行中的沙箱排查,suspend与resume用于手动控制执行状态。对熟悉Kubernetes的工程师来说,学习曲线被压得很低。
版本0.3.0在9月20日发布,把项目重构为三个二进制组件:负责接口的ax-server、以Redis Streams为队列做水平扩展的ax-controller,以及在沙箱worker内执行任务的ax-task-runner。任务状态从Kubernetes自定义资源迁移到Redis,目的是在不给集群存储造成压力的情况下支撑百万级短任务。
项目发布后在技术社区的讨论相当分化。基础设施工程师普遍认可它解决了一个真实痛点:智能体等待模型接口或人工输入时产生的闲置成本,过去只能靠加钱扩容来掩盖。把空闲实例挂起并回收资源,是把这个成本项从账单里直接划掉。
批评的声音则集中在可用性上。要跑起AX,需要一套Kubernetes集群、ko构建工具、容器镜像仓库以及对底层运行时接口的访问权限,自定义资源与集群维护的负担并不轻。对于只想快速搭一个智能体原型的个人开发者,这套依赖明显过重。
讨论中还澄清了一个定位问题:AX是底层的执行运行时,而不是LangGraph、CrewAI那样的高层应用编排框架。它管的是任务怎么被隔离、被挂起、被限流、被恢复,不负责定义智能体之间的业务协作逻辑。两者更可能是叠加关系而非替代关系。
早期实现也暴露出一些粗糙之处,包括出站代理的连接中断、密钥管理功能较为基础等。沙箱采用gVisor隔离,这一点在安全讨论中被反复提及,因为当智能体被允许执行模型生成的代码时,爆炸半径的控制比性能更重要。
AX的出现说明行业开始为智能体准备专用基础设施,而不是继续把通用云原生方案削足适履。过去一年,关于智能体的讨论大多集中在能力与工具调用,关于它跑在什么之上的讨论很少。当企业开始同时运行成百上千个长任务智能体,调度、隔离、成本控制与审计就变成不可回避的工程问题。
另一个信号是声明式接口的选择。把智能体任务写成YAML清单,意味着任务的配置可以被版本管理、被代码审查、被回滚。对需要审计的行业来说,这种可追溯性比图形化编排界面更有价值,因为每一次权限调整和模型切换都留下了记录。
从竞争格局看,智能体基础设施可能成为下一轮分层的起点。模型能力可以通过调用第三方接口获得,但任务的隔离方式、状态存储结构、网络出口策略与密钥管理,一旦在生产环境跑通就很难更换。谁先在这些环节形成使用习惯,谁就掌握了工作负载的入口位置。
对国内团队而言,这套设计思路有直接的借鉴意义。真正的门槛不在沙箱技术本身,而在把挂起恢复、网络白名单、密钥轮换、任务状态存储这几件事组合成一个稳定的运行时。谁能先把这套组合做成低运维负担的产品,谁就更可能吃到智能体规模化部署的红利。