扎克伯格给个人助手装上脸和嗓子,870毫秒里要同步表情与口型

首页 / AI资讯 / 数字人

0:00
0:00
1x
定时

11月5日,Meta宣布个人AI助手Muse上线实时语音对话与表现型虚拟形象,扎克伯格随后在Threads上发了消息。功能先向美国用户推送,覆盖移动端、网页端与Mac应用,点右上角的电话图标就能开始说话,说话过程中可以随时打断。交互形态给了三档:只听声音、形象显示在对话旁边、切到全屏面对面。默认形象是个叫Jolly的卡通角色,可以换成人物、动物或其他角色,声音有数百种风格可选。

声音里同时带着"说什么"和"怎么说"

这套系统由两个模型组成,一个管说话,一个管表情。语音模型输出的不是音频,而是同时承载内容与表达方式的语音词元,音频解码器把词元变成声音。形象模型吃的是同一串词元,加上参考图像与最近若干帧的画面潜变量,实时生成表情、口型与肢体动作。两条输出共享一个来源,所以声音与画面天然同步,不需要额外的对齐步骤。

这个设计与常见的"先合成语音再驱动形象"串行方案相比,省掉了一次中间的误差传递。串行方案里,语音合成出来的节奏与情感,要靠另一个模型去猜,猜不准就出现嘴动得对但情绪不对的情况。共用一个词元流之后,情绪在源头是一致的,代价是两个模型的耦合变紧,任何一边升级都要重新对齐。对工程团队来说,这意味着语音与形象不能再由两个小组各自迭代,排期必须合并。

870毫秒与12路并发,才是这次发布的真数字

Meta AI Research给出的技术细节比产品说明更有信息量。形象生成用的是以音频为条件的扩散变换器,按短片段因果生成,每段生成完,最新的潜变量作为下一段的动作上下文,这样外观与习惯能延续,算力也被限制在可控范围。为了让这件事能实时跑,团队用了蒸馏,把每段生成所需的有引导教师评估从120次压到2次无引导学生评估,压缩约60倍,同时声称质量接近。服务容量相对两步BF16基线提升约8倍,单台GB200可以支撑12路并发实时视频生成。

最后这组数字解释了很多产品选择。12路并发意味着这是一个需要密集算力的服务,用户规模一大,成本就按路数线性上涨。输出分辨率定在448×768、25帧,也是同一个逻辑:竖屏小画面在手机上是合适的观看尺寸,而更大的画面对陪伴型交互的体验提升有限,成本却成倍增加。延迟从用户说完话算起,到第一帧音视频返回约870毫秒,这个量级接近真人对话里对方思考一下再开口的间隔,超过一秒就会明显觉得卡。

打断这件事,比画面好看更难做

实时语音的难点不在于识别,而在于打断。人说话时会抢话、会中途改主意、会说到一半停下来等反应。系统要能判断用户是在思考还是在让出话轮,还要在自己说话被打断时立刻停下并且记住说到哪。Meta的实现允许用户随时插话,助手同时继续在后台推进被委托的任务,两者并行。

这个并行是Muse从9月8日上线时就定下的模型:助手可以发邮件、订行程,关掉应用后继续干活,遇到敏感操作比如付款前会回来请求批准。语音与形象加进来之后,这套任务与审批的结构没有变,变的只是交互的入口。用户散步时口述一句安排,助手在后台做,做完回来汇报,整个过程不需要看屏幕。真正考验设计的地方在于打断之后怎么接上:用户中途改主意,助手要能停下当前动作,把已经完成的部分保留下来,再按新指令继续。这要求整个流程可中断、可恢复,而不是一条不能回头的长链。

形象为什么是卡通角色而不是真人

默认形象是一个卡通角色,这个选择不只是审美。真人形象会立刻引发两个问题:像不像,以及是谁。像不像的问题在恐怖谷区间最难处理,稍微差一点就会让人不舒服;是谁的问题更麻烦,一张具体的脸意味着肖像权、授权范围与使用期限。卡通角色绕开了这两个坑,用户可以随便换,换成动物、换成插画,甚至换成自己生成的形象,责任的边界也更清楚。还有一层现实考虑:卡通形象的容错率高,表情夸张一点显得活泼,真人形象表情夸张一点就显得假。

媒体上手后的反馈印证了这一点。《The Verge》的记者把自己的形象换成扎克伯格的样子试了试,评价是"有点诡异"。同一篇上手也提到,回答很快,但助手在查资料时会停顿。这两条反馈正好对应这类产品的两个软肋:形象的亲和度与响应的连贯性,前者靠设计,后者靠工程。

三档形态,对应三种使用距离

官方给了三种交互形态:只听声音、形象显示在对话旁边、全屏面对面。这三种不是审美偏好,而是对应三种使用距离。只听声音适合走路、做饭这类手眼都被占着的时刻,用户要的是把事交代出去,不需要看到对方;旁侧形象适合边聊边看资料,屏幕主要用来显示内容,形象缩在角落提示"它在听";全屏面对面适合练习场景,面试彩排、演讲过稿,用户需要看到对方的表情反馈,才判断得出自己讲得怎么样。

三档背后其实是一套成本分级。仅语音几乎不占视频生成算力,旁侧形象按小窗渲染,全屏才需要满分辨率满帧率。把选择权交给用户,等于把算力成本也交给了用户的选择,产品侧再用套餐额度做二次调节。这种设计在实时视频类产品里会越来越常见,因为持续生成画面的边际成本压不下去,只能让用户自己决定什么时候真的需要它。反过来说,如果三档的体验差距太大,用户会长期停在最便宜的那一档,昂贵的部分就白建了。

水印与年龄门槛,已经写进默认配置

技术说明里提到,生成的形象视频会带上不可见的Meta Video Seal水印,且不增加实时延迟。这条安排与行业趋势一致:当生成的人脸与声音可以实时互动,平台需要一条能在事后判断"这段画面是生成的"的技术线索。水印不影响观看,但对平台的审核与取证有用。

另一条限制是年龄,Muse面向18岁以上用户。同时官方提醒,技术演示里的形象不全都对应App里可选的形象,避免用户按演示的期待去用。接下来要看的落点是硬件:语音对话将登陆AI眼镜与一款叫Muse Charm的口袋设备。眼镜的难点在于摄像头与麦克风一直开着,隐私边界比手机复杂得多;口袋设备的难点在于算力与续航。这两条路走通之前,Muse的语音形态仍然是一个手机里的功能,而不是一个随身的伙伴。

素材来源:Meta官方新闻室、Meta AI Research、IT之家 发布时间:2026-11-07