西雅图初创公司 Nuance Labs 11 月 9 日发布 Nuplex 1.0(Nuance Full-duplex),一个能同时“听”和“说”的全双工音视频基础模型,以及基于它的第一个 AI 形象 Emma。Emma 在用户说话时就会点头、微笑、用视线示意轮到谁说话,而不是等对方说完才回应。官方在 1,785 个取自真实对话录音的问题上测试:Nuplex 的回复时机与原对话中真人的回复时机重合 89%,第二名系统只有 35%。Emma 免注册即可在浏览器视频聊天,Nuplex Beta API 也已开放,但官方有意做了很多限制:不能克隆真人、视频带水印、仅英语、仅限 18 岁以上,医疗和未成年人场景暂不开放。

核心要点速览

  • ✓官方口径:在 1,785 个真实对话问题上,Nuplex 回复时机与真人重合 89%,第二名系统为 35%;对比对象包括 PersonaPlex、Moshi、GPT-Live、Gemini Live
  • ✓研发 18 个月;Emma 的脸和声音授权自一名真人演员,由演员参与录制真实的倾听、反应和说话方式,而不是生成“平均脸”
  • ✓Nuplex Beta API 可用自己的 prompt 设定人设,并在通话中把长任务交给开发者的工具在后台执行;Beta 期间语言模型由官方托管
  • ✓限制:不能上传人脸或声音、不能克隆真人,API 视频带可见水印;仅英语、仅 18 岁以上,医疗和未成年人场景暂不开放
  • ✓开放地区:美国(科罗拉多、康涅狄格、伊利诺伊、得克萨斯除外)、欧盟、英国、加拿大(魁北克除外)
前苹果研究员创办的 Nuance Labs 发布全双工音视频基础模型 Nuplex 1.0 与首个 AI 形象 Emma:边听边用表情回应,官方口径回复时机与真人重合 89%,Beta API 同步开放
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

现在的语音和数字人产品大多是“半双工”的:等用户说完,再开口回答;说话时画面里的脸要么面无表情地盯着你,要么只做固定的口型动画。真人对话不是这样,人会在对方说话时点头、皱眉、用眼神示意“该你了”。Nuance Labs 由前苹果研究员马方畅(Fangchang Ma,MIT 博士)等人创办,认为数字人缺的不是更逼真的脸,而是“对的时机”。

架构亮点与底层机制

Nuplex 是全双工音视频基础模型,会同时接收用户的声音和摄像头画面,并同步生成自己的声音和面部视频,不需要等用户停下来。官方把视线当作轮流说话的信号,让 Emma 在倾听时也有回应。Emma 的脸和声音来自一名授权真人演员,演员参与录制了自己真实的倾听和反应方式;性格也是专门设计的,会表达观点、会反对用户,而不是一味附和。推理部分仍由一个大语言模型负责,Nuplex 可以对接任意语言模型,但 Beta 期间由官方托管。官方未公布参数量和训练数据规模。

权威 Benchmark 与实测跑分对比

以下为官方/厂商口径:官方从自己录制的真实对话中取了 1,785 个问题,比较各系统开始回复的时间与原对话中真人回答的时间,Nuplex 重合 89%,第二名只有 35%。官方说明,PersonaPlex、Moshi 等开源模型偏向“抢答”,GPT-Live、Gemini Live 偏慢,而且后两者经公开 API 测得,含网络延迟。官方也承认,音视频全双工领域还没有能真实反映体验的基准,第三方独立评测暂未公布。

开发者实战落地与开箱指南

打开 emma.nuancelabs.ai 即可免注册视频聊天,建议戴耳机,背景噪音会影响轮流说话。开发者可在官方平台申请 Nuplex Beta API,用 prompt 设定人设,并让人设在聊天时把长任务交给自己的工具。已知不足:只支持英语,偶尔抢话或停顿过长,口型和视线在网络差时会出错,摄像头画面理解仍较初级。适合面试练习、客服、陪练等需要“面对面”感的场景,医疗和教育类暂不可用。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读Block 发布 Dessa:只用人类对话语音从零训练的全双工语音模型,可在 MacBook Pro M4 Max 本地实时运行
立即阅读→