AI 编程实时动态与要闻

Mistral 正式发布 Voxtral 3 语音大模型套件与实时 Voice-Agent API:端到端延迟低至 500 毫秒

Mistral AI 正式推出 Voxtral 3 语音多模态大模型家族与配套的实时 Voice-Agent API。该套件包含 40 亿参数的 Mini 转录模型、超越 Whisper 与 Gemini 3.5 的 Small 转录模型,以及基于 LiveKit 的端到端语音智能体 SDK。系统支持 50 种语言高精听写与说话人分离、跨 35+ 语言带情感标签的情感语音合成(TTS)以及 30 分钟音频专业级声音克隆。在 Artificial Analysis 独立基准评测中,Small Transcribe 3 以 2.1% 极低字错率登顶全球语音识别榜单季军,Realtime 转录单步延迟低至 500ms 以内,每分钟语音智能体调度成本低至 0.04 美元。

Mistral 正式发布 Voxtral 3 语音大模型套件与实时 Voice-Agent API:端到端延迟低至 500 毫秒

核心要点速览

  • Mistral 官方正式发布 Voxtral 3 全栈语音多模态模型家族,包含转录、情感 TTS、专业声音克隆与实时 Voice-Agent SDK
  • 在 Artificial Analysis 独立实测中,Small Transcribe 3 斩获 2.1% 极低错词率,击败 ElevenLabs Scribe v2(2.2%)与 Grok Voice 2.0(2.3%)
  • Realtime Transcribe 3 响应时间压缩至 500ms 以内,端到端完整语音 Agent 回合交互延迟突破 1 秒大关
  • 极致价格革命:Mini 转录每分钟仅需 0.0035 美元,搭配 Mistral Small 4 调度的全托管语音智能体每分钟仅 0.04 美元
阅读全文
关联模型 / 智能体 / 厂商:

Mistral 发布 Voxtral 3 语音模型家族与语音 Agent SDK:转写支持 50+ 语言、TTS 每百万字符 13 美元,可欧盟托管或自部署

10 月 20 日,Mistral 发布 Voxtral 3:语音转文字模型 Voxtral Small/Mini Transcribe 3、实时转写 Voxtral Mini Transcribe Realtime 3、语音合成 Voxtral Mini TTS 3(Voxtral Speech 3),以及基于 LiveKit 的语音 Agent SDK,把“听—思考调工具—说”串成一条流式管线,官方称每轮响应不到 1 秒。转写覆盖 50+ 语言并支持说话人分离和上下文偏置,TTS 覆盖 35+ 语言、50+ 方言,另有 30 分钟录音即可复刻音色的 Pro Voice。模型已通过 Mistral API(欧盟、美国、全球端点)上线,也可自部署。

Mistral 发布 Voxtral 3 语音模型家族与语音 Agent SDK:转写支持 50+ 语言、TTS 每百万字符 13 美元,可欧盟托管或自部署

核心要点速览

  • 多语种转写(官方口径):FLEURS 45 种语言宏平均 WER,Voxtral Small Transcribe 3 为 4.1%(指定语言)/4.0%(自动识别),与 Microsoft AI Transcribe 2 持平,优于 Scribe v2 的 4.9% 和 Whisper large-v3 的 16.0%/14.9%
  • 说话人分离(官方口径):cpWER 方面 Small 为 18.4%、Mini 为 18.6%,上一代 Voxtral Mini Transcribe 2 为 30.9%,Gemini 3.5 Transcribe 为 38.4%
  • 价格:Voxtral Mini Transcribe 3 为 4B 参数,每分钟 0.0035 美元(文档标注 Public Preview、32k 上下文);Voxtral Speech 3 每百万字符 13 美元
  • 实时转写:Voxtral Mini Transcribe Realtime 3 延迟可低于 500 毫秒;官方 FLEURS 35 语言图中 480ms 档 WER 为 6.4%,仍高于 Gemini 3.5 Realtime Transcribe 的 4.2%
  • 语音 Agent SDK 基于 LiveKit,支持 SIP 电话与 WebRTC,每个环节可单独替换 LLM、音色或语言,Pro Voice 用 30 分钟录音即可复刻音色
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Voxtral Small Transcribe 3⚡ Voxtral Mini Transcribe 3⚡ Voxtral Mini Transcribe Realtime 3⚡ Voxtral Mini TTS 3🤖 Voxtral voice agent SDK🌐 Mistral AI🌐 LiveKit

LiveKit Agents 1.8.3:Gemini 3.8 Live 默认 NON_BLOCKING、GPTLive Azure,AssemblyAI Universal 与工具 handoff 防护

LiveKit 于 2026-09-26 在 GitHub 发布 Python 包 [email protected](PyPI livekit-agents 1.8.3):Google Gemini 3.8 Live 路径默认 tool_behavior=NON_BLOCKING,并在 text API 上以 parameters_json_schema 发送 FunctionTool schema;OpenAI 侧新增 GPTLiveModel.with_azure,Realtime inference client 迁入 agents core;STT 增加 AssemblyAI universal-3-6-pro 与 language_confidence,ElevenLabs realtime chunk duration 可配;语音栈修复并行工具取消 handoff、按 call_id 配对 tool output、fallback/stream adapter 原样转发帧,以及 LiveAvatar 打断与插件注册。同日 JS @livekit/[email protected] 强化 agent_turn 遥测与自适应打断。

LiveKit Agents 1.8.3:Gemini 3.8 Live 默认 NON_BLOCKING、GPTLive Azure,AssemblyAI Universal 与工具 handoff 防护

核心要点速览

  • 发版:[email protected] / PyPI 1.8.3;JS 同步 @livekit/[email protected]
  • Gemini:3.8 Live 默认 NON_BLOCKING tool_behavior;text API 用 parameters_json_schema 传 FunctionTool
  • OpenAI:GPTLiveModel.with_azure;Realtime inference client 迁入 agents core
  • STT:AssemblyAI universal-3-6-pro + language_confidence;ElevenLabs realtime chunk duration 可配
  • 语音正确性:并行工具不再取消 agent handoff;tool output 按 call_id 配对;Fallback/StreamAdapter 原样转发帧
阅读全文
关联模型 / 智能体 / 厂商:

xAI 把 Grok Voice 接入 LiveKit:STT、Grok 4.3 与 TTS 同会话级联,全链路 ZDR

SpaceXAI 宣布可在 LiveKit 中使用 Grok Voice 模型构建语音代理,并支持零数据保留(ZDR)。LiveKit 演示了端到端患者预问诊代理:Grok STT → Grok 4.3 → Grok TTS 在同一 AgentSession 中级联,无需多套 API Key 与账单。开发者可用三条模型字符串拼出语音智能体,适合客服、预问诊与工具调用场景。

核心要点速览

  • Grok Voice 可在 LiveKit 构建语音代理,全链路支持 ZDR。
  • STT、Grok 4.3 与 TTS 可在同一 AgentSession 级联,无需多套密钥与账单。
  • 官方示例为患者预问诊,面向可调工具的实时语音智能体。
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容