LiveKit 于 2026-09-26 在 GitHub 发布 Python 包 [email protected](PyPI livekit-agents 1.8.3):Google Gemini 3.8 Live 路径默认 `tool_behavior=NON_BLOCKING`,并在 text API 上以 `parameters_json_schema` 发送 FunctionTool schema;OpenAI 侧新增 `GPTLiveModel.with_azure`,Realtime inference client 迁入 agents core;STT 增加 AssemblyAI `universal-3-6-pro` 与 `language_confidence`,ElevenLabs realtime chunk duration 可配;语音栈修复并行工具取消 handoff、按 call_id 配对 tool output、fallback/stream adapter 原样转发帧,以及 LiveAvatar 打断与插件注册。同日 JS `@livekit/[email protected]` 强化 agent_turn 遥测与自适应打断。

核心要点速览 (Key Takeaways)

  • ✓发版:[email protected] / PyPI 1.8.3;JS 同步 @livekit/[email protected]
  • ✓Gemini:3.8 Live 默认 **NON_BLOCKING** tool_behavior;text API 用 `parameters_json_schema` 传 FunctionTool
  • ✓OpenAI:`GPTLiveModel.with_azure`;Realtime inference client 迁入 agents core
  • ✓STT:AssemblyAI `universal-3-6-pro` + `language_confidence`;ElevenLabs realtime chunk duration 可配
  • ✓语音正确性:并行工具不再取消 agent handoff;tool output 按 call_id 配对;Fallback/StreamAdapter 原样转发帧
🔬

深度技术解析与实战评估

核心背景与行业痛点

实时语音 Agent 要在「模型工具调用 / 打断 / 多厂商 STT·TTS」之间保持低延迟与语义正确:Gemini Live 若默认阻塞式 tool_behavior,会拉长可听停顿;Azure 上的 GPT Live 需要一等封装;并行工具一旦误取消 handoff,多 Agent 转接会丢上下文;Fallback/Stream 适配器若改写音频帧,音色与时间戳都会漂。生产环境还要求 STT 暴露语言置信度,并对 ElevenLabs 等 realtime 分片长度做可配置调优。

架构亮点与底层机制

[email protected](2026-09-26)将 Gemini 3.8 Live 默认 tool_behavior 设为 NON_BLOCKING,并在 text API 以 parameters_json_schema 发送 FunctionTool schema;新增 GPTLiveModel.with_azure,把 OpenAI Realtime inference client 迁入 agents core。STT:AssemblyAI universal-3-6-pro 进入模型字面量,transcript 暴露 language_confidence;ElevenLabs realtime chunk duration 可配。语音栈:并行工具不再取消 agent handoff;复制 chat context 时按 call_id 配对 tool output;FallbackAdapter/StreamAdapter 原样转发内层帧;LiveAvatar 尊重 agent.state_updated 并修复打断/插件注册。同日 JS @livekit/[email protected] 强化 agent_turn 遥测与自适应打断。

权威 Benchmark 与实测跑分对比

本版发行说明未给出端到端延迟或 WER 公开跑分,属于集成与正确性发布。建议回归:Gemini Live 工具回合是否不再无谓阻塞、Azure GPT Live 连通、并行 tool→handoff 是否保留、AssemblyAI universal-3-6-pro 词级时间戳是否驱动打断,以及 fallback 路径音频是否与直连路径帧对齐。

开发者实战落地与开箱指南

pip install -U livekit-agents==1.8.3,对照 Agents 文档 与 Realtime 模型 启用 Gemini 3.8 Live / Azure GPT Live;需要 JS 遥测时对齐 @livekit/[email protected]。发行页:GitHub,包页:PyPI。