Gradium 开源端侧 TTS 模型 Phonon：31M 参数、64 MB，笔记本 CPU 上 7 毫秒开口，英文版 Apache 2.0 可商用

核心背景与行业痛点

语音 Agent 越来越多，但 TTS 基本靠云端 API：每次说话都要联网、按量付费、把文本发到服务器，延迟也受网络影响。端侧方案过去要么语种少，要么模型太大塞不进手机内存，要么音质不够上线。Kyutai 今年推出 Pocket TTS 后，小模型端侧语音开始可用；Gradium（由 Kyutai 核心成员创办）4 月首次公布 Phonon 并内测，这次正式开放权重。

架构亮点与底层机制

Phonon 基于 Pocket TTS 和 Kyutai 的 Mimi 编解码器：一个流匹配（flow-matching）Transformer 按每 80 毫秒一帧预测音频潜变量，再由 Mimi 解码器还原成 24 kHz 音频，边生成边流式输出。31m 指不含音频分词器的参数量。模型自带文本规范化，能正确读出电话号码、日期、温度、版本号。Gradium 还提供自研推理栈和 q8 GGUF 权重，后端覆盖 CPU（Intel、Arm、WebAssembly）、GPU（CUDA、Vulkan、Metal、WebGPU）和 NPU（Core ML、骁龙），并集成了 Arm 的 KleidiAI 加速库。

权威 Benchmark 与实测跑分对比

以下均为 Gradium 官方口径，暂无第三方独立复测：MacBook Air M5 CPU 4 线程下，Phonon 31m 首段音频 6.9 毫秒、29.9 倍实时，Kokoro 517 毫秒、10.9 倍实时，NVIDIA Magpie 239 毫秒、2.32 倍实时（Kokoro 不流式，首段即整句）。树莓派 5 上 31m 首段 38 毫秒、3.7 倍实时；骁龙 8 Elite Gen 5 上 7.5 毫秒、24 倍实时。准确率用 Gradium 自建的 500 句难句集（已在 HF 公开为 gradium/tts-hard-sentences-202610），英文 WER：31m 1.70%、40m 多语版 2.11%、40m 2.22%、Kokoro 3.50%、Kitten TTS 7.40%、NeuTTS Nano 8.71%。自然度方面，官方组织了 1,189 名听者、17,270 票的盲测，对比 Kokoro、Magpie、NeuTTS、Pocket TTS。

开发者实战落地与开箱指南

最快试用：uvx ptts --lang en --quant q8 --voice en_us_Easton "Hello from Phonon." -o speech.wav；Python 里 pip install ptts 后用 ptts.TTS("hf://gradium/phonon-31m-en", lang="en", quant="q8")，支持流式输出。浏览器用 npm 包 phonon-tts，HF Space 可直接在线听。做语音 Agent 可参考官方给的 Pipecat + Modal 纯 CPU 示例。选型注意：要商用就选英文 31m（Apache 2.0）；40m 和多语版是 CC BY-NC，仅限非商用，商用或定制需找 Gradium。