开源模型推理平台 Fireworks 11 月 3 日在首届 Forge 大会上发布一批新产品:基于 NVIDIA Blackwell 的 Ultra-fast 进入公测,在 DeepSeek V4.1 Flash 上最高 1500 tokens/秒,30 轮 Agent 任务从 1 分钟降到 8 秒;可等待任务的 Background Mode 半价;新增多日 Prompt 缓存和更高限流。Nexus Desktop 把开源模型路由带进 Codex app、Claude Desktop 和 OpenCode,Pro 每月 8 美元起;还有 No Eval、LoRA 无服务器推理、Fireworks Sovereign 私有部署等,并宣布 60+ 伙伴的 Frontier Ecosystem。

核心要点速览

  • ✓Ultra-fast 公测:基于 NVIDIA Blackwell,在 DeepSeek V4.1 Flash 上最高 1500 tokens/秒;官方基准中 30 轮 Agent 任务耗时从 1 分钟降到 8 秒(Fireworks 官方博客)
  • ✓省钱选项:Background Mode 对可等待任务半价;多日 Prompt 缓存降低反复恢复上下文的成本;更高的 serverless 限流和 Elastic Burst 已正式可用
  • ✓Nexus Desktop 上线:开源与闭源模型按个人路由,可在 Codex app、Claude Desktop、OpenCode 中使用;Pro 每月 8 美元起,Teams 每席每月 10 美元起
  • ✓训练侧:No Eval 私测,把生产 trace 转成任务评测;LoRA 无服务器推理公测,先支持 GLM 5.3 Flash,按 token 计费、空闲不收费;Muse Glimmer 30B 免费训练至 11 月 30 日
  • ✓企业侧:Fireworks Sovereign 私测,把推理引擎部署进客户自己的云或机房;官方称已在客户环境管理超过 2.5 万块 GPU;同时宣布 60+ 伙伴的 Frontier Ecosystem
Fireworks 首届 Forge 大会发布一批新品:Ultra-fast 推理公测达 1500 tokens/秒,Background Mode 半价,Nexus Desktop 接入 Codex 与 Claude Desktop,Sovereign 私有部署预览
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

Agent 一个任务往往要连续调用模型几十次,每次延迟叠加起来让用户等很久,并发 Agent 越多成本越高;企业又希望用开源模型按自家数据定制,同时满足数据驻留和审计要求。11 月 3 日 Fireworks 举办首届 Forge 大会,官方博客一次性发布了针对这些痛点的新品。

架构亮点与底层机制

推理侧,Ultra-fast 基于 NVIDIA Blackwell GPU,面向延迟敏感任务;Background Mode 给可以等的任务(如评测数据生成、夜间研究)提供半价运行时;多日 Prompt 缓存让暂停后恢复的长驻 Agent 不必重复付上下文费用。Nexus 把开源和闭源模型做个性化路由,现有 CLI 之外新增 Nexus Desktop。Fireworks Sovereign 把推理引擎部署到客户自己的云、neocloud 或机房,推理和训练都在客户环境内运行。

权威 Benchmark 与实测跑分对比

以下均为 Fireworks 官方数据:Ultra-fast 在 DeepSeek V4.1 Flash 上最高 1500 tokens/秒,30 轮 Agent 任务从 1 分钟降到 8 秒;自家模型 Ember-1 在其评测中比 Kimi K3 少用约 40% token、质量相当。第三方独立复现官方未公布。

开发者实战落地与开箱指南

想压延迟的 Agent 团队可在 Fireworks 申请 Ultra-fast 公测;批量任务改走 Background Mode 可省一半。用 Codex app、Claude Desktop 或 OpenCode 的个人和团队可试 Nexus Desktop,Pro 每月 8 美元起。做微调的团队可在 11 月 30 日前免费在 Muse Glimmer 30B 上做 SFT、DPO 和强化学习,训练好的 LoRA 可直接按 token 在 serverless 上调用。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读Inworld Inference 全面开放:专为消费级 AI 打造的开源模型推理 API,Gemma 4 26B p95 首 token 比 OpenRouter 中位供应商快 7.8 倍
立即阅读→