AI 编程实时动态与要闻

Fireworks 首届 Forge 大会发布一批新品:Ultra-fast 推理公测达 1500 tokens/秒,Background Mode 半价,Nexus Desktop 接入 Codex 与 Claude Desktop,Sovereign 私有部署预览

开源模型推理平台 Fireworks 11 月 3 日在首届 Forge 大会上发布一批新产品:基于 NVIDIA Blackwell 的 Ultra-fast 进入公测,在 DeepSeek V4.1 Flash 上最高 1500 tokens/秒,30 轮 Agent 任务从 1 分钟降到 8 秒;可等待任务的 Background Mode 半价;新增多日 Prompt 缓存和更高限流。Nexus Desktop 把开源模型路由带进 Codex app、Claude Desktop 和 OpenCode,Pro 每月 8 美元起;还有 No Eval、LoRA 无服务器推理、Fireworks Sovereign 私有部署等,并宣布 60+ 伙伴的 Frontier Ecosystem。

Fireworks 首届 Forge 大会发布一批新品:Ultra-fast 推理公测达 1500 tokens/秒,Background Mode 半价,Nexus Desktop 接入 Codex 与 Claude Desktop,Sovereign 私有部署预览

核心要点速览

  • Ultra-fast 公测:基于 NVIDIA Blackwell,在 DeepSeek V4.1 Flash 上最高 1500 tokens/秒;官方基准中 30 轮 Agent 任务耗时从 1 分钟降到 8 秒(Fireworks 官方博客)
  • 省钱选项:Background Mode 对可等待任务半价;多日 Prompt 缓存降低反复恢复上下文的成本;更高的 serverless 限流和 Elastic Burst 已正式可用
  • Nexus Desktop 上线:开源与闭源模型按个人路由,可在 Codex app、Claude Desktop、OpenCode 中使用;Pro 每月 8 美元起,Teams 每席每月 10 美元起
  • 训练侧:No Eval 私测,把生产 trace 转成任务评测;LoRA 无服务器推理公测,先支持 GLM 5.3 Flash,按 token 计费、空闲不收费;Muse Glimmer 30B 免费训练至 11 月 30 日
  • 企业侧:Fireworks Sovereign 私测,把推理引擎部署进客户自己的云或机房;官方称已在客户环境管理超过 2.5 万块 GPU;同时宣布 60+ 伙伴的 Frontier Ecosystem
阅读全文

Anthropic Messages API 推出 message threads 公测:服务端暂存对话、每轮只发新消息,Claude Code 百万 token 请求首 token 延迟降约 35%

Anthropic 11 月 2 日(美国时间)在 Messages API 上线 message threads 公测(beta 头 message-threads-2026-08-12)。API 在服务端暂存对话,首轮发完整对话建线程,之后每轮只发新消息和上一条回复的 id。官方称 Claude Code 已默认对多数用户启用,500K–1M token 请求的首 token 延迟中位数降约 35%,长对话请求体中位数从约 800 KB 降到 1.8 KB。线程空闲 5 分钟过期,价格和限速不变。

Anthropic Messages API 推出 message threads 公测:服务端暂存对话、每轮只发新消息,Claude Code 百万 token 请求首 token 延迟降约 35%

核心要点速览

  • 官方口径:Claude Code 中 500K–1M token 请求的首 token 延迟(TTFT)中位数降低约 35%。
  • 长对话请求体中位数从约 800 KB 降到约 1.8 KB,每轮只上传新消息和 previous_message_id。
  • 线程最后一次请求后 5 分钟过期,最迟 1 小时内删除;过期返回 404 thread_not_found,需重放完整对话。
  • 价格和限速不变;不支持 Message Batches、token 计数、按需压缩,也不符合 ZDR 和 HIPAA。
  • 可用于 Claude API、Claude Platform on AWS、Google Cloud(Anthropic 托管)和 Microsoft Foundry,SDK 提供 thread 助手。
阅读全文
关联模型 / 智能体 / 厂商:

Kimi 官方就 K3.1 Pro 订阅限流与额度误耗致歉:全体订阅用户一次性返还 25% 月度额度,并下调子 Agent 调用与输出长度

月之暗面官方账号 @Kimi_Moonshot 在 UTC 2026-10-25 20:14 发帖(原帖),承认 K3.1 Pro 订阅计划出现限流和不必要的额度消耗,称「这是我们的问题,本应更早修复」。补偿方案:所有计划的每位订阅用户获得一次性用量重置,返还 25% 月度额度(已用不足 25% 的直接清零),约等于一周用量,用量条将在太平洋时间当天结束前更新。官方同时调整了计划参数,减少不必要的子 Agent 调用和输出长度,让额度更耐用。

核心要点速览

  • 补偿力度:一次性返还 25% 月度额度,约等于 1 周用量(官方原帖)
  • 已用不足 25% 的用户用量直接清零,覆盖所有订阅计划
  • 生效时间:用量条在太平洋时间 10-25 当天结束前更新(约新加坡时间 10-26 15:00)
  • 根因方向:官方称将减少不必要的子 Agent 调用和输出长度,并调整计划参数
  • 背景:K3.1 Pro 于 10-23 发布,API 价格 $2/$10 每百万 token(官方口径)
阅读全文
关联模型 / 智能体 / 厂商:

Claude Opus 5.5 fast mode 退出研究预览并取消候补:同一模型输出最高提速 2.5 倍,定价 $8/$40 每百万 token

Anthropic 于 2026-10-15 宣布 Claude Opus 5.5 的 fast mode 退出研究预览、取消候补:无需申请,也不再需要 fast-mode-2026-02-01 beta header,请求加 speed: "fast" 即可。同一模型权重,官方称每秒输出 token 最高提升 2.5 倍,价格为标准价的 2 倍($8/$40)。Start/Build/Scale 档默认获得 fast 限流;微软 Foundry(Azure 托管)已可用,Google Cloud 即将上线。Opus 5 与 Opus 4.8 的 fast mode 仍为研究预览。

核心要点速览

  • 定价:Opus 5.5 fast 为 $8/$40 每百万 token,是标准 $4/$20 的 2 倍;Opus 5/4.8 fast 为 $10/$50 且仍属研究预览(官方文档)
  • 速度:官方口径最高 2.5 倍 OTPS,提升的是输出速度而非首 token 延迟;同一权重、能力不变
  • 门槛:无需申请、无需 beta header;Start/Build/Scale 三档默认获得独立 fast 限流(发布说明)
  • 平台:Claude API(含 Managed Agents)与 Microsoft Foundry Azure 托管部署可用,Google Cloud 即将上线;Batch API、Priority Tier、Claude Platform on AWS 不支持
  • 坑点:快/标准档切换会使 prompt cache 失效,超限返回 429,可读 usage.speed 确认实际档位
阅读全文
AD赞助内容

Factory 推出 Teams 自助计划:每队 $60/月 + 每席 $40/月(最多 10 席),集中计费共享 Droid

Factory 于 2026-09-23 宣布 Teams:自助套餐可添加多名成员并集中计费,将修 bug、测试与迁移委派给 Droid。定价为每队 $60/月 + 每席 $40/月,最多 10 席;每人保留独立 Pro 速率限额。Teams 页可申请审核制 $500 抵用金。

Factory 推出 Teams 自助计划:每队 $60/月 + 每席 $40/月(最多 10 席),集中计费共享 Droid

核心要点速览

  • 定价:$60/月/队 + $40/月/席,上限 10 席(Pricing)
  • 每位成员保留独立 Pro rate limits
  • 定位:Droid 扛修复/测试/迁移,人类定方向(Teams)
  • 促销:Teams 页可申请 $500 抵用金(审核制)
  • 合规/气隙场景继续看 Private/VPC,而非硬套 10 席 Teams
阅读全文
关联模型 / 智能体 / 厂商:

美 NSA、CISA 与 FBI 联合发布前沿模型反蒸馏防御指南,筑牢云端知识产权防线

面对全球范围内日益频繁的工业级大模型能力逆向抓取与黑盒蒸馏攻击,美国国家安全局(NSA)、网络安全和基础设施安全局(CISA)与联邦调查局(FBI)联合发布技术防御指南。文件建议各大云厂商在 API 网关处强制上线动态语义指纹水印、非人类 prompt 拓扑过滤与异常调用熔断机制。

核心要点速览

  • 官方权威机构首度针对「跨国工业级 AI 模型知识蒸馏」发布联合安全红线
  • 敦促前沿实验室建立基于动态隐形水印与查询行为熵分析的主动防御体系
  • 标志着 AI 领域的知识产权保护与对抗性安全博弈正式上升为国家级网络安全议题
阅读全文
关联模型 / 智能体 / 厂商:

OpenRouter 推出编程专用智能降级路由 (Smart Fallback):主力模型限流时毫秒级平滑切换备选端点

AI 模型聚合平台 OpenRouter 针对高并发编程智能体推出了 Smart Fallbacks 功能。开发者可以在统一 API 接口中配置备选模型列表(例如 Claude 3.7 Sonnet → GPT-5.6 Sol → DeepSeek-V3),当上游提供商发生限流、服务降级或超时,路由层在 50ms 内自动平滑重试备选模型,确保长时间运行的编码任务零中断。

核心要点速览

  • 统一 API 端点支持多厂商主力模型与备选模型的智能降级路由。
  • 上游限流或服务故障时 50ms 内无感切换,保障长程编程智能体任务不中断。
  • 支持按模型推理延迟、单价与吞吐量设定自定义切换策略。
阅读全文