AI 编程实时动态与要闻

月之暗面发布 Kimi K3.1 Pro:2.8T 总参 / 104B 激活的开放权重 MoE,1M 上下文,Terminal-Bench 4.0 达 65.7%,API 降至 $2/$10,权重 11 月 4 日前开放

2026-10-23(UTC 17:15,SGT 10-24 01:15),Kimi 官方账号 @Kimi_Moonshot 正式发布 Kimi K3.1 Pro,同时推出快 2–3 倍的 K3.1 Pro Highspeed,已在 Kimi.ai、Kimi Work、Kimi Code 和 Kimi API 上线,完整权重承诺 2026-11-04 前开放。官方技术博客称它是 K3 的后训练版本(更大规模多领域联合 RL),MoE 总参 2.8T、激活 104B,1M token 上下文,多模态。厂商口径跑分:Terminal-Bench 4.0 65.7%(GPT-6 Astra 58.2%、Claude Opus 5.5 66.4%),BenchCAD 带工具 92.7%。Kimi API 定价页显示 kimi-k3.1-pro 输入 $2、输出 $10、缓存命中 $0.20 每百万 token,低于 K3 的 $3/$15。

月之暗面发布 Kimi K3.1 Pro:2.8T 总参 / 104B 激活的开放权重 MoE,1M 上下文,Terminal-Bench 4.0 达 65.7%,API 降至 $2/$10,权重 11 月 4 日前开放

核心要点速览

  • MoE 总参 2.8T、激活 104B,1M token 上下文,多模态;完整权重承诺 2026-11-04 前开放(官方博客)
  • 厂商口径:Terminal-Bench 4.0 65.7%,高于 GPT-6 Astra 的 58.2%,略低于 Claude Opus 5.5 的 66.4%;内部 Kimi Code Bench 3.0 长程 61.2%(K3 为 55.95%)
  • API 定价:kimi-k3.1-pro 输入 $2 / 输出 $10 / 缓存命中 $0.20 每百万 token;Highspeed 版 $4 / $20(定价页)
  • 内部幻觉压力测试 Kimi Hallu Bench Hard:声明级幻觉率从 K3 的 23.4% 降到 8.3%(官方注明不代表日常错误率)
  • 开放权重版在中期训练和 RL 阶段移除了网络安全相关数据:xdev-bench-hard pass@3 从未处理版的 90.5% 降到 81.0%
阅读全文
关联模型 / 智能体 / 厂商:

MLE-Bench 奖牌率从 37.9% 飙至 72.7%!上海 AI Lab 开源 35B MoE 机器学习工程智能体 MLExpert,追平 Kimi-K3 与 GLM-5.3

为推动‘AI 研发 AI(AI4AI)’向模型自主导向演进,上海 AI 实验室(InternScience)开源了 35B 混合专家(MoE)机器学习工程智能体模型 MLExpert(arXiv:2610.22344)。通过构建 Kaggle-MLE Factory 可执行任务工厂、分层智能体 SFT 以及窗口化交互强化学习(WIRL),MLExpert 在 MLE-Bench Lite 上将基座模型的平均奖牌率从 37.9% 暴拉至 72.7%,以仅 35B 总参追平超大尺寸前沿模型 Kimi-K3 与 GLM-5.3,并成功泛化至智能体脚手架优化与算法调优。

MLE-Bench 奖牌率从 37.9% 飙至 72.7%!上海 AI Lab 开源 35B MoE 机器学习工程智能体 MLExpert,追平 Kimi-K3 与 GLM-5.3

核心要点速览

  • MLE-Bench Lite 奖牌率狂飙至 72.7%:将基座模型平均奖牌率从 37.9% 提升近一倍,以 35B MoE 轻量规模比肩 Kimi-K3 与 GLM-5.3
  • 首创窗口化交互强化学习(WIRL):将两次实验反馈之间的多轮决策视为独立执行窗口分配结果奖励,支持长轨迹未结束即异步更新策略
  • 泛化赋能 Agent 脚手架优化:习得的实验迭代能力零样本迁移至 NatureBench Lite、智能体脚手架调优与算法优化
阅读全文

Microsoft×Hugging Face 开源 ThinkingBox:507 项有状态业务工作流,按数据库终态而非「说完了」打分

微软 Copilot Studio 与 Hugging Face 于 2026-10-03 联合发布 ThinkingBox 沙箱与 ThinkingBox-Bench(507 题×每题 20 次),经隔离 MCP 会话后用可执行终态/副作用检查打分,并接入 OpenEnv。官源榜:Claude Opus 5.5 总体 pass@1 67.16%;Kimi-K3 pass@20 93.89% 但全对仅 13.41%——「一次成功≠可靠」。框架 MIT:microsoft/thinkingbox;数据 CDLA:microsoft/thinkingbox-data;论文 arXiv:2608.19741。

核心要点速览

  • 官源:HF 博客 2026-10-03 + OpenEnv docs + microsoft/thinkingbox(MIT)+ thinkingbox-data(CDLA)+ arXiv:2608.19741
  • 评测对象:507 有状态业务工作流(零售/保险/旅宿/新银行 IT/咨询),每题独立重置 MCP 会话跑 20 次
  • 核心主张:终态数据库与副作用是证据;约 67% 失败轨迹仍「干净结束」却写错字段/多副作用
  • 榜面:Opus 5.5 pass@1 67.16%;Kimi-K3 最广(pass@20 93.89%)但 20/20 仅 13.41%;可靠性成本 GPT-5.4≈$6.80/可依赖题
  • 落地:clone OpenEnv + [email protected] → Typesense + MCP Session Proxy → thinkingbox-eval
阅读全文

llama.cpp v0.4.1:新增 Maple/Hy4/Spark2.5,修 qwen3-coder 解析并升级 ggml 0.24.0

官方 @ggml_org 发布 llama.cpp v0.4.1:新增 Maple 20B-A1B、Tencent Hy 4、Spark2.5 等架构支持;改进 Kimi-K3 状态回滚、JSON schema、qwen3-coder 复杂类型解析与 MCP/多模态相关修复,并将 ggml 更新至 v0.24.0。发布说明见 GitHub ggml-org/llama.cpp releases/tag/v0.4.1。

核心要点速览

  • 官方发布 llama.cpp v0.4.1,支持 Maple 20B-A1B、Tencent Hy 4、Spark2.5。
  • 改进 qwen3-coder 解析、Kimi-K3 回滚、JSON schema 与多模态/服务端稳定性。
  • ggml 升级到 v0.24.0;发布页 ggml-org/llama.cpp v0.4.1。
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

vLLM 0.29.0:Model Runner V2 成默认,含 Mamba 前缀缓存与投机解码 API 统计

vLLM 发布 v0.29.0,Model Runner V2 成为所有模型的默认运行器。本版累计 594 次提交、277 名贡献者。亮点包括:Kimi-K3 再优化、DeepSeek-V4 共享专家并入 MegaMoE、Mamba 前缀缓存保留内部 prefill 检查点(TTFT 约提升 9–25%)、投机解码经 API 报告每请求接受率,以及面向 RL 权重同步的 sharded_rdt P2P 后端;并新增 Hy4-preview、Qwen3.8-Flash-Next、GraniteSWA、NemotronH Omni Reasoning V3 等模型支持。

核心要点速览

  • Model Runner V2 成为所有模型的默认 runner。
  • Mamba 前缀缓存使 TTFT 约提升 9–25%;投机解码可经 API 查看接受率。
  • DeepSeek-V4 MegaMoE 融合与 RL sharded_rdt P2P 权重同步,并扩展多款新模型。
阅读全文
关联模型 / 智能体 / 厂商:

vLLM 0.28.0 正式发布:Kimi-K3 全栈优化、DeepSeek-V4 稀疏 MLA 与投机解码首 Token 提速 65%

开源高性能推理引擎 vLLM 发布 0.28.0 大版本。汇聚 270 位开发者的 584 次代码提交,包含 Kimi-K3 全栈融合算子、DeepSeek-V4 稀疏 MLA 端到端支持、自适应投机解码预算(TTFT 提升达 65%)以及 Model Runner V2 分离架构。

核心要点速览

  • 投机解码成为一等优化利器:集成 DFlash2 与 DSpark 置信度调度,使端到端首 Token 延迟缩短 55%–65%;
  • 国产顶尖架构首日原生支持:深度适配 Kimi-K3 与 DeepSeek-V4 稀疏多头注意力机制(MLA);
  • 硬件后端全面开花:包含 NVIDIA SM12x FlashInfer XQA、AMD ROCm 融合内核及 Intel XPU 适配。
阅读全文
关联模型 / 智能体 / 厂商:

vLLM 0.28.0 正式发布:Kimi-K3 全栈优化、DeepSeek-V4 稀疏 MLA 与分层磁盘 KV 缓存

高并发推理引擎 vLLM 迎来 0.28.0 重磅更新,汇总 270 位开发者的 584 项提交。全面优化 Kimi-K3 与 DeepSeek-V4 稀疏 MLA(覆盖 Decode、MTP 与 DSpark 推测解码),Model Runner V2 支持 E/P/D 分离与权重卸载,KV Cache 新增磁盘分层存储。

核心要点速览

  • 引入自适应推测 Token 预算机制,将端到端首字延迟(TTFT)大幅降低 55–65%;
  • DeepSeek-V4 稀疏 MLA 实现全链路打通,Kimi-K3 共享专家分片技术使单卡节省约 17 GiB 显存;
  • KV Cache 引入内存-磁盘分层架构,默认批处理 Token 限制倍增至 16384,全面支持跨硬件平台(NVIDIA、AMD、Intel XPU、CPU)。
阅读全文
关联模型 / 智能体 / 厂商: