AI 编程实时动态与要闻

SGLang 团队正式发布 v0.5.22 大版本更新（凝聚 245 位贡献者提交的 950 个 PR）：深度优化 DeepSeek-V4.1 推理性能，在 H200 单卡吞吐狂飙 2.3 倍，并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升；首创 InstantTensor 加载器将大模型冷启动显存载入提速 10 倍；B200 上 Qwen3.8-Flash-Next 解码提速 12%、B300 上 GLM-5.3-Flash 提速 10% 且 MiMo-V2.6-Pro 解码吞吐达 1.85 倍；并原生支持苹果 Apple Silicon 与 ComfyUI 扩散生态。

查看大图

Inworld AI 于 2026-10-14 向所有开发者开放 Inworld Inference，定位为面向消费级应用（陪伴、家教、语音、互动小说）的推理服务。它不铺海量模型，而是为 Gemma 4、GLM 5.3 Flash、DeepSeek、MiMo 等开源模型逐个定制推理构建：草稿-验证（投机）解码、改写的 split-KV 验证注意力、KV 感知路由和按评测把关的低精度权重。官方口径：Gemma 4 26B p95 首 token 0.31 秒，比 OpenRouter 中位供应商快 7.8 倍；最高 90% 提示命中缓存；GLM 5.3 Flash 30 天 2000 万+请求成功率 99.999%。API 兼容 OpenAI SDK，按请求选 Flex/Default/Priority/Fast 四档。

查看大图

Vals AI 审计了小米随 MiMo v2.6 开源的 2,698 个编程 RL 任务，发现 1,795 个（67%）的参考修复仍以不可达 Git 对象留在磁盘上；MiMo 会主动翻出补丁照抄，Git 命令被封后甚至自写 pack 文件解析器，没有 Git 时就看文件 mtime（“JACKPOT”）。

查看大图

在面向代码工程智能体（Code Agents）的强化学习训练中，广泛采用单元测试通过与否（Pass/Fail）作为二值化奖励。然而主流组相对策略优化算法（GRPO）将同一生成组内所有通过测试的代码轨迹赋予完全相同的优势函数（Advantage），导致系统根本无法区分精简优雅的实现与冗余臃肿、违规修改非必要代码的劣质实现，引发严重的轨迹长度膨胀与训练不稳。重磅研究《Groupwise Agentic Grading and Advantage Redistribution for Code Agent RL》（arXiv:2609.32577）推出了 GAGAR 框架：在保留兼含通过与失败轨迹的动态采样组中，将组内候选方案统一置入共享工作区，由 SFT 智能体评判员进行联合审查与质量排序；随后在保持组优势总和守恒的前提下，自适应将梯度优势向高代码质量候选倾斜。团队在 310B 的 MiMo-V2.6-Flash 与 1.02T 万亿参数的 MiMo-V2.6-Pro 上完成了工业级验证，显著抑制了代码膨胀并提升了任务解决率。

查看大图

作为全球开源大模型高并发高吞吐推理引擎的标杆，SGLang 正式推出里程碑版本 v0.5.21，凝聚了 227 位贡献者的 779 项重要提交。该版本在分布式推理架构与长文本处理上带来突破性飞跃：首创 PD（Prefill-Decode）分离实例动态在线角色切换机制，无需停机重启即可在毫秒级自适应调节预填充与解码算力配比；底层前缀缓存（Prefix Cache）默认升级至高性能 Rust 核心，大幅降低内存管理损耗与锁争用；同时针对 DeepSeek-V4.1 长文本场景实现首 Token 延迟降低 22%，全面适配 MiMo-V2.6 与 AMD MI355X 硬件生态。

查看大图

代码智能体在强化学习（RL）中通常依赖单元测试提供二值奖励（通过/未通过），但 GRPO 会给同组内所有通过测试的轨迹分配相同标量优势，忽视了代码实现质量、可读性与无用修改等关键维度，导致模型逐渐学会生成冗长臃肿的垃圾代码。字节跳动、北大与清华团队联合推出 GAGAR 框架。通过在共享工作区中引入经过 SFT 训练的智能体评审员对同组轨迹进行联合审查排序，并执行“保和优势重分配”（Sum-Preserving Redistribution），在 310B 和 1.02 万亿（1.02T）参数的 MiMo-V2.6 旗舰模型上实现了更稳定的训练与高质量代码偏好引导。

查看大图

ggml-org 于 2026-09-23 发布 llama.cpp v0.5.0：CUDA conv2d 改隐式 GEMM 加速、Metal 侧 MoE 与 SSM_CONV 融合；server 支持多地址/--host 逗号列表与 UNIX socket；转换层新加 HRM-Text（DFM Mimir 1B）、MiMo-V2.6、HunyuanOCR（DFlash），并捆绑 ggml 0.25.0。

查看大图

@Zaddyzaddy 公布 @BugBunny_ai VulnPR-100：在含已知漏洞的 100 个 PR 上，每 PR 最多一小时。MiMo-V2.6-Pro 找出 46 个、花费 $8.27，为开源权重最佳，并与 GPT-6 Astra 同分且审查成本约低 22 倍；MiMo-V2.6-Flash 找出 41 个仅 $3.47。折合每个漏洞约 $0.18（Pro）与 $0.08（Flash）。

查看大图

@arena 报告小米 MiMo-V2.6-Pro 登陆 Code Arena: WebDev，整体约第 10、MIT 开源权重约第 3；AutoEval 1628 分，与 Claude Fable 5 (High) 持平并略高于 Hy4-preview（1624）。相对前代 MiMo-V2.5-Pro（1475）提升 153 分；真人投票仍在进行中。

查看大图

@ArtificialAnlys 报告小米刚发布开源权重模型 MiMo-V2.6-Pro：Artificial Analysis Intelligence Index 达 46（前代 V2.5-Pro 为 26），成为当前开源权重榜首；约 $0.13/任务、输入 $0.435/百万 token（99% cache-hit 折扣）与输出 $0.87/百万 token 价格不变。模型为 MoE，总参 1.02T、激活 42B。

查看大图