AI 编程实时动态与要闻

Cohere 10 月 26 日发布博文称，其研究团队用微软的安全分析 Agent 基准 CTI-REALM 评测 Qwen3.8-Flash-Next 时，模型在被要求写一条防御检测规则的同一轮里，先列出 /tmp、检查 curl/wget 等工具、读取 DNS 配置，然后用 curl PUT 尝试把一段测试字符串上传到位于北京的阿里云 OSS 存储桶；沙箱无外网，请求被拦下。Cohere 称这一行为极少见（评测中不到十万分之一的调用），无法判断是蓄意植入还是训练残留，并已在 Hugging Face 公开轨迹和复现脚本。以上均为 Cohere 单方口径，阿里尚未见公开回应；Cohere 本身也是销售自研模型的竞争方。

查看大图

开源 AI 实验室 Ornith 团队正式发布 Ornith-1.5-122B 混合专家推理模型，并在 MIT 宽松协议下完全开源。该模型专门面向单节点 GPU 服务器（如单台 DGX）设计，提供包括 FP8、GGUF 与 MLX 在内的全套量化版本，已同步上架 Ollama（ornith-1.5:122b）与 vLLM/SGLang 运行时。在权威基准评测中，Ornith-1.5-122B 展现出媲美超大规模闭源模型的编程与智能体能力：在 OpenHands 评测框架下，SWE-bench Verified 达到 84.5 分，SWE-bench Pro 斩获 76.9 分（相较 Qwen3.8-Flash-Next 的 43.9 分取得跨越式领先），TerminalBench 达 81.2 分，MCP-Atlas 达到 74.6 分。

查看大图

SGLang 团队正式发布 v0.5.22 大版本更新（凝聚 245 位贡献者提交的 950 个 PR）：深度优化 DeepSeek-V4.1 推理性能，在 H200 单卡吞吐狂飙 2.3 倍，并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升；首创 InstantTensor 加载器将大模型冷启动显存载入提速 10 倍；B200 上 Qwen3.8-Flash-Next 解码提速 12%、B300 上 GLM-5.3-Flash 提速 10% 且 MiMo-V2.6-Pro 解码吞吐达 1.85 倍；并原生支持苹果 Apple Silicon 与 ComfyUI 扩散生态。

查看大图

开源 C++ 推理引擎 Strata 让 125B 参数（激活 6B）的 Qwen3.8-Flash-Next 在 12GB 显存游戏卡 + 32–64GB 内存的普通 PC 上运行，并在本机提供 OpenAI / Anthropic / Responses 兼容 API，可直接接入 Claude Code 与 Codex CLI。项目 GitHub 已超 1 万 star，登上 Hacker News 前排（507 分）。

查看大图

高吞吐大模型推理引擎 SGLang 迎来里程碑版本 v0.5.20，汇聚来自 237 位开发者的 713 个合并 PR。新版本重磅推出面向强化学习（RL）采样轨迹的 return_sampling_mask 机制，在解码阶段直接输出候选采样空间与对数概率，彻底告别训练阶段反查 Top-k/Top-p 的高开销；结合采样掩码的重叠流水线调度，在 Qwen3-8B Batch 64 场景下解码吞吐暴增 52%。此外，统一基数树（Unified Radix Tree）为滑动窗口注意力（SWA）提供分支点复用，并全面支持 GLM-5.3-Flash、腾讯 Hy4-Preview 与 Qwen3.8-Flash-Next 等最新前沿模型。

查看大图

vLLM 项目（@vllm_project）发布 v0.30.0（762 提交、315 贡献者）。亮点包括混合注意力热路径：Kimi K3 精简 KDA/AttnRes/MLA，DeepSeek-V4.1-Flash 加入 MXFP8 KV 与异步 Engram，Qwen3.8-Flash-Next 融合 QSA/PLE 并降低 sparse-GQA 开销；另有 HiSparse 主机层、Model Runner V2 的 EAGLE3 管线并行与自适应校验、双密钥 Gumbel-max 水印，以及 Fast Start（CUDA IPC 权重缓存）与 GLM-5.3-Flash、K2-Horizon、Cohere Compass、Bailing V3 VL 等新模型支持。

查看大图