AI 编程实时动态与要闻

Deep Principle 开源 7530 亿参数科研模型 Hydrogen-1.0:基于 GLM-5.3 用实验室记录后训练,MIT 许可

杭州 AI for Science 公司 Deep Principle(深度原理)11 月 2 日发布首个通用科研大模型 Hydrogen-1.0,在智谱 GLM-5.3 上用化学、材料、生命科学数据以及自家实验室记录和发现轨迹做 SFT+RL 后训练,以 MIT 许可在 Hugging Face 开放约 7530 亿参数的 BF16 权重。厂商口径下它在 FrontierScience-Research 上拿到 38.3%,高于 GPT-6 Astra 的 33.3%,但均为自测,尚无独立复现。

Deep Principle 开源 7530 亿参数科研模型 Hydrogen-1.0:基于 GLM-5.3 用实验室记录后训练,MIT 许可

核心要点速览

  • 规模:Hugging Face 显示总参数约 7530 亿(BF16,权重约 1.5 TB),架构为 glm_moe_dsa,上下文 1M token、最长输出 128K token,MIT 许可(需在 HF 同意条款后下载)。
  • 跑分(厂商口径):FrontierScience-Research 38.3%,GPT-6 Astra 为 33.3%;GPQA Diamond 93.0%,官方称大致与 Kimi K3 持平。
  • 内部场景(厂商口径):科学计算和单步正向反应预测分别领先最高思考档 GPT-6 Astra 5.13 和 4.76 个百分点,NMR 结构解析则落后 3.33 个百分点。
  • 材料发现:过渡金属配合物五轮搜索后,平均最佳 HOMO-LUMO 带隙 4.318 eV,GPT-6 Astra 为 3.689 eV,Kimi K3 为 3.353 eV(官方博客)。
  • 获取方式:HF 与 ModelScope 下载权重,另有 NVFP4(B200/B300)和 MXFP4(MI350X/MI355X)量化版;NeuroSpark 提供 API,Mira AI Scientist 可直接使用;官方用 SGLang 8 卡测试。
阅读全文

Epoch AI 实验:开源权重模型 GLM 5.3 利用“补丁空窗期”自主攻破 6 个 Firefox 版本,每个约 1000 美元

Epoch AI 10 月 29 日发布报告:在刻意简化、模拟低水平攻击者的设置下,Z.ai 8 月发布的开源权重模型 GLM 5.3 读取已公开但尚未推送给用户的安全修复,自主为 9 月 17 日至 10 月 26 日的 6 个 Firefox 版本写出“打开网页即可读取本地文件”的攻击链,每个版本边际成本约 1000 美元,最快 12 小时完成。Mozilla 已在 10 月 27 日的 Firefox 159.0 中修复其中一个此前未公开的漏洞。

Epoch AI 实验:开源权重模型 GLM 5.3 利用“补丁空窗期”自主攻破 6 个 Firefox 版本,每个约 1000 美元

核心要点速览

  • 6/6:9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本全部被攻破,只用各版本发布时已公开的信息(Epoch 报告)
  • 每个版本边际成本约 1000 美元,给了 48 小时上限,最快 12 小时;含环境搭建在内的 Firefox 研究总花费超过 10 万美元
  • 模型还每次都自行重新发现一个未公开漏洞,Mozilla 已在 10 月 27 日的 Firefox 159.0 中修复
  • 通过官方和第三方 API 调用全程没有触发任何拒答或安全拦截
  • 同样方法花约 10 万美元尝试 Chrome 未成功,Epoch 说明这不代表 Chrome 安全
阅读全文
关联模型 / 智能体 / 厂商:

Mistral 推出 Responses API 公开预览:兼容 OpenAI Responses 格式,答案、推理和工具调用分项返回,专为构建智能体

Mistral AI 10 月 28 日在 X 宣布 Responses API 进入公开预览,定位为在 Mistral 上构建智能体的接口。官方文档说明它采用 OpenAI Responses 格式,每次响应的 output 数组里分别给出模型消息、推理内容和函数调用,比 Chat Completions 更容易逐步处理。预览版是无状态的,对话历史由应用自己保存并回传;支持文本、图片、文件输入,JSON Schema 结构化输出,流式事件,客户端函数调用,reasoning.effort,以及 POST /v1/responses/input_tokens 计数。服务部署在 Mistral AI Cloud Inference 的欧盟和美国区域。同一帖串还宣布在其云上提供 DeepSeek V4.1 Flash(公开预览)和 GLM 5.3 Flash(正式可用)。

核心要点速览

  • Responses API 公开预览,采用 OpenAI Responses 格式,已有 Responses 集成可以较容易迁到 Mistral
  • 每次响应把答案、推理、函数调用分成不同 output 项,便于智能体逐步处理
  • 预览版无状态:应用自己维护对话历史,并把上一轮 output 项连同 function_call_output 回传
  • 支持图片和文件输入、JSON Schema 结构化输出、流式、函数调用(含 namespace)、reasoning.effort,以及 /v1/responses/input_tokens 计数
  • 部署在 Mistral AI Cloud Inference 的欧盟和美国区域;同时新上 DeepSeek V4.1 Flash(预览)和 GLM 5.3 Flash(GA)
阅读全文

上海 AI 实验室发布 Atria Dawn 正式版:基于 744B MoE GLM-5.2 的智能体模型,上下文翻倍至 512K,MIT 开源

上海人工智能实验室把 Atria Dawn 从 Preview 升级为正式版,Hugging Face(internlm/Atria-Dawn 及 FP8 版)与 ModelScope 均已上线开放权重,MIT 许可。模型基于 744B 参数 MoE 的 GLM-5.2,面向科研与工程类长程智能体任务,上下文从 Preview 的 256K 翻倍到 512K,仅接受文本输入。官方表格显示其在 AutomationBench、CyberGym、SkillsBench 等智能体基准上领先所列模型,但在 SWE-bench Pro、Terminal-Bench 2.1 等编码基准上仍落后 Claude Opus 5(均为厂商口径)。

上海 AI 实验室发布 Atria Dawn 正式版:基于 744B MoE GLM-5.2 的智能体模型,上下文翻倍至 512K,MIT 开源

核心要点速览

  • 上下文 512K,是 Preview 版 256K 的两倍;基座为 744B 参数 MoE 的 GLM-5.2,仅支持文本输入
  • Hugging Face 与 ModelScope 提供 BF16 与 FP8 权重,MIT 许可
  • 厂商口径:AutomationBench 54.7、CyberGym 86.8、SkillsBench 67.8、BFCL V4 78.4,均为表内最高
  • 短板同样来自官方表:SWE-bench Pro 61.7 对 Claude Opus 5 的 76.5,Terminal-Bench 2.1 81.0 对 90.2
  • 本地部署需 SGLang v0.5.13.post1+ 或 vLLM v0.23.0+;也提供 OpenAI 兼容 API,可直接接入 Codex
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

Cloudflare 披露 Workers AI 上 GLM-5.3 跨请求泄露事故:KV 缓存配置不匹配叠加 SGLang 漏洞,13 天内 155 条回复混入其他用户数据

Cloudflare 10 月 26 日在官方博客发布事故报告:8 月 27 日至 9 月 9 日,Workers AI 上的 GLM-5.3(@cf/zai-org/glm-5.3)对超过 681,280 token 的长提示,有 155 条回复混入了其他用户刚发过的请求内容,且都返回 HTTP 200。原因是 prefill 节点 KV 缓存池小于 1,048,576 token 的上下文窗口,叠加 SGLang 在 prefill/decode 分离模式下处理超长请求的漏洞。Cloudflare 称未发现恶意利用,已修复并建议运营方升级到 SGLang v0.5.22 或更高版本。

Cloudflare 披露 Workers AI 上 GLM-5.3 跨请求泄露事故:KV 缓存配置不匹配叠加 SGLang 漏洞,13 天内 155 条回复混入其他用户数据

核心要点速览

  • 影响范围:2026-08-27 至 09-09 共 155 条回复受影响,均为超过 681,280 token 的提示;Cloudflare 确认 Workers AI 其他模型未受影响
  • 根因 1:GLM-5.3 上下文 1,048,576 token,但 prefill KV 池只有 681,280 token;修复后池容量约 204 万 token,约为上下文的 2 倍
  • 根因 2:SGLang 把超长请求标记为拒绝并换成 1 token 占位,却没中止,decode 节点读到了未被覆盖的旧缓存页
  • 响应:9 月 8 日经 HackerOne 收到 Knostic 的 Gadi Evron 报告,9 月 9 日宣布事故后 40 分钟内下线模型,当天 19:40 UTC 恢复
  • 行动建议:自建 SGLang 的团队升级到 v0.5.22 或更高版本,并直接核对 KV 池大小与上下文长度
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Z.ai GLM 5.3🌐 cloudflare🌐 zai

Letta 发布 FrontierMemory 1.0:首个按下游任务成绩衡量 Agent 记忆质量的基准,Opus 5.5 与 GLM-5.3 并列 73.3% 居首

10 月 21 日,Letta 发布 FrontierMemory 1.0。它不再考 Agent 记不记得生日、爱好这类事实,而是给 Agent 一批过去的执行轨迹,让它生成记忆或技能,再看这些记忆能让任务 Agent 多解出多少编码和知识工作任务。首版共 15 个任务,改编自 DeepSWE、SkillsBench、APEX-Agents 等公开基准。模型榜(Letta Dream 生成记忆,Letta Code 执行)上 Opus 5.5 与 GLM-5.3 均为 73.3%,Grok 4.7 为 33.3%;Harness 榜上 Letta 自家 Letta Dream 第一。数据为厂商(Letta)口径。

Letta 发布 FrontierMemory 1.0:首个按下游任务成绩衡量 Agent 记忆质量的基准,Opus 5.5 与 GLM-5.3 并列 73.3% 居首

核心要点速览

  • 模型榜(厂商口径,最高推理档):Opus 5.5 73.3%(单任务约 $2.80)、GLM-5.3 73.3%($3.58)、Kimi K3 66.7%、GPT-6.1 Sol 60.0%($0.77,最省)、Gemini 4 Argon 60.0%、Muse Wonder 46.7%、Grok 4.7 33.3%
  • Harness 榜:Letta Dream 73.3%、Prime Agent 60.0%、OpenAI Agents SDK 40.0%、Claude Managed Agents 33.3%、Hermes Agent 26.7%
  • 首版 15 个任务;665 条历史轨迹中只有 219 条与评测任务相关,Agent 需要自己挑出有用经验
  • Letta 称复核时发现保留下来的原始任务中 53% 的判题器有问题并已修复;记忆生成限时 6 小时、禁止联网
  • 记忆分三类:任务约定、用户偏好、环境特性;接受第三方提交模型与 Harness
阅读全文

humans& 发布首个模型 Ampersand v0.1:基于 GLM 5.3 训练的群体协作模型,已通过 Agents API 开放

10 月 20 日,AI 创业公司 humans& 发布首个模型 Ampersand v0.1,定位是帮一群人达成个人和共同目标的“协作者”,而不是独自完成任务的助手。它基于 Z.ai 的 GLM 5.3(约 744B 总参数、约 40B 激活)用长程多人模拟强化学习训练,模拟用户由自研用户模型 Persimmon 扮演。模型即日起通过兼容 OpenAI Agents API 的接口开放,无需排队。

humans& 发布首个模型 Ampersand v0.1:基于 GLM 5.3 训练的群体协作模型,已通过 Agents API 开放

核心要点速览

  • 基座:GLM 5.3 MoE,约 744B 总参数、约 40B 激活,上下文 1,048,576 tokens(官方模型卡)
  • 长期协作模拟评测(官方口径):Ampersand 12.94,基座 GLM 5.3 为 9.89
  • Collaborative Intelligence 团队协作 59.1%(GLM 5.3 为 54.3%);CooperBench 协同编码成功率 39.0%,GLM 5.3 协同时仅 17.3%
  • 代价:SWE-bench Pro v2(Hard-51)82.4%,略低于基座的 84.3%;官方也承认它有时会“过度指导”
  • 接入:模型 ID ampersand-v0.1,可直接用官方 OpenAI SDK 指向 humans& 的 base URL
阅读全文
关联模型 / 智能体 / 厂商:

Cloudflare 发布 Clairic 抽取模型:一次前向传播输出带类型和置信度的数值、日期与预测,Workers AI 预览、每百万输入 token 0.10 美元

Cloudflare 10 月 19 日发布 Clairic 预览版,定位为「System One 抽取模型」:不逐 token 生成,而是一次并行前向传播,从文本或最多 4 张图片里抽取、计算、估计和预测带类型的值,每个答案附置信度、字符位置和缺失概率,缺失时返回 null。模型以 @cf/cloudflare/clairic 上线 Workers AI,文档标注 64K 上下文、支持视觉、每百万输入 token 0.10 美元且不收输出费。官方示例中,Clairic+Clef+GLM-5.3 级联比全用 GLM-5.3 快约 3.2 倍、成本低约 49%(官方口径),权重将在之后开放。

Cloudflare 发布 Clairic 抽取模型:一次前向传播输出带类型和置信度的数值、日期与预测,Workers AI 预览、每百万输入 token 0.10 美元

核心要点速览

  • 定价与规格:每百万输入 token 0.10 美元、无输出费,上下文 65,536 token,支持文本加最多 4 张图(官方文档)。
  • 输出类型:text、number、date/time、duration、list、estimate、forecast;每个答案附置信度与 p_null,缺失返回 null。
  • 级联实测:Clairic→Clef→GLM-5.3 端到端 19.3 秒对 61.7 秒,约快 3.2 倍;每百万次理赔 6032 美元对 11740 美元,省约 49%(官方口径)。
  • 预测示例:TSA 安检人数 21 天预测平均误差 3.3%,17/21 天落在 80% 区间内。
  • 局限:多步连锁算术、跨多行聚合尚不可靠;当前为预览检查点,开放权重时间未定。
阅读全文
关联模型 / 智能体 / 厂商:
⚡ clairic⚡ clef⚡ GLM-5.3🌐 cloudflare

SGLang v0.5.22 重磅发布:DeepSeek-V4.1 在 H200 吞吐提升 2.3 倍、MI355X 提速 1.9 倍,InstantTensor 载入提速 10 倍

SGLang 团队正式发布 v0.5.22 大版本更新(凝聚 245 位贡献者提交的 950 个 PR):深度优化 DeepSeek-V4.1 推理性能,在 H200 单卡吞吐狂飙 2.3 倍,并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升;首创 InstantTensor 加载器将大模型冷启动显存载入提速 10 倍;B200 上 Qwen3.8-Flash-Next 解码提速 12%、B300 上 GLM-5.3-Flash 提速 10% 且 MiMo-V2.6-Pro 解码吞吐达 1.85 倍;并原生支持苹果 Apple Silicon 与 ComfyUI 扩散生态。

SGLang v0.5.22 重磅发布:DeepSeek-V4.1 在 H200 吞吐提升 2.3 倍、MI355X 提速 1.9 倍,InstantTensor 载入提速 10 倍

核心要点速览

  • SGLang v0.5.22 正式发布,汇聚 245 位贡献者的 950 个 PR
  • DeepSeek-V4.1 在 NVIDIA H200 单卡吞吐暴涨 2.3 倍,并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升
  • 全新 InstantTensor 加载器将千亿模型冷启动载入速度提升 10 倍(10x faster)
  • B200 上 Qwen3.8-Flash-Next 解码提速 12%,B300 上 GLM-5.3 提速 10% 且 MiMo-V2.6-Pro 解码达 1.85 倍
  • PD 分离架构使长 Prompt 首字延迟 p95 TTFT 减半(-50%),吞吐净增 27%,原生支持 Apple Silicon 与 ComfyUI
阅读全文
关联模型 / 智能体 / 厂商:

南加州大学与 UCLA 推出离散空间状态追踪基准 Grid-Bench:8,928 组可执行测试揭示大模型长链推演严重失真,64 步长轨迹开闭源断崖式分化

当前 LLM 能否在复杂连续空间操作中精确预测离散物理世界的演变?南加州大学(USC)、UCLA 与 CMU 联合发布 Grid-Bench(arXiv:2610.22312,GitHub: grid-bench/Grid-Bench)。该基准基于 8 种离散几何变换规则,测试 2D/3D/4D 网格在 0 至 64 步长事件链下的全状态精确预测。对 GPT-5.6 Sol、Claude 5 Sonnet、GLM-5、Kimi K2.5 等 6 款顶尖模型的评测表明:在 64 步长轨迹下,开源与中型模型完整状态精确率几乎归零,唯闭源旗舰维持断层领先。

南加州大学与 UCLA 推出离散空间状态追踪基准 Grid-Bench:8,928 组可执行测试揭示大模型长链推演严重失真,64 步长轨迹开闭源断崖式分化

核心要点速览

  • 南加州大学、UCLA 与 CMU 联合发布可执行多维空间推理基准 Grid-Bench(arXiv:2610.22312),跨越 2D/3D/4D 网格与 8 大几何规则
  • 涵盖 8,928 组可执行测试实例,评测历史步长从 T=0 延伸至极端复杂的 T=64 步连续离散世界演变
  • 在 T=16 步中程推演中,GPT-5.6 Sol(98.0% 单元准度)与 Claude 5 Sonnet(96.8%)保持领先,中型模型精确世界命中率跌至个位数
  • 在 T=64 步极限长链下,GLM-5 与 Kimi K2.5 完全精确世界命中率归零,证实长程离散空间推演必须外挂确定性状态机
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

vLLM v0.32.0 发布:814 次提交,内置 /v1/systemone 结构化决策接口,NVFP4 低精度 KV 覆盖更多 GPU,多 API worker 短请求吞吐提升 43–85%

vLLM 于 10 月 18 日发布 v0.32.0,363 位贡献者(121 位新人)提交 814 次。重点包括默认提供的 POST /v1/systemone 结构化决策接口与通用 hf 工具/推理解析器;NVFP4 KV 缓存扩展到 SM8x/SM90/SM12x,GLM-5.x 在 SM100 默认 FP8 KV;Model Runner V2 新增 GPU n-gram 投机与 Elastic EP,并成为 ROCm 默认;修复 3 个安全公告并收紧 CORS 默认值,同时放弃 Python 3.10。

vLLM v0.32.0 发布:814 次提交,内置 /v1/systemone 结构化决策接口,NVFP4 低精度 KV 覆盖更多 GPU,多 API worker 短请求吞吐提升 43–85%

核心要点速览

  • 规模:814 次提交、363 位贡献者(121 位新人),见 Release 说明。
  • 结构化决策:新增并默认开启 POST /v1/systemone,回答 choice/score 类问题,已支持 Cloudflare/clef-omni、LiquidAI/d1-3B 等模型;--tool-call-parser hf 读取权重自带的 response_template,免写专用解析器。
  • 低精度 KV:GLM-5.x 在 SM100 默认 FP8 KV,每卡 KV 显存减半、吞吐 +2.3–5.5%,代价是 TTFT 增加 7–11%(PR 内基准,官方口径);ROCm 新增 4-bit KV,密度约为 FP8 的 2 倍。
  • 服务提速:--api-server-count 大于 1 时按最少负载分配连接,短请求 req/s 提升 43–85%(Qwen3-0.6B、32 输入/1 输出 token 的 PR 基准)。
  • 破坏性变更:移除 Python 3.10 支持、CORS 默认不再放行所有来源、移除 cascade attention,max_tokens 不再从上下文窗口预留。
阅读全文
关联模型 / 智能体 / 厂商:

2.8 万亿参数 Kimi K3 单请求飙至 842 tok/s!NVIDIA 联合 vLLM 开源 1.2 万行 CuTe DSL 巨型融合内核,GB300 NVL72 交互吞吐暴涨 1.8 倍

vLLM 联合 NVIDIA 正式发布面向月之暗面旗舰模型 Kimi K3(SemiAnalysis 披露达 2.8 万亿参数)的底层解码巨型内核(Megakernel):由 NVIDIA CentML 工程师采用 CuTe DSL 编写的 1.2 万行代码将注意力、MoE 路由与跨卡通信深度融合,将单层内核启动数从 23 个砍至 13 个、单层耗时从 130 µs 压至 69 µs。在 16 卡 NVIDIA GB300 NVL72 上配合 DSpark 投机解码实现 Batch=1 高达 842 tok/s 的极速输出(提速 1.73 倍),并在 SemiAnalysis AgentX 负载上实现最高 1.8 倍的 P90 单用户交互吞吐提升(突破 403.2~423 tok/s/user),下一步将适配 DeepSeek-V4.1-Flash 与 GLM-5.3。

2.8 万亿参数 Kimi K3 单请求飙至 842 tok/s!NVIDIA 联合 vLLM 开源 1.2 万行 CuTe DSL 巨型融合内核,GB300 NVL72 交互吞吐暴涨 1.8 倍

核心要点速览

  • NVIDIA CentML 联合 vLLM 为 2.8 万亿参数 Kimi K3 打造 1.2 万行 CuTe DSL 解码巨型内核,将单层内核数从 23 个减至 13 个、单层耗时从 130 µs 压至 69 µs
  • 在 16 卡 NVIDIA GB300 NVL72 上配合 DSpark 投机解码实现 Batch=1 高达 842 tok/s 输出(提速 1.73 倍),无投机 Batch=1 达 256.4 tok/s(提速 1.88 倍)
  • 在 SemiAnalysis AgentX 基准上将 P90 单用户交互吞吐提升至最高 403.2~423 tok/s/user(最高 1.8 倍提升),DeepSeek-V4.1-Flash(PR #61868)与 GLM-5.3 支持即将合入
阅读全文
关联模型 / 智能体 / 厂商:

Ollama Cloud 上线美欧本土零数据留存集群并一键接入 Claude Code,SemiAnalysis 揭秘 GLM-5.3 纯靠后训练实现网安能力质变

Ollama 官方宣布在美国与欧盟本土服务器正式上线严格“零数据留存、零训练”的 Ollama Cloud 托管服务,同步接入 DeepSeek-V4.1-Flash-1017 并支持通过 ollama launch 一键拉起 Claude Code 与 OpenCode;同日,SemiAnalysis 披露重磅内幕:智谱旗舰模型 GLM-5.3 未重新预训练,而是 100% 基于前代模型通过高 GPU 效率的后训练(Post-Training)打造,在网络安全与攻防推理上较 GLM-5.2 实现跨代质变。

Ollama Cloud 上线美欧本土零数据留存集群并一键接入 Claude Code,SemiAnalysis 揭秘 GLM-5.3 纯靠后训练实现网安能力质变

核心要点速览

  • Ollama Cloud 正式上线美国与欧盟本土零数据留存(Zero Data Retention)托管集群,支持通过 ollama launch 一键驱动 Claude Code 与 OpenCode 运行 DeepSeek-V4.1-Flash-1017
  • Ollama v0.40.6 同步发布,新增 GGUF q2_0 量化张量类型支持,并彻底修复 Windows 平台孤儿 Runner 进程残留问题
  • SemiAnalysis 披露 GLM-5.3 完全基于前代模型通过高 GPU 效率的后训练(Post-Training)构建而成,在网络安全能力上较 GLM-5.2 实现“昼夜之别”的跨代跃升
阅读全文
关联模型 / 智能体 / 厂商:

远程 KV 缓存竟比 GPU 重算慢 2.8 倍?LMCache 分片异步架构将 p99 从 83.3 秒压至 0.67 秒,百度 VHA 虚拟头注意力砍半 KV 反超 MLA

针对超长上下文大模型推理中的 KV 缓存传输与显存瓶颈,今日两项重磅系统与架构研究给出突破方案:在 8xB300 节点运行 GLM-5.3(FP8 MLA)的 8 路预填充上下文并行(PCP8)实测中,研究者发现传统远程 KV 缓存会导致高命中流 p99 飙升至 83.32 秒(GPU 利用率仅 7%),通过按 PCP Rank 分片与异步加载(已合入 LMCache 上游)将读取带宽提升 6.3 倍至 10.76 GB/s、p99 暴降至 0.67 秒;百度飞桨则开源虚拟头注意力 VHA(arXiv:2610.17959),推理期零开销折叠为双 KV 头 GQA-2,在 30B-A3B MoE(500B Token 训练)上全面击败 MLA 与 GQA-4,128K RULER 暴涨 11.4 分。

远程 KV 缓存竟比 GPU 重算慢 2.8 倍?LMCache 分片异步架构将 p99 从 83.3 秒压至 0.67 秒,百度 VHA 虚拟头注意力砍半 KV 反超 MLA

核心要点速览

  • 实测揭示 8xB300 运行 GLM-5.3 (PCP8) 时,未分片远程 KV 缓存拉取(0.88s)慢于 GPU 重算(0.31s),通过按 Rank 分片 Valkey 与异步加载(已合入 LMCache)将读取带宽提速 6.3 倍至 10.76 GB/s,高命中流 p99 从 83.32 秒暴降至 0.67 秒
  • 百度飞桨提出虚拟头注意力(VHA),通过纯线性 Q Premix 与低秩 Postmix 在推理期完全折叠进 W_Q/W_O 权重,零开销化简为仅 2 个 KV 头的标准 GQA-2 架构
  • 在 500B Token 训练的 30B-A3B MoE 上 VHA 全面超越 MLA(+0.70%)与 GQA-4(+2.60%),并在 10B-A1B MoE 的 8K-128K RULER 长文评测中以 84.4 分大幅击败 GQA 的 73.0 分
阅读全文
关联模型 / 智能体 / 厂商:

MLE-Bench 奖牌率从 37.9% 飙至 72.7%!上海 AI Lab 开源 35B MoE 机器学习工程智能体 MLExpert,追平 Kimi-K3 与 GLM-5.3

为推动‘AI 研发 AI(AI4AI)’向模型自主导向演进,上海 AI 实验室(InternScience)开源了 35B 混合专家(MoE)机器学习工程智能体模型 MLExpert(arXiv:2610.22344)。通过构建 Kaggle-MLE Factory 可执行任务工厂、分层智能体 SFT 以及窗口化交互强化学习(WIRL),MLExpert 在 MLE-Bench Lite 上将基座模型的平均奖牌率从 37.9% 暴拉至 72.7%,以仅 35B 总参追平超大尺寸前沿模型 Kimi-K3 与 GLM-5.3,并成功泛化至智能体脚手架优化与算法调优。

MLE-Bench 奖牌率从 37.9% 飙至 72.7%!上海 AI Lab 开源 35B MoE 机器学习工程智能体 MLExpert,追平 Kimi-K3 与 GLM-5.3

核心要点速览

  • MLE-Bench Lite 奖牌率狂飙至 72.7%:将基座模型平均奖牌率从 37.9% 提升近一倍,以 35B MoE 轻量规模比肩 Kimi-K3 与 GLM-5.3
  • 首创窗口化交互强化学习(WIRL):将两次实验反馈之间的多轮决策视为独立执行窗口分配结果奖励,支持长轨迹未结束即异步更新策略
  • 泛化赋能 Agent 脚手架优化:习得的实验迭代能力零样本迁移至 NatureBench Lite、智能体脚手架调优与算法优化
阅读全文