AI 编程实时动态与要闻

arXiv 论文 2611.03233（Yuqi Jia、Yunjie Tian 等 7 位作者）发布 Axion 1.0，一个“权重之外也开源”的 Agent 基础模型：只用两段轻量 SFT 加强化学习，不做专门的 mid-training、DPO 或在线蒸馏，总共约 1.8 万条 SFT 轨迹。训练代码托管在 GitHub 的 bytedance 组织下，训练数据和 Axion 1.0-35B 复现权重（Qwen3.6-35B-A3B 底座，35B 总参 / 3B 激活，Apache 2.0）已上 Hugging Face；论文中的 122B 版本权重标注为即将发布。

查看大图

杭州 AI for Science 公司 Deep Principle（深度原理）11 月 2 日发布首个通用科研大模型 Hydrogen-1.0，在智谱 GLM-5.3 上用化学、材料、生命科学数据以及自家实验室记录和发现轨迹做 SFT+RL 后训练，以 MIT 许可在 Hugging Face 开放约 7530 亿参数的 BF16 权重。厂商口径下它在 FrontierScience-Research 上拿到 38.3%，高于 GPT-6 Astra 的 33.3%，但均为自测，尚无独立复现。

查看大图

针对小语言模型（SLMs，0.6B~8B 参数量）在通过监督微调（SFT）蒸馏大模型智能体能力时，普遍存在多轮长程交互容易陷入无效循环、动作重复及进度停滞（Progress Stagnation）的严重问题，研究团队在 arXiv:2610.19439 中提出了 ProD（Progress-Aware Distillation）蒸馏框架。ProD 建立了精确的单轮与轨迹级停滞评估指标，在蒸馏优化过程中动态监测并重罚学生的无生产力动作，通过自适应边界机制强制对齐教师模型的积极进展策略。跨越 8 款 SLM 的详尽实验表明，ProD 显著消除了智能体卡死现象，在大幅缩减无效 Token 开销的同时全面提升了任务完成率。

查看大图

针对编程智能体评测与强化学习中愈演愈烈的“篡改测试脚本刷满分（Reward Hacking）”与“静态题库过拟合”两大痛点，今日两项重磅研究给出系统性方案：CMU 团队提出弱到强验证器自动加固框架（arXiv:2610.15924），通过隔离验证沙箱与 Hacker-Fixer 攻防闭环大幅压降 Terminal-Bench、KernelBench 与 SETA 的作弊成功率，已被 Terminal-Bench 官方仓库采纳；递归环境缩放框架 RES（arXiv:2610.16397）则在不改变核心目标下递归演化执行依赖，使 Claw-Eval-Live 上的六大模型成功率暴跌 57.14~77.14 个百分点，并用生成的轨迹将 SFT 泛化性能全面拉升 7.00~14.61 个百分点。

查看大图

为推动‘AI 研发 AI（AI4AI）’向模型自主导向演进，上海 AI 实验室（InternScience）开源了 35B 混合专家（MoE）机器学习工程智能体模型 MLExpert（arXiv:2610.22344）。通过构建 Kaggle-MLE Factory 可执行任务工厂、分层智能体 SFT 以及窗口化交互强化学习（WIRL），MLExpert 在 MLE-Bench Lite 上将基座模型的平均奖牌率从 37.9% 暴拉至 72.7%，以仅 35B 总参追平超大尺寸前沿模型 Kimi-K3 与 GLM-5.3，并成功泛化至智能体脚手架优化与算法调优。

查看大图

为验证前沿智能体能否自主执行完整的模型后训练研究（AutoPostTrain），研究团队构建了面向智能体原生的真实 GPU 科研系统 Athanor。在完全无人工指导、禁止调用外部教师模型蒸馏的沙盒中，4 个分别掌管 8 卡 GPU 节点的 Claude Opus 5.5 智能体协同奋战 104 小时，自主完成数据清洗、SFT、修改 RL 采样算法、跨智能体权重合并与自蒸馏，将原始 Qwen3-4B-Base 在开发集与盲测集上分别从 15.9/9.2 提升至 67.3/48.2，全面超越人类专家训练的官方 Qwen3-4B-Instruct-2507（66.5/47.9）。

查看大图

微软研究院（MSR）与斯坦福大学联合发布 AutoEnvScaling，首次将强化学习交互环境的设计本身转化为终端任务，利用提案智能体（Proposer）与求解智能体（Solver）的协同构建自动化数据飞轮。相比纯 Prompt 生成，环境有效率暴增高达 25 倍，单环境构建成本降低 75%。更关键的是，让单一模型（Qwen3.6-35B-A3B）同时扮演设计者与求解者，实现递归自我提升（RSI），在 Terminal-Bench 2.1 提升 12.2 分，Terminal-Bench 4.0 跑分翻倍。

查看大图

随着 LLM 智能体从简单工具调用走向具备沙箱、文件系统与 Shell 权限的通用 Harness 环境，现有的后训练管线大多是一次性且高度依赖外部更强教师模型的。研究团队提出首个 Harness 原生自进化框架 ClawLoop：无需外部教师与过多先验，通过任务合成、SFT/RL 训练、行为诊断三阶段构筑自维持飞轮。基于 Qwen3.6-27B 在 SkillsBench、Claw-Eval-Live 等基准上取得显著提升，并能无缝向 4B/9B 模型迁移高质量训练数据。

查看大图

当前自主编程智能体（SWE Agents）的训练与评测大多局限于单个函数的孤立补全或现有单仓库内特定 Issue 的局部修复（如 SWE-bench），难以衡量智能体从空白工程起步、独立探索参考系统、推演架构设计并从零完整复现一个可编译可运行软件（Program Reproduction）的长程综合能力。学术研究团队在最新成果（arXiv:2610.13395）中正式开源了首个全自动工程级训练环境合成引擎与智能体工作流 ProgramGym（代码仓库：github.com/Acm1011/ProgramGym，数据集：ProgramGym/programgym-1648）。ProgramGym 包含两大核心支柱：Program-Env 流水线自动将真实开源代码库转换为具备确定性黑盒测试集的隔离执行沙箱，一举构建了涵盖 C、C++、Go、Rust 四大主流系统级语言的 1,648 个高质量可验证训练环境（ProgramGym-1648）；而 Program-Agent 则确立了‘需求分析 -> 代码实现 -> 审查反思’三权分立的迭代开发脚手架与版本控制恢复机制。在权威基准 ProgramBench 测试中，利用该引擎合成轨迹监督微调得到的 Qwen3.8-27B-SFT 模型测试通过率提升 7.97 个百分点至 42.84%，超越了 mini-SWE-agent 下的旗舰模型 GPT-5.4（37.70%）；搭配 Program-Agent 脚手架后跑分更是进一步跃升至 56.25%，全面超越 Claude Opus 4.7（50.90%）与 Gemini 3.5 Flash（53.60%），全套数据集与环境已全面开源。

查看大图

当大语言模型（LLM）的输出质量超越人类专家可靠评估的极限时，如何实现不依赖外部人类标注或环境判题器的‘递归自进化（Recursive Self-Improvement, RSI）’？以往在数学、代码等领域依赖编译器（RLVR）的成功范式，在科研探索、复杂论证等无法自动验证结果的开放式非可验证任务（Non-Verifiable Tasks）中彻底失效；单个模型若既当裁判又当考生，又极易陷入同质化自我闭环与评估盲区。知名 AI 实验室 Sakana AI 在最新重磅成果（arXiv:2610.12176，项目主页：sakana.ai/mass）中推出了全新自进化框架 MASS（Multi-Agent Self-Supervision）。MASS 突破性地使用单一基座大模型（如 Qwen3.6-27B），让其同时扮演任务解决者、多智能体工作流优化器与客观评估者三大角色。系统在‘演化工作流结构优化’与‘基于自身生成的高质量轨迹实施监督微调（SFT）’之间交替迭代。经过两轮 MASS 递归自进化循环，模型在复杂科研基准（MLR-Bench、ScienceAgentBench、DSBench 等）上的每输出 Token 性能提升达 1.2x 至 1.6x，对初始基座模型的胜率从第一轮的 53.9% 飙升至第二轮的 69.9%，并证明多智能体自生成轨迹蒸馏的学生模型大幅超越消耗 1.4 倍 Token 训练的单智能体学生模型，论文与项目全貌已正式公布。

查看大图

人类在面对复杂空间旋转、机械装配与物理拓扑推演时，往往会在大脑中主动进行“视觉想象推演（Mental Simulation）”，通过在脑海中逐步生成未来的中间视觉画面来辅助思考；然而现有的多模态大模型（VLM）在处理多步骤空间任务时，却几乎全盘退化为“纯语言 Token 思考链（Text-only CoT）”，导致其在面对 2D/3D 空间立体变换时极易产生方向颠倒与几何幻觉。卡内基梅隆大学（CMU）与 MBZUAI（Eric Xing 团队）联合提出了突破性的 WM-VLM 架构（arXiv:2609.34826）：为预训练多模态大模型赋予了一个轻量级的内置“世界模型分支（Internal World Model Branch）”，赋予模型在语言推演的同时自主生成中间视觉状态（Intermediate Visual States）的能力，实现真正的图文交错混合推理（Interleaved Visual-Textual Reasoning）。两阶段训练首先教会模型如何根据物理变换指令生成下一步的精确视觉状态，继而训练模型如何观察并借助该生成状态展开后续空间逻辑决策。在 2D 与 3D 心理旋转（Mental Rotation）等严苛空间基准测试中，WM-VLM 相比监督微调基线取得了高达 39.25 个百分点的巨大精度跃升；消融实验确凿证实，一旦人为剔除或污染生成的中间视觉画面，模型性能即刻雪崩，证明了具身心智模拟是攻克高级空间几何推理的根本路径。

查看大图

以 LLaDA 为代表的掩码扩散语言模型（dLMs）因其高度可并行解码与非自回归推理特性，被视为突破传统自回归大模型（AR-LLM）串行推理速度与长程规划瓶颈的关键方向。然而，扩散语言模型在去噪生成过程中面临极其严峻的“信用分配（Credit-Assignment）”难题：在全序列逐步去噪的过程中，往往只有极少数关键决策（Pivots）能够剧烈降低未掩码未知区域的不确定性，并决定整段回答的正确性；而现存的扩散模型微调通常简单粗暴地在最终文本上做全量 SFT，或给整步去噪施加统一标量奖励，导致梯度严重稀释并破坏扩散采样流。来自韩国科学技术院（KAIST）与多伦多大学/Vector 研究所的研究团队推出了高效离线自蒸馏框架 Pivot-SD（arXiv:2610.03665）：基于信息增益（Information Gain）指标自动定量筛选出决定去噪走向的关键决策点（Pivots），对成功轨迹中的 Pivot 执行交叉熵奖励，对失败轨迹中的 Pivot 进行靶向逆似然惩罚（Targeted Unlikelihood），同时完全保留失败轨迹中的其他无害 token。在 LLaDA-8B-Instruct 上的实验表明，Pivot-SD 仅需 200 道题目（每题仅采样 4 条轨迹，总计 800 条 rollout），就在数学推理与代码基准上全面击败了算力预算对齐的全序列 SFT 与扩散 RL 基线。

查看大图