为验证前沿智能体能否自主执行完整的模型后训练研究(AutoPostTrain),研究团队构建了面向智能体原生的真实 GPU 科研系统 Athanor。在完全无人工指导、禁止调用外部教师模型蒸馏的沙盒中,4 个分别掌管 8 卡 GPU 节点的 Claude Opus 5.5 智能体协同奋战 104 小时,自主完成数据清洗、SFT、修改 RL 采样算法、跨智能体权重合并与自蒸馏,将原始 Qwen3-4B-Base 在开发集与盲测集上分别从 15.9/9.2 提升至 67.3/48.2,全面超越人类专家训练的官方 Qwen3-4B-Instruct-2507(66.5/47.9)。
核心要点速览
- ✓104 小时全自主 GPU 科研:4 个 Claude Opus 5.5 智能体各管 8 卡节点,在无人工指导且禁用外部教师模型下自主完成后训练全流程
- ✓正面击败官方人类精调版:将 Qwen3-4B-Base 在开发集与盲测集从 15.9/9.2 提升至 67.3/48.2,双双超越官方 Qwen3-4B-Instruct-2507(66.5/47.9)
- ✓自发演化复合训练配方:智能体自主组合数据清洗 SFT、改写 RL 采样逻辑、跨智能体权重合并与多轮自蒸馏

开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
由 AI 系统自主研发并训练出更强大的 AI 模型(递归自我提升,RSI),一直是迈向超级智能的核心路径。然而,此前所谓的“AI 自动科研”大多局限于合成玩具环境、单步超参数网格搜索或直接拿超大教师模型生成蒸馏数据,缺乏在真实多卡 GPU 集群上从零把一个原始预训练基座(Raw Base Model)端到端打磨成跨领域通用指令模型的实证检验。在没有人类研究员干预且严禁调用外部大模型做 Teacher 的硬约束下,现有 Coding Agent 是否真正具备完整的大模型后训练(Post-Training)科研与工程闭环能力?
架构亮点与底层机制
为此,研究团队构建了 Athanor——首个面向智能体原生的自主后训练科研系统(AutoPostTrain):
- 全自治沙盒与防作弊双层评测隔离:Athanor 为每个智能体配备真实 8 卡 GPU 算力节点、低摩擦工程脚手架、去污公开数据源与持久化科研日志库。系统严格冻结评测器,并维护一套智能体完全不可见的盲测集(Held-out Suite),且物理屏蔽任何外部教师模型 API 调用;
- 多智能体自发演化出工业级复合配方:在长达 104 小时 的无人值守战役中,4 个
Claude Opus 5.5智能体自主阅读评测反馈、编写训练代码并互相借鉴检查点。追踪日志显示,智能体团队自发组合并创新了完整后训练栈:先在公开推理语料上做 SFT,随后其中一个智能体自主改写了 RL 采样(Rollout)机制,接着团队执行跨智能体模型权重合并(Weight Merging),并最终通过多轮自蒸馏(Self-Distillation)收敛出最优通用模型。
权威 Benchmark 与实测跑分对比
实验结果首次证明,当代前沿智能体独立完成的后训练模型平均性能已可追平乃至反超人类官方团队:
- 开发集与盲测集双双击败官方 Instruct 模型:经过 104 小时自主科研,智能体训练出的模型在 6 任务开发集(Dev Suite)上将原始
Qwen3-4B-Base的得分从 15.9 狂拉至 67.3(超越官方人类团队精调的Qwen3-4B-Instruct-2507的 66.5);在完全未知的盲测集(Held-out Suite)上从 9.2 跃升至 48.2(同样击败官方模型的 47.9); - 零外部蒸馏纯自举增益:全过程未借用任何外部更强模型的合成输出,纯粹依靠对公开数据的筛选、算法改写与多节点模型融合实现跨域跃迁。
开发者实战落地与开箱指南
Athanor 为大模型实验室构建自动化 Post-Training 流水线提供了极具实操价值的工程范式:
- 搭设多智能体共享 Checkpoint 池:在组织内部自动化训练集群中,允许不同实验分支的 Agent 读取彼此历史最优 Checkpoint 并调用
mergekit执行球面线性插值(SLERP/TIES)权重合并,能显著跳出单一超参局部最优; - 开发集与盲测集物理隔离:自动化 RL/SFT Agent 极易针对可见 Dev 指标过拟合,必须在底座服务层强制设立不可见的 Held-out 守护测试集以验证真实泛化能力。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察