arXiv 论文 2611.03233(Yuqi Jia、Yunjie Tian 等 7 位作者)发布 Axion 1.0,一个“权重之外也开源”的 Agent 基础模型:只用两段轻量 SFT 加强化学习,不做专门的 mid-training、DPO 或在线蒸馏,总共约 1.8 万条 SFT 轨迹。训练代码托管在 GitHub 的 bytedance 组织下,训练数据和 Axion 1.0-35B 复现权重(Qwen3.6-35B-A3B 底座,35B 总参 / 3B 激活,Apache 2.0)已上 Hugging Face;论文中的 122B 版本权重标注为即将发布。

核心要点速览

  • ✓配方极简:SFT 一阶段练自包含科学推理,二阶段练工具调用和信息检索,再用 RL 打磨长程交互,共约 18,363 条 SFT 轨迹 + 484 条 RL 任务
  • ✓开源范围包括数据构建、生成、过滤、验证、提示词和训练代码(GitHub),不只是权重
  • ✓35B 复现权重成绩:HLE 52.8、SEAL-0 60.4、FrontierScience Olympiad 85.0、Research 55.0(HF 模型页)
  • ✓论文版 122B 在 HLE(限制网站访问)59.0、FrontierScience Research 66.7;122B 权重尚未放出
  • ✓跑分均为作者自报,HF 页上 Claude Opus 5 的 HLE 为 63.6,Axion 仍落后最强闭源模型
开源 Agent 基础模型 Axion 1.0 发布:2 次 SFT + RL 极简配方,35B(3B 激活)复现权重 Apache 2.0 开放,数据与训练代码全公开
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

开源 Agent 模型越来越多,但大部分只放权重,训练数据、合成流程和 RL 环境都不公开,外人很难复现,也不知道到底是哪一步带来了能力。主流配方还常常叠加 mid-training、DPO、在线蒸馏等多个阶段,成本和复杂度都很高。11 月初公开的 arXiv 论文 2611.03233 提出 Axion 1.0,目标是证明强 Agent 基础模型可以“既开放又简单”。

架构亮点与底层机制

Axion 1.0 只有三个阶段:第一段 SFT 用“模型感知”的方式构造难题,根据底座模型自己的成功解法对题目做对抗式加强,练自包含科学推理;第二段 SFT 从真实公开数据源和确定性计算构造可自动验证的任务,练工具调用和信息检索;最后用异步 RL 强化长程推理与工具交互。两段 SFT 合计约 1.8 万条轨迹。35B 版本基于 Qwen3.6-35B-A3B(35B 总参、3B 激活的 MoE),122B 版本基于 Qwen3.5-122B-A10B。

权威 Benchmark 与实测跑分对比

以下均为作者自报。HF 模型卡上,35B 复现权重 HLE 52.8、BioMysteryBench 35.3、SEAL-0 60.4、HiPhO 45.9、FrontierScience Olympiad 85.0、Research 55.0,和论文版 35B 基本一致。GitHub README 称论文版 122B 在限制网站访问的完整 HLE 上为 59.0,FrontierScience Olympiad 87.0、Research 66.7。同表中 Claude Opus 5 的 HLE 为 63.6,开源模型与最强闭源模型仍有差距。

开发者实战落地与开箱指南

35B 复现权重以 Apache 2.0 开放,可按模型卡用 vLLM 起 OpenAI 兼容服务(示例为 8 卡、BF16、131K 上下文,使用 qwen3 推理与工具解析器);做工具型 Agent 评测还需要自己的工具执行框架。训练数据集 Axion1-0/axion-training-data 和 GitHub 代码可直接用来复现或改造自己的 Agent 训练流程。122B 权重官方标注“即将发布”。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读港大 Dream 团队创立的 DiffuSpace 开源 Clover-35B-A3B 扩散语言模型:单卡 680 tokens/s,SWE-bench Verified 73.6
立即阅读→