开源 Agent 基础模型 Axion 1.0 发布:2 次 SFT + RL 极简配方,35B(3B 激活)复现权重 Apache 2.0 开放,数据与训练代码全公开
arXiv 论文 2611.03233(Yuqi Jia、Yunjie Tian 等 7 位作者)发布 Axion 1.0,一个“权重之外也开源”的 Agent 基础模型:只用两段轻量 SFT 加强化学习,不做专门的 mid-training、DPO 或在线蒸馏,总共约 1.8 万条 SFT 轨迹。训练代码托管在 GitHub 的 bytedance 组织下,训练数据和 Axion 1.0-35B 复现权重(Qwen3.6-35B-A3B 底座,35B 总参 / 3B 激活,Apache 2.0)已上 Hugging Face;论文中的 122B 版本权重标注为即将发布。
核心要点速览
- 配方极简:SFT 一阶段练自包含科学推理,二阶段练工具调用和信息检索,再用 RL 打磨长程交互,共约 18,363 条 SFT 轨迹 + 484 条 RL 任务
- 开源范围包括数据构建、生成、过滤、验证、提示词和训练代码(GitHub),不只是权重
- 35B 复现权重成绩:HLE 52.8、SEAL-0 60.4、FrontierScience Olympiad 85.0、Research 55.0(HF 模型页)
- 论文版 122B 在 HLE(限制网站访问)59.0、FrontierScience Research 66.7;122B 权重尚未放出
- 跑分均为作者自报,HF 页上 Claude Opus 5 的 HLE 为 63.6,Axion 仍落后最强闭源模型





