当大语言模型(LLM)的输出质量超越人类专家可靠评估的极限时,如何实现不依赖外部人类标注或环境判题器的‘递归自进化(Recursive Self-Improvement, RSI)’?以往在数学、代码等领域依赖编译器(RLVR)的成功范式,在科研探索、复杂论证等无法自动验证结果的开放式非可验证任务(Non-Verifiable Tasks)中彻底失效;单个模型若既当裁判又当考生,又极易陷入同质化自我闭环与评估盲区。知名 AI 实验室 Sakana AI 在最新重磅成果(arXiv:2610.12176,项目主页:sakana.ai/mass)中推出了全新自进化框架 MASS(Multi-Agent Self-Supervision)。MASS 突破性地使用单一基座大模型(如 Qwen3.6-27B),让其同时扮演任务解决者、多智能体工作流优化器与客观评估者三大角色。系统在‘演化工作流结构优化’与‘基于自身生成的高质量轨迹实施监督微调(SFT)’之间交替迭代。经过两轮 MASS 递归自进化循环,模型在复杂科研基准(MLR-Bench、ScienceAgentBench、DSBench 等)上的每输出 Token 性能提升达 1.2x 至 1.6x,对初始基座模型的胜率从第一轮的 53.9% 飙升至第二轮的 69.9%,并证明多智能体自生成轨迹蒸馏的学生模型大幅超越消耗 1.4 倍 Token 训练的单智能体学生模型,论文与项目全貌已正式公布。

核心要点速览

  • ✓Sakana AI 重磅发布 MASS 框架,首创单基座多智能体自监督递归自进化,攻克非可验证任务监督盲区
  • ✓经历两轮自进化循环,对原始基座模型胜率从 53.9% 飙升至 69.9%,每 Token 科研推理能效比提升 1.2x~1.6x
  • ✓多智能体协作轨迹蒸馏效果显著超越单智能体基线,节省超过 1.4 倍训练 Token 消耗
Sakana AI 重磅发布 MASS:单基座多智能体自我监督递归自进化,非可验证任务胜率飙升至 69.9%
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

递归自我改进(Recursive Self-Improvement, RSI)长期被视为通往超人类通用智能(ASI)的核心机制。近期 DeepSeek-R1、o1 等模型通过强化学习与规则编译器(RLVR)在代码、数学等具备确定性单元测试的领域取得了显著突破。然而,现实世界中最具科研与商业价值的高阶智能任务(如科学假设生成、跨学科论文撰写、数据科学因果分析等)普遍属于‘非可验证任务(Non-Verifiable Tasks)’,面临两大难以逾越的理论障碍:

  1. 监督信号枯竭与评估者瓶颈(Supervision Bottleneck):在超人类水平的探索中,外部人类专家已无法提供实时、密集的精准评估;
  2. 单体模型自监督的同质化偏见(Homogeneous Blind Spots):让同一个单体大模型在单轮 Prompt 中既作为答题者又作为自我批评者,模型会天然偏向捍卫自己生成的论点,无法跳出自有认知盲区发现逻辑断层。

架构亮点与底层机制

针对非可验证领域的自进化难题,Sakana AI 团队提出了基于多智能体演化的自监督系统 MASS(arXiv:2610.12176,项目主页 sakana.ai/mass):

  1. 单基座三位一体角色解耦(Single Base, Multi-Agent Roles):MASS 仅使用单个基础开源模型(如 Qwen3.6-27B),通过多样化的提示工程与角色约束,使其同时承担三大正交职责:负责执行底层任务的业务 Agent 群、负责设计与变异交互拓扑图的‘工作流优化器(Workflow Optimizer)’,以及执行无偏盲评的‘仲裁评估器(Evaluator)’;
  2. 交替演化自监督循环(Alternating Evolution & SFT Loop):MASS 的自进化不依赖外部奖励模型。第一阶段,系统在多智能体工作流空间中进行演化搜索,自动发现针对目标问题最优的智能体协作拓扑图(如讨论环路、对抗质疑链、分工树状图);第二阶段,收集该高效工作流生成的高质量执行轨迹,对基座模型执行有监督微调(SFT)。训练后的增强基座再开启下一轮更高维度的多智能体自组织,实现闭环滚雪球式进化;
  3. 多智能体思维多样性抑制过拟合:多智能体间的交互摩擦打破了单体模型的确认偏差,自发产生更具探索性的逻辑链条,为基座模型提供了高质量、泛化性强的自生成合成数据。

权威 Benchmark 与实测跑分对比

研究团队在涵盖前沿科研智能体、数据挖掘与真实复杂推理的四大综合基准(MLR-Bench、ScienceAgentBench、DSBench、AstaBench)上展开了连续两轮自进化迭代测试:

  1. 对基座模型胜率从 53.9% 跃升至 69.9%:在合成测试集的人机双盲对照中,第一轮进化后的模型对原始 Qwen3.6-27B 的胜率为 53.9%;完成第二轮 MASS 自进化后,胜率断崖式暴涨至 69.9%;且第二轮模型在直接对战中击败第一轮模型的概率达 60.8%;
  2. 输出 Token 能效比飙升 1.2x 至 1.6x:在各大科研探索基准上,模型在达到同等或更高推导深度时,平均每输出 Token 的有效得分比初始基准提升了 1.2 倍至 1.6 倍,显著减少了无效空话与思维震荡;
  3. 多智能体数据蒸馏碾压单智能体(Token 效率高 1.4x):对比实验证明,使用 MASS 多智能体轨迹微调的学生模型,性能超越了使用单智能体轨迹且多消耗 1.4 倍 Token 规模 训练的对照组学生模型,验证了多智能体自组织轨迹的数据致密性。

开发者实战落地与开箱指南

MASS 研究成果与多智能体自进化拓扑已在 Sakana AI 官方平台(sakana.ai/mass)发布。这项研究为企业与科研团队指明了‘后 RLVR 时代’的进阶航向:在缺乏单元测试判题器的开放式商业场景中,切勿放任大模型在单轮对话中自说自话。通过构建多智能体演化工作流,利用结构化的角色对抗与盲测仲裁榨取自我监督梯度,不仅能以极高样本效率持续提升开源小钢炮模型的综合智商,更为攻坚未见领域的科研级自主 Agent 奠定了坚实的理论与工程基石。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读机器人代码自进化获重大突破!上海 AI Lab 等开源 RoboRSI:四智能体协同攻克终身学习与技能复用
立即阅读→