现有智能体强化学习(Agentic RL)普遍假设单条轨迹在单一连续累积的上下文会话(Single-Session)中完成,但这与真实生产环境中广泛使用的上下文压缩(Context Compaction)和子智能体派生(Subagent Forking)严重脱节。研究团队提出多会话智能体强化学习框架 Mosaic(arXiv:2610.22174),通过无 Critic 的分层优化将‘会话使用信号’纳入全局优势估计,并根据估计的边际贡献(Marginal Contribution)对每个独立子会话塑形奖励。在 BrowseComp 上的实测表明,Mosaic 在上下文压缩与子智能体分叉两大场景中全面超越传统全局广播基线,且平均消耗更少的会话次数。
核心要点速览
- ✓直击生产级 Agent 核心痛点:首次解决‘上下文压缩(Context Compaction)’与‘子智能体派生(Subagent Forking)’造成的多会话强化学习失配问题
- ✓无 Critic 双层边际贡献分配:轨迹层计入会话开销信号,会话层按估计边际贡献独立塑形优势,淘汰粗暴的全局优势广播
- ✓BrowseComp 提分降耗双赢:基于 Qwen3.5-4B 在压缩与分叉双场景全面击败基线,且单任务平均消耗的会话数量显著减少

把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
在现代 Coding Agent(如 Claude Code、Antigravity、OpenHands)与深度研究智能体的工程架构中,为了突破上下文长度限制并隔离噪声,系统广泛依赖两大核心机制:上下文压缩(Context Compaction,即自动摘要并开启新会话)与子智能体分叉(Subagent Forking,即派生独立子会话并行探索)。这意味着一次完整的端到端任务轨迹在物理上横跨了多个独立的上下文会话(Multi-Session)。然而,现有的智能体强化学习算法全部建立在“单会话连续上下文(Single-Session)”假设之上;若简单粗暴地将最终轨迹得分均匀广播(Broadcast)给所有子会话,模型既无法区分哪个子会话真正做出了核心贡献、哪个子会话在空转浪费算力,也无法学会何时该触发压缩或派生子智能体。
架构亮点与底层机制
为填补训练假设与真实多会话推理架构之间的鸿沟,研究团队提出了 Mosaic(Multi-Session Agentic Reinforcement Learning) 框架:
- 形式化定义多会话智能体强化学习范式:首次将包含任意数量上下文压缩段与子智能体分叉树的轨迹纳入统一 RL 优化目标;
- 无 Critic 分层优势优化(Critic-Free Hierarchical Optimization):在宏观轨迹层级(Trajectory Level),Mosaic 将会话调用频次与资源消耗信号融入全局优势估计,抑制无节制滥开子会话;在微观会话层级(Session Level),算法评估每个独立会话对最终任务推进的边际贡献(Estimated Marginal Contribution),据此精细化重塑各子会话的局部优势值,彻底淘汰一刀切的全局优势广播。
权威 Benchmark 与实测跑分对比
在复杂长程搜索与推理基准 BrowseComp 上基于 Qwen3.5-4B 进行的对比实验证实了 Mosaic 的显著优越性:
- 上下文压缩与子智能体分叉双场景全胜:无论是纵向的周期性上下文压缩模式,还是横向的动态子智能体派生模式,Mosaic 的任务解决率均显著超越传统的轨迹优势广播法(Trajectory Broadcasting);
- 会话分配效率大幅跃升:在取得更高准确率的同时,经 Mosaic 训练的智能体平均消耗的会话数量显著减少,证明模型真正学会了“好钢用在刀刃上”的高效会话调度策略。
开发者实战落地与开箱指南
Mosaic 的训练代码与多会话采样管线已开源于 GitHub(https://github.com/LARK-AI-Lab/Mosaic):
- 训练原生支持
/compact与subagent的模型:在为支持子智能体编排的 Agent Harness 训练基座模型时,切勿将各子智能体的 Rollout 简单拼接成单条扁平序列,应接入Mosaic按子会话边际信息增益独立赋权; - 优化子智能体调用成本:引入 Mosaic 的轨迹级会话使用惩罚项,可有效根治智能体在简单任务上盲目派生 5–10 个冗余 Subagent 的通病。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察