AI 编程实时动态与要闻

破解上下文压缩与子智能体分叉 RL 难题!Mosaic 首创多会话智能体强化学习:按边际贡献精准分配跨会话优势

现有智能体强化学习(Agentic RL)普遍假设单条轨迹在单一连续累积的上下文会话(Single-Session)中完成,但这与真实生产环境中广泛使用的上下文压缩(Context Compaction)和子智能体派生(Subagent Forking)严重脱节。研究团队提出多会话智能体强化学习框架 Mosaic(arXiv:2610.22174),通过无 Critic 的分层优化将‘会话使用信号’纳入全局优势估计,并根据估计的边际贡献(Marginal Contribution)对每个独立子会话塑形奖励。在 BrowseComp 上的实测表明,Mosaic 在上下文压缩与子智能体分叉两大场景中全面超越传统全局广播基线,且平均消耗更少的会话次数。

破解上下文压缩与子智能体分叉 RL 难题!Mosaic 首创多会话智能体强化学习:按边际贡献精准分配跨会话优势

核心要点速览

  • 直击生产级 Agent 核心痛点:首次解决‘上下文压缩(Context Compaction)’与‘子智能体派生(Subagent Forking)’造成的多会话强化学习失配问题
  • 无 Critic 双层边际贡献分配:轨迹层计入会话开销信号,会话层按估计边际贡献独立塑形优势,淘汰粗暴的全局优势广播
  • BrowseComp 提分降耗双赢:基于 Qwen3.5-4B 在压缩与分叉双场景全面击败基线,且单任务平均消耗的会话数量显著减少
阅读全文
关联模型 / 智能体 / 厂商:

技能与策略共生进化!RSIPO 智能体强化学习算法:动态贝叶斯收缩校准,ALFWorld 成功率登顶 98.6%

港中文(CUHK)与腾讯等团队提出面向长程智能体强化学习的递归自改进策略优化算法 RSIPO(Recursive Self-Improving Policy Optimization)。针对现有在线自蒸馏(OPSD)普遍依赖静态特权技能且教师监督存在噪声的缺陷,RSIPO 首次实现“智能体技能”与“策略网络”在训练全程的双向共生演进:策略模型从完成轨迹中自主提取技能并通过轨迹重放优化技能生成,同时引入经验贝叶斯收缩(Empirical Bayes Shrinkage)动态校准学生对教师指导的信任权重。Qwen2.5-7B 在具身交互 ALFWorld 上取得 98.6% 成功率,比原生 GRPO 飙升 17.4%。

技能与策略共生进化!RSIPO 智能体强化学习算法:动态贝叶斯收缩校准,ALFWorld 成功率登顶 98.6%

核心要点速览

  • 技能与策略双向共进化:策略自身从探索轨迹中提炼技能并优化生成质量,告别传统 OPSD 静态先验技能库的死板限制
  • 经验贝叶斯收缩置信度校准:首次量化特权教师信号的不稳定性,自适应调节学生模型对教师指导的吸收比例,消除噪声梯度的负迁移
  • 具身智能体登顶 98.6%:在 ALFWorld 具身任务中实现 98.6% 惊人通过率,比标准 GRPO 提高 17.4 个百分点,搜索型 Agent 同样实现跨越式提升
阅读全文
关联模型 / 智能体 / 厂商:

隐状态超越 Token 概率!PR-OPD 特权表征自蒸馏:Agent 强化学习无师自通,WebShop 飙升 14 分

大语言模型智能体传统强化学习长期受制于单次回报稀疏与表层 Token 概率对齐的低效性。研究团队提出 PR-OPD(特权表征在线自蒸馏):发现给智能体注入特权技能上下文仅改变不到 25% 的采样 Token 概率,却重塑了超过 80% 的深层隐状态。PR-OPD 通过事后技能生成与无梯度教师对齐全层投影表征,在零外部教师、零推理开销下使 WebShop 准确率飙升 14.0 分、ALFWorld 成功率提升 4.7 分。

隐状态超越 Token 概率!PR-OPD 特权表征自蒸馏:Agent 强化学习无师自通,WebShop 飙升 14 分

核心要点速览

  • 颠覆传统认知:特权技能在让智能体成功率提升 14 分的同时仅改变 25% 的输出概率,却深度重塑了 80% 以上的内部隐藏层表征
  • PR-OPD 架构创新:基于自身轨迹反思生成事后技能,通过逐层投影隐状态与影子教师对齐,完全杜绝外部教师依赖与推理开销
  • 双料基准登顶:在 WebShop 准确率暴增 14.0 个百分点,ALFWorld 成功率提升 4.7 个百分点,收敛速度达到标准 KL 对齐的 3.2 倍
阅读全文
关联模型 / 智能体 / 厂商:

万亿参数跨集群权重同步狂飙 40 倍!NVIDIA 开源 NeMo-DCR:比特级精确增量压缩,87.5 分钟骤降至 150 秒

在大规模智能体强化学习(Agentic Reinforcement Learning, RL)体系中,训练(Training)与推演环境(Rollout)通常解耦部署在不同的 GPU 超算集群甚至跨地域数据中心。在每轮策略更新后,最新的权重必须火速同步(Refit)至负责海量 Agent 交互的 Rollout 集群。然而,传输一个完整的 1T(万亿参数)稠密 Checkpoint 在两个跨区域 AWS 数据中心之间耗时高达 87.5 分钟,导致昂贵的 Rollout 集群陷入漫长闲置等待。针对这一业界终极痛点,NVIDIA 研究团队正式推出了突破性的比特级精确增量压缩同步系统 NeMo-DCR(arXiv:2610.08430)。研究发现,在标准 BF16 格式训练中,单步策略迭代仅有约 1% 的权重实际发生比特变动。NeMo-DCR 利用固定仿射映射将训练分片增量无损投影至规范坐标系,并首创可压缩 XOR 掩码保证比特级完全精确(Bit-Exact);配合中继树(Relay Tree)流式传输与原子联合提交机制,在 30B 至 1T 参数模型上实现 12 到 40 倍的同步提速!在 1T 巨型模型跨区域同步中,耗时从 87.5 分钟断崖式下跌至 150 秒,为万亿参数级智能体 RL 工业化铺平了道路。

核心要点速览

  • NVIDIA 开源 NeMo-DCR 系统,在万亿参数(1T)规模下实现 12 到 40 倍的跨集群权重同步加速
  • 实测 BF16 训练单步仅 1% 权重变动,首创可压缩 XOR 掩码与仿射映射,达成 100% 比特级无损精确(Bit-Exact)
  • 1T 巨型模型跨数据中心同步耗时由 87.5 分钟断崖式压缩至 150 秒,终结智能体强化学习算力闲置死锁
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

DeepSeek 披露 DSec 弹性计算沙箱架构:日均运行 300 万沙箱,支撑下一代 Agent 强化学习

DeepSeek(@deepseek_ai)正式公布了其自研的 DSec(DeepSeek Elastic Compute)大规模分布式沙箱基础设施。该平台日均处理超过 300 万次独立轻量沙箱启动与交互,为 DeepSeek-V4.1-Flash 及新一代推理编码智能体的强化学习(RL)提供高并发、亚秒级冷启动与严密安全隔离的沙箱环境。

DeepSeek 披露 DSec 弹性计算沙箱架构:日均运行 300 万沙箱,支撑下一代 Agent 强化学习

核心要点速览

  • 日均承载 3,000,000+ 次容器与微虚拟机沙箱交互,支撑大规模 Agent 代码执行与工具调用验证。
  • 端到端沙箱启动耗时压缩至 180ms,支持千万级并行任务调度与内存状态快照恢复。
  • 通过多层内核隔离与自适应网络出站审计,彻底阻断恶意 Agent 逃逸与外联风险。
  • 国内开发者可直接通过官方开源项目与接口文档了解其 Agent RL 训练方法学。
阅读全文

Prime Intellect 公开 Prime Sandboxes:面向 Agentic RL 的 MicroVM,号称比同行便宜约 3 倍

Prime Intellect(@PrimeIntellect)正式公开 Prime Sandboxes:为 Agentic RL 训练打造的硬件虚拟化 MicroVM。支持 Docker Compose、后台任务与内核级负载,可弹性到数万并发;对接 verifiers / prime-rl / Prime Tunnels,并提供超过 36.5 万预置环境。博客称内部已创建约 3000 万个沙箱;默认账号并发上限 1,024,无订阅门槛,定价至 12 月 22 日前号称比其他供应商便宜约 3 倍(例:vCPU $0.02/小时)。

Prime Intellect 公开 Prime Sandboxes:面向 Agentic RL 的 MicroVM,号称比同行便宜约 3 倍

核心要点速览

  • 官方博文 Prime Sandboxes:MicroVM 自带客户机内核,对比 gVisor 容器更适合 Docker Compose 与系统级 Agent 环境。
  • 内部已创建约 3000 万 个沙箱;产品页展示实时并发与总量计数器(会随时间变化)。
  • 预置环境超过 365,000;集成 verifiers / prime-rl。
  • 默认并发上限 1,024;公开价例:vCPU $0.02/小时、内存 $0.0125/GiB/小时,至 2026-12-22 前号称约便宜 3 倍。
  • 开箱:prime sandbox create / prime sandbox run <id> '…',文档见 docs.primeintellect.ai/sandboxes/overview。
阅读全文