Adobe 提出 DISCO 架构解耦百万 Token 长上下文计算:MapReduce 式分离定位与推理,终结“上下文退化”并将推理开销暴降 80%
尽管当代超大语言模型宣称具备百万甚至千万级上下文窗口,但在处理超长文档与巨型工程代码库时,推理质量往往随着上下文增长而急剧雪崩——这种学术界称之为“上下文退化”(Context Rot)的普遍顽疾,根源于单体架构中海量信息定位(Grounding)与复杂逻辑推理(Reasoning)在同一网络内发生的表征饱和与注意力分散。Adobe Research 联合宾州州立大学团队提出突破性分布式长上下文架构 DISCO:借鉴 Apache Spark / MapReduce 计算模型,将长文本切片分发至一组轻量级 Worker 节点并发执行局部锚定,由经过强化学习(GRPO)调优的中心 Driver 模型动态将复杂问题拆解为原子级抽取指令并聚合裁决。在百万级 1M Token RULER-QA 基准上,单体模型性能全线崩溃而 DISCO 仍保持 78.4% 高准确率,在 LongBench v2 跨多项任务平均提升 9.8 分,匹敌 Gemini-3-Pro 顶级水准的同时将推理成本直接削减超 80%。
核心要点速览
- 根治百万 Token“上下文退化”沉疾:首次在系统层解耦信息定位(Grounding)与深度推理(Reasoning),彻底解决长程注意力和 KV Cache 噪声造成的表征容量饱和。
- Spark/MapReduce 式分布式智能体编排:中心 Driver LLM(经 GRPO 强化学习训练)负责规划与原子任务分解,轻量 Worker LLM 集群并行扫描局部切片并提炼确凿证据,杜绝单点长文本幻觉。
- 百万 Token 实测 78.4% 胜率与 80% 成本骤降:在 1M Token RULER-QA 评测中单体基线全线失效而 DISCO 斩获 78.4% 准确率,LongBench v2 提升达 9.8 分,以不到 20% 的推理成本对标闭源超大旗舰模型。
关联模型 / 智能体 / 厂商:
⚡ DISCO⚡ Gemini-3-Pro-Preview⚡ Llama-3.1-70B⚡ Qwen 2.5 72B🤖 Long-Context Agent🤖 Distributed Coding Agent🤖 DISCO Driver🌐 Adobe Research🌐 Penn State University🌐 arXiv