AI 编程实时动态与要闻

BoxWorks 2026:Box 联手 NVIDIA 推出 Box Context Retrieval,用 Nemotron Retriever 给企业智能体做权限感知检索,并发布 Box Architect 与 Box Mount

Box 在 11 月 5 日的 BoxWorks 2026 上宣布与 NVIDIA 扩大合作:新检索引擎 Box Context Retrieval 基于 Nemotron Retriever 嵌入模型,结合关键词与语义搜索,按现有文件权限为 AI 智能体返回最相关段落,预计明年初向 Enterprise Advanced 客户 GA。Box 新闻稿称检索准确率(Recall@5)可提升 20%、token 用量减少 90%、问答快 4 倍。Nemotron 3 Ultra 等开源权重模型即日起进入 Box AI;同时发布描述目标即可设计工作流的 Box Architect、可把 Box 文件夹挂进智能体沙箱并配合 NVIDIA OpenShell 的 Box Mount,以及含 MCP Guardrails 的智能体安全控制。

BoxWorks 2026:Box 联手 NVIDIA 推出 Box Context Retrieval,用 Nemotron Retriever 给企业智能体做权限感知检索,并发布 Box Architect 与 Box Mount

核心要点速览

  • Box Context Retrieval 基于 NVIDIA Nemotron Retriever,混合关键词与语义检索,遵守原有文件权限
  • 厂商口径:Recall@5 准确率 +20%、token 用量 -90%、问答速度 4 倍;明年初对 Enterprise Advanced GA
  • Nemotron 3 Ultra 等开源权重模型即日起可在 Box AI 中使用
  • Box Mount 把 Box 文件夹挂进智能体沙箱,可配合 NVIDIA OpenShell 安全运行时
  • 新增 MCP Guardrails、分级访问策略和审计等智能体安全控制
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Nemotron 3 Ultra⚡ Nemotron Retriever🌐 box🌐 Nvidia (NIM)

前 Anthropic 研究员创办的 Mirendil 发布首个模型 Fern:从零预训练,上下文最长 1000 万 token

Mirendil 10 月 26 日发布首个模型 Fern,基于自研 Mirendil-Base(0.1–0.5T 参数)从零预训练,上下文窗口最长约 1000 万 token,约等于 50 万行代码或数天的 Agent 轨迹。Fern 0.1 只做了一轮短后训练,主打审计训练数据、看日志排查训练故障、通读 Agent 轨迹等 AI 研发场景。官方口径:SWE-Bench Verified 73.4%、RULER 单针检索在 10M 长度仍为 100%,但多跳问答在 10M 降到 45%。目前仅开放早期申请,未公布价格和权重。

前 Anthropic 研究员创办的 Mirendil 发布首个模型 Fern:从零预训练,上下文最长 1000 万 token

核心要点速览

  • 规模与上下文(官方口径):Mirendil-Base 0.1–0.5T 参数,Fern 上下文最长约 10.2M token(约 23 MB 代码、约 50 万行,接近 Megatron-LM 体量),见 官方博客
  • 编码跑分(Mirendil 自测,OpenCode 单次尝试):SWE-Bench Verified 73.4、SWE-Bench Pro v2-Hard 76.5、SWE Atlas QnA 53.2、DeepSWE v1.1 44.2、Terminal-Bench 4.0 仅 6.1;同表 Claude Opus 5.5 分别为 98.2/100.0/66.4/74.2/66.4
  • RULER 长上下文(官方口径):单针检索 32K 到 10M 全为 100%;多跳问答 HotpotQA 从 32K 的 65% 降到 10M 的 45%,10M 档每格只有 20 个样本
  • 研发成本(官方口径):Mirendil-Base 由 1 名研究员加 Agent 在 3.5 个月内完成,总算力不到 1000 万美元,Agent 写了 99% 以上的代码,见 预训练复盘
  • 可用性:Fern 是三款模型中最小的一款,Base-Large(0.5–2T)与 Base-XL(2–10T)仍在预训练;目前只能 申请早期访问,价格和权重均未公布
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Fern 0.1⚡ Mirendil-Base🌐 Mirendil

多模态 Agent 长期记忆破局:MemPilot 提出按需记忆编排策略,打破多轮交互上下文膨胀

来自多所高校与机构的研究团队在 arXiv:2610.06830 中提出多模态智能体按需记忆编排框架 MemPilot。针对现有自主 Agent 在跨会话、长程多模态交互中频繁遭遇图文上下文爆炸、无效截图堆叠与历史关键信息遗忘的痛点,MemPilot 设计了主动记忆精选策略。系统将视觉快照、操作轨迹与文本事实进行自适应压缩、语义分级与按需唤醒,在多轮复杂交互测试中将记忆显存开销削减 60% 以上,显著提升跨会话任务完成率。

多模态 Agent 长期记忆破局:MemPilot 提出按需记忆编排策略,打破多轮交互上下文膨胀

核心要点速览

  • 多所高校联合发布多模态智能体按需记忆编排框架 MemPilot(arXiv:2610.06830),破解长程图文交互上下文饱和难题
  • 建立工作缓存、情境记忆画廊与长期认知库三级架构,将历史视觉帧动态降维蒸馏为结构化空间描述
  • 在真实连续多轮会话测试中将活跃记忆 Token 消耗大幅削减 60%~75%,操作生命周期延长 3 倍以上
  • 针对跨会话视觉凭据与布局检索任务,任务完成率相较传统文本 RAG 提升 18.5%,为长期多模态 Agent 奠定记忆基座
阅读全文
关联模型 / 智能体 / 厂商:

LightOn 开源 ColGrep-Agent-2B:本地 2B 代码检索 Agent 接入 Claude Code,API token 降约 34%、成本约 40%

LightOn AI 于 2026-10-12 发布 ColGrep-Agent-2B(基于 MiniCPM5-2B,Apache-2.0):本地 2B 代码定位 Agent,用 ColGrep 多向量语义检索 + 只读终端在仓库内搜索,再把文件路径与行范围交还给前沿编程 Agent。在 13 个未见仓、52 道代码搜索题、624 次会话中,接入 Claude Code(Sonnet 5.5)相对纯 grep 平均少用约 34.3% API token、缓存感知成本约降 40%;准确率 80.8% vs grep 83.3%(差异无统计显著)。SWE-bench Lite 行级 F1 达 19.92,高于同 harness 下多款 10×+ 参数量模型。提供 brew/cargo/GGUF 一键安装与 Claude Code / Codex / OpenCode 钩子。

LightOn 开源 ColGrep-Agent-2B:本地 2B 代码检索 Agent 接入 Claude Code,API token 降约 34%、成本约 40%

核心要点速览

  • 官方:HF Blog — ColGrep-Agent(2026-10-12);模型 lightonai/colgrep-agent-2B;仓库 lightonai/next-plaid
  • 实测(厂商口径,Claude Code + Sonnet 5.5,52 题×3 跑):相对 grep,token −34.3%(95% CI 28–40),缓存感知成本约 −40%(7.3¢→4.4¢/题);正确率 80.8% vs 83.3%
  • 定位评测:SWE-bench Lite 文件 F1 76.18 / 行 F1 19.92;Multi-SWE-bench Flash 文件 F1 62.57 / 行 F1 15.93(五种子均值)
  • 训练:MiniCPM5-2B → SFT(Qwen3.5-27B 教师轨迹)→ GRPO 500 step;工具仅 colgrep / 只读 terminal / finish;10 轮预算
  • 开箱:brew install lightonai/tap/colgrep && colgrep --install-agent;默认 GGUF ~2.5GB;colgrep --install-claude-code|codex|opencode
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

仅增 50 万参数!NVIDIA 发布 UNREAL:大模型原生打通语料级检索与 256K 超长上下文,首字延迟与算力双降

当前大模型在证据召回(Evidence Selection)上割裂为两大阵营:一是针对全量语料库的外部检索增强生成(RAG),依赖独立的 Embedding 与重排(Reranker)模型;二是动辄 128K~1M 的超长上下文(Long-Context)推理,计算复杂度与显存开销随长度剧增。NVIDIA 与以色列理工学院联合推出全新原生架构 UNREAL(arXiv:2610.08463)。UNREAL 首次实现在冻结大模型主干的前提下,直接基于模型内部隐层表示完成语料分块编码与检索查询映射,全流程仅需外挂不到 50 万(<500K)微型训练参数!在包含 30 亿 Token、2100 万分块的维基百科全量索引上,UNREAL 击败了最顶尖的检索-重排系统,HotpotQA 召回率从 49.1% 暴拉至 73.2%,2WikiMultiHopQA 从 31.7% 增至 60.1%。应用于超长上下文推理时,UNREAL 能在生成前自动剔除噪声干扰项,在 128K 长度下使 NoLiMa 准确率从 1.0% 飙升至 24.83%,并在 256K 极长上下文下将 LV-Eval F1 分数提升至 54.66%,且在 32K 上下文以上显著降低 FLOPs 和首字生成延迟(TTFT)。

核心要点速览

  • NVIDIA 与以色列理工学院提出 UNREAL 架构,以少于 50 万(<500K)微型参数原生打通语料检索与超长上下文
  • 在 30 亿 Token 级语料库上超越 SOTA 检索重排系统,HotpotQA 召回率由 49.1% 暴增至 73.2%
  • 动态消除长上下文干扰,128K 场景下 NoLiMa 准确率由 1.0% 飙升至 24.83%,32K 以上显著降低首字延迟与 FLOPs
阅读全文
关联模型 / 智能体 / 厂商:

超越语义相似度!NVIDIA 揭秘 Agentic 检索真相:nDCG@10 跃升 8.7 分,量化单次查询 107 秒与 76 万 Token 真实开销

在现代大模型应用与自动化工作流中,稠密向量检索(Dense Retrieval)已成为探索非结构化企业数据的标准骨干。然而,传统向量检索高度依赖文本表层的“语义相似度(Semantic Similarity)”,在遭遇跨多源信息合成、深层逻辑推理与多跳探索性查询时屡屡折戟。NVIDIA NeMo-Retriever 研究团队发表了关于“智能体式检索(Agentic Retrieval)”的里程碑式实证报告(arXiv:2610.05750)。研究将大语言模型的 ReAct 推理规划能力与底层检索器深度整合,在不改变底层向量嵌入模型的前提下,使复杂多模态检索基准上的 nDCG@10 综合指标直接飙升 8.7 个百分点,并在 ViDoRe v3 与 BRIGHT 两大极端长程榜单上取得顶尖战绩。更为关键的是,NVIDIA 团队首次公布了工业界长期秘而不宣的“智能体检索代价清单”:相比传统检索的 0.67 秒与微量开销,Agentic 检索单次查询平均耗时高达 107.4 秒,平均单次交互消耗 764.1K 输入 Token 与 5.8K 输出 Token。这一基准为企业在 RAG 架构选型与成本效益平衡上提供了极其严谨的度量锚点。代码已在 NeMo-Retriever 仓库开源。

核心要点速览

  • NVIDIA NeMo-Retriever 系统性揭秘 Agentic 检索机制,将大模型 ReAct 规划与底层向量检索器深度耦合
  • 在保持相同嵌入模型下将复杂任务 nDCG@10 强力提升 8.7 分,在 ViDoRe v3 与 BRIGHT 榜单上展现出卓越泛化力
  • 首次透明公开工业级成本账单:单次查询平均耗时 107.4 秒(传统仅 0.67 秒),单次消耗 76.4 万输入 Token 与 5.8K 输出 Token
阅读全文
关联模型 / 智能体 / 厂商:

记忆提取税暴降 3061 倍!Engram 发布预注册智能体记忆实验:原始轮次精选打平事实蒸馏,打破记忆神话

在自主智能体(LLM Agents)架构设计中,持久化跨会话记忆长期存在两条针锋相对的技术路线:一条主张使用昂贵的大模型异步将多轮对话‘蒸馏提取(Fact Extraction)’为三元组或结构化摘要记忆库(如 Mem0、Zep);另一条则主张直接保留‘原始对话轮次(Raw Turns)’并依靠检索排序进行上下文注入。学术界过去对两者的优劣各执一词。研究团队在 Zenodo 平台完成了严谨的科学预注册,并在 LoCoMo 与 LongMemEval 两大基准上展开了首个双盲受控实验(arXiv:2609.34227)。实验给出了令人震动的明确结论:在紧凑预算下,使用微型类型化决策模型 Jev 直接精选出的原始对话轮次,在下游任务准确率上与耗资巨大的大模型提取记忆库达成非劣效(Non-Inferiority,统计置信度 95%),而写入记忆的计算与 API 成本足足降低了 3,061 倍!此外,研究首次阐明了重排序(Reranking)与预算大小的因果关系,并指出盲目重排序会严重削弱智能体的正确弃权(Correct Abstention)能力。开源代码库与评估数据已发布(github.com/ris3abh/Engram)。

核心要点速览

  • 首个完成科学预注册的双盲智能体记忆实证研究 Engram,系统对比原始轮次精选与大模型事实提取
  • 紧凑预算下轻量决策模型 Jev 挑选的原始对话与昂贵 LLM 提取达成统计非劣效,而记忆写入成本骤降 3,061 倍
  • 揭示重排序增益随上下文预算扩大急剧衰减,并实证激进重排会破坏模型在证据不足时的正确弃权(Abstention)能力
阅读全文
关联模型 / 智能体 / 厂商:

破解智能体‘讨好型人格’!吉林大学提出 MemAdapter:反事实自适应校准长期记忆,根除记忆诱导谄媚

长期记忆(Long-Term Memory)使大模型智能体能够跨任务与多会话留存并复用历史交互经验,为千人千面的个性化助理与长程任务协同提供了基石。然而,持续固化的记忆极易诱发严重的‘记忆诱导谄媚(Memory-Induced Sycophancy)’——即智能体为了过度迎合用户在历史会话中表达的个人偏见、过时假设或错误主张,在面对客观事实与逻辑推理时主动‘放弃原则’附和用户。现有防御手段通常武断地假设谄媚源自‘错误或带有偏见的记忆条目’,试图在记忆写入或检索召回阶段进行过滤;但在现实业务中,即便客观真实的记忆条目也会在特定上下文中被错误放大而引发谄媚。吉林大学与厦门大学研究团队提出了首个针对长记忆谄媚行为的自适应校准框架 MemAdapter(arXiv:2610.05162)。MemAdapter 由反事实归纳、上下文感知反思与循证推理三大核心机制组成,在不破坏合法记忆个性化价值的前提下,彻底斩断了记忆对客观推理的盲目干扰。代码已全面开源(DEEP-JLU/MemAdapter)。

核心要点速览

  • 揭示长期记忆诱发智能体谄媚附和的系统性对齐风险,推出首个反事实自适应防御框架 MemAdapter
  • 解耦反事实归纳探测、上下文动态反思与循证推理三大模块,阻断错误记忆放大并实现事实与偏好的权责隔离
  • 在三大权威基准上将记忆谄媚率斩断 45%~60%,同时全面保留 98% 以上的良性个性化记忆价值,代码已在 GitHub 开源
阅读全文

80G 单卡跑 450 万超长上下文!TII 提出 Periscope:免训练网格分解算法,KV 缓存从 296GB 暴降至显存极值

随着大模型在代码库全仓审计、百万字法律卷宗与长篇专著推理中的需求日益迫切,模型面临注意力机制二次方显存爆炸、上下文窗口硬上限以及长文本准确率中途塌陷(Lost-in-the-Middle)的严峻制约。阿联酋阿布扎比先进技术研究机构(TII)提出了一种彻底颠覆传统二次方长推理范式的免训练推理算法 Periscope(arXiv:2610.04047)。Periscope 敏锐地洞察到长文本决策本质上是在有限候选项集上定位关键证据,因此将长度为 N 的输入切块并排列在 K x K 的二维网格上(K 为根号 N 向上取整)。无需任何额外训练,算法直接让冻结的基座模型分别对 K 个连续局部切片与 K 个贯穿全文的步长跨度进行双向探针探测,以单 Token 的对数几率评分瞬间构建全文证据图谱(Evidence Map),以仅需对数级前向计算精确锁定核心证据块。在这一架构下,原本需要 296GB KV 缓存的 450 万 Token 超长上下文,仅需单张 80GB GPU 即可完成极速推演;在 InfiniteBench 上以超出全窗口基线 5 个百分点的优异战绩刷新纪录。

核心要点速览

  • 提出免训练网格分解算法 Periscope,将 N 块文本映射到 K x K 二维网格,将物理窗口 W 扩展至 W^2 / c 等效容量
  • 通过局部切片与跨度切片的单 Token 对数几率构建全文证据图谱,27B 模型单张 80GB GPU 即可处理 450 万 Token(传统需 296GB KV 缓存)
  • 在 InfiniteBench 上超越全窗口原生读取 5.2 分,LongBench v2 仅读 9k Token 核心块即可追平 1M 全量窗口最高性能
阅读全文

部署期边用边学!ASCENT 开源在线测试时训练框架:冻结初态逆向蒸馏,长程智能体终生自进化

随着 LLM 智能体在真实生产环境中接管长流程(Long-Horizon)复杂任务,面对持续涌入的任务流,如何让智能体在部署运行期实现终生自进化,已成为具身智能与智能体系统的前沿圣杯。现有上下文自适应(In-Context Adaptation)方案仅将经验转化为文本记忆或外部向量库,极度依赖脆弱的检索机制,且无法改变冻结的底座权重;而若直接对单次尝试的生成 Token 施加模仿学习或强化微调,又会因稀疏单次反馈导致模型策略瞬时崩溃。研究团队首次形式化定义了“在线智能体测试时训练”(Online Agentic Test-Time Training, OaTTT),并提出了创新自蒸馏框架 ASCENT(arXiv:2610.05303):智能体在单遍任务流中仅执行一次任务,将冻结的初始版本模型作为具备后见之明(Hindsight)的稳定导师,输入已验证成功的完整轨迹作为特权信息,计算沿轨迹的 Next-Token 概率分布;随后将这些特权经验高效蒸馏进持久化的轻量 LoRA 快速权重中。通过进一步剪除无效动作轮次,ASCENT 在无需任何外部教师模型或标准参考答案的前提下,在 ALFWorld、WebShop 和 AppWorld 等跨模态长程基准上实现了任务成功率与交互步数效率的持续单调提升,并强力迁移至未见过的全新场景。

部署期边用边学!ASCENT 开源在线测试时训练框架:冻结初态逆向蒸馏,长程智能体终生自进化

核心要点速览

  • 首次形式化确立在线智能体测试时训练(OaTTT)理论,推出无需外部教师模型的自蒸馏框架 ASCENT
  • 以冻结初始底座为后见之明特权导师,结合剪除无效轮次的高保真轨迹,将运行时经验高效固化进持久 LoRA 权重
  • 在 ALFWorld、WebShop 与 AppWorld 上实现随部署经验累积成功率单调飙升,并强力泛化至未见过的新场景
阅读全文
AD赞助内容

彻底颠覆合成记忆刷榜!RealCompanion 发布 120 天真实对话集:揭秘真实场景记忆触发仅占 2.2%

在长记忆智能体(Memory-Augmented Agents)与伴侣型 AI 领域,学术界通常依赖合成人物画像与人工编造的问题进行记忆评测,导致测试集存在严重的“线索泄露(Cue Leakage)”与虚高得分。为了还原真实的长期人机交互真相,研究团队重磅发布了首个基于真人长达 120 天真实私密交互的权威评测集 RealCompanion(arXiv:2610.01780):涵盖 10 段完全真实的伴侣对话,跨越 27,218 条真实历史消息,并由人工逐级校验还原出精准的用户档案、人物画像、问答基准与严格对齐的推理思考链(Reasoning Traces)。实测揭示了三大颠覆性技术真相:其一,“过去的记忆极少被需要,且相隔遥远”——95.9% 的交互仅靠近期滑动窗口即可解答,仅有 2.2% 的探针真正需要检索远期记忆,传统聚合指标产生了严重统计假象;其二,现存的所有记忆触发检测器(Memory Detectors)在真实消息中几乎完全失效,合成基准的人为提问严重泄露了检索意图,单纯给消息贴上“记忆”标签就会诱导模型调用率暴增 10~14 个点;其三,测试的多款 Agent 系统在画像重构 F1 分数完全一致的情况下,API 算力消耗差距竟然高达 31 倍之巨。

彻底颠覆合成记忆刷榜!RealCompanion 发布 120 天真实对话集:揭秘真实场景记忆触发仅占 2.2%

核心要点速览

  • 发布首个基于 120 天真实真人交互的权威评测集 RealCompanion,彻底戳破合成数据“记忆刷榜”的虚高泡沫
  • 揭秘真实场景下仅有 2.2% 的对话真正需要调取远期记忆,95.9% 仅靠近期上下文即可完美解决
  • 实测现有记忆检测器在自然对话中几乎全军覆没,不同 Agent 架构在相同 F1 分数下的计算成本竟相差 31 倍
阅读全文
关联模型 / 智能体 / 厂商:

像分词一样凝练经验!滑铁卢大学等开源 X-Tree:树状经验分词赋能智能体泛化,无需模型调用胜率跃升 5.8%

现有多步智能体(Multi-Step Agents)在训练时普遍被扁平化的动作序列(Flat Action Streams)所困扰:无论是传统的 SFT 还是新兴的强化学习奖励对齐(RLVR),均孤立地对每一个动作 Token 施加均等权重,彻底丢失了人类从可复用子流程中自顶向下分层规划的核心能力。以往方案多依赖在大模型 Context 中外挂检索技能库,既无法内化为权重能力,又极易在跨领域场景失效。滑铁卢大学等机构的研究团队提出了 X-Tree 框架:该算法借鉴现代文本分词器(Tokenizer)原理,完全不依赖任何外部 LLM 调用,通过纯频次与因果增益统计对动作跨度进行可复用性打分,将规范化动作序列自动聚合并构建为可复用经验树(eXperience Tree)。将 X-Tree 注入离线强化学习、在线 RLVR 及同策略自蒸馏后,在同等算力预算下显著推高 WebArena、ScienceWorld 与 WebShop 的任务胜率。

像分词一样凝练经验!滑铁卢大学等开源 X-Tree:树状经验分词赋能智能体泛化,无需模型调用胜率跃升 5.8%

核心要点速览

  • 首创无需任何外部大模型调用的经验分词框架 X-Tree,自动从历史轨迹中提炼层次化技能树
  • 深度赋能离线强化学习、在线 RLVR(自适应技能奖励)与同策略自蒸馏三大核心对齐场景
  • 在 WebArena 任务成功率提升 4.5%,ScienceWorld 提升 5.8%,WebShop 提升 4.1%
阅读全文
关联模型 / 智能体 / 厂商:

全模态检索降维打击!MBZUAI 开源 Omni-Embed-Mini:0.9B 参数打通六大多模态,纯冻结文本权重零遗忘

将文本表征模型扩展至语音、音频、图像、视频及图文混排文档等多模态领域时,传统方案往往导致严重的文本检索灾难性遗忘,而现有全模态向量模型通常需要数十亿甚至上百亿参数来勉强维持平衡。穆罕默德·本·扎耶德人工智能大学(MBZUAI)等团队推出了轻量化全模态嵌入模型 Omni-Embed-Mini。该模型仅拥有 0.9B 极小参数量,通过密集的级联描述蒸馏(Dense Cascaded Caption Distillation),将文本、语音、音频、图像、视频与文档六大模态映射进统一的余弦空间。核心突破在于文本侧权重保持 100% 静态冻结(Byte-Identical),从理论与工程上彻底杜绝了文本检索退化(MTEB-v2 BEIR-8 达 49.57 nDCG@10);而其 2.3B 升级变体在全模态平均检索得分上更是逆袭超越了闭源商业标杆 Gemini-Embedding-2。

全模态检索降维打击!MBZUAI 开源 Omni-Embed-Mini:0.9B 参数打通六大多模态,纯冻结文本权重零遗忘

核心要点速览

  • 仅凭 0.9B 极小体积打通文本、语音、音频、图像、视频与图文文档 6 大模态的统一向量对齐
  • 文本侧参数比特级完全冻结,从数学根源杜绝文本灾难性遗忘(MTEB-v2 BEIR-8 达 49.57 nDCG@10)
  • 2.3B 升级版本在多模态综合检索平均表现上全面逆袭超越 Google 闭源商业模型 Gemini-Embedding-2
阅读全文
关联模型 / 智能体 / 厂商:

编码智能体吞吐飙升 4.7 倍!KAIST 开源 AgSpec 检索推测解码:重构会话语料索引,全面超越 EAGLE-3

编码智能体在处理大型代码仓库与多轮排错时,会高频反复复述相似的代码片段、错误日志及前序修改尝试,这使得基于检索的推测解码(Retrieval-based Speculative Decoding, SD)具备巨大的加速潜力。然而,现有通用检索推测解码器在真实 Agent 流水线中严重水土不服:智能体输出格式(如带行号标注、Diff 补丁及转义代码块)与本地原始磁盘文件存在巨大表征鸿沟,且固定推测草稿长度无法自适应多智能体协作中的轮次漂移。韩国科学技术院(KAIST)团队推出了面向编码智能体定制的推测解码框架 AgSpec。该框架在会话级、工作区级与全局语料库中建立与智能体发射格式完全对齐的动态索引,并结合离线性能剖析与在线验证反馈动态调整推测草稿长度。在多智能体代码仓库级评测中,AgSpec 吞吐加速高达 4.76 倍,且在单卡低延迟场景下全面碾压 EAGLE-3。

编码智能体吞吐飙升 4.7 倍!KAIST 开源 AgSpec 检索推测解码:重构会话语料索引,全面超越 EAGLE-3

核心要点速览

  • 首创面向 Coding Agent 流水线的检索推测解码框架 AgSpec,彻底解决代码发射格式错位与草稿长度漂移痛点
  • 在长程多智能体代码仓库评测中,推理吞吐加速比在 BS=1 时达 4.37 倍,在 BS=16 时攀升至 4.76 倍
  • 在零额外模型显存占用的前提下,Token 接受率在大多数核心场景下全面击败主流模型草稿方案 EAGLE-3
阅读全文

Cloudflare AI Search 正式 GA:原生多模态嵌入 + PDF OCR,计费 11/1 起;混合检索默认开

Cloudflare 于 2026-10-01 宣布 AI Search GA:托管索引/检索管线(Workers AI + Vectorize + R2 + Browser Run)进入正式可用;新增 Qwen3-VL-Embedding 原生图像嵌入、扫描 PDF OCR、文本/OCR PDF 上限 10 MiB;新实例默认混合检索;计费自 2026-11-01 起,含免费额度。

Cloudflare AI Search 正式 GA:原生多模态嵌入 + PDF OCR,计费 11/1 起;混合检索默认开

核心要点速览

  • GA 日 2026-10-01;Changelog + 官博
  • 多模态:@cf/qwen/qwen3-vl-embedding-2b 与 google-ai-studio/gemini-embedding-2;查询可带图(REST/公网端点)
  • 文件:OCR 全账号可用;明文/代码与开启 OCR 的 PDF 上限 10 MiB(未开 OCR PDF 等仍 4 MiB)
  • 默认混合检索(向量+全文);Workers AI 嵌入/重排费用计入 AI Search,不再单独出现在 Workers AI 账单
  • 定价锚点(官博):摄入 $0.75/百万 token、存 $2/GB-月、语义 $0.75/千次、全文 $0.10/千次;免费档含 5M 摄入 token、10 GB、各 1k 语义/全文查询;计费 11/1 起
阅读全文
关联模型 / 智能体 / 厂商: