AI 编程实时动态与要闻

Cadence 发布 Maestro 芯片设计领域 AI 模型组合:结合 NVIDIA Nemotron 驱动 AI Super Agents,官方称质量最高提升 30%、token 效率最高 5 倍

EDA 巨头 Cadence 10 月 26 日发布 Maestro AI 模型组合,包含领域后训练 LLM、决策模型和可自我改进的 agent skills,用来驱动其 AuraStack、ChipStack、InnoStack、ViraStack 等 AI Super Agents 操作 EDA/SDA 工具。Cadence 用确定性求解器给输出打分,形成强化学习闭环。官方初步结果称相比通用基础模型质量最高提升 30%、token 效率最高 5 倍。NVIDIA 提供 Nemotron 与 OpenShell,可部署在 Cadence 云、公有云或客户本地。首批模型 2026 年第四季度向部分早期客户开放。

核心要点速览

  • Maestro 不是单个模型,而是一组领域后训练 LLM、决策模型和自我改进的 agent skills,按任务与前沿/开源模型混合调度
  • 确定性求解器和 EDA 工具对输出按工程目标与约束打分,作为强化学习反馈,形成可验证闭环
  • Cadence 口径:相比通用基础模型,质量最高提升 30%,token 效率最高 5 倍;暂无第三方评测
  • NVIDIA 提供 Nemotron 模型与 OpenShell 沙箱参考架构;客户可用自有设计数据继续后训练,支持本地部署
  • 首批模型仅在 2026 年 Q4 向部分早期客户开放;Socionext 称部署 InnoStack 预计最高 5 倍生产力提升
阅读全文

Baseten 开源两款决策模型 mammoth-1(27B)与 elephant-1(9B):不生成文本直接输出选项概率,Jev 决策榜第一

10 月 21 日,Baseten 旗下研究团队 Base Labs 发布开源决策模型 mammoth-1(27B)与 elephant-1(9B),基于 Qwen3.5 全量微调,不生成文本,一次前向传播即返回每个选项的概率,适合分流、分类、打分和路由。官方口径下 mammoth-1 以 71.24 分登顶 Jev Decision Index 0.4,elephant-1 在 Artificial Analysis Decision Index 上并列第一。权重已上 Hugging Face,Baseten API 免费开放至 10 月 27 日。

Baseten 开源两款决策模型 mammoth-1(27B)与 elephant-1(9B):不生成文本直接输出选项概率,Jev 决策榜第一

核心要点速览

  • 跑分(官方口径):mammoth-1 在 Jev Decision Index 0.4 得 71.24 分,208 个决策模型中排名第一;AA Decision Index 65.9
  • elephant-1(9B):Jev 62.6 分、9B 级第一;AA Decision Index 65.2,与 d1-ultra 并列第一
  • 训练:基于 Qwen3.5-27B / 9B 全量微调,621 万条决策样本,含弃答与安全数据
  • 机制:块状双向注意力 + 共享前缀缓存,一次前向返回多问题概率;官方称比推理模型最高快约 10 倍
  • 上手:Hugging Face 权重(MIT),Baseten API 免费至 10/27 23:59 PT,默认零数据保留
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Mammoth 1⚡ Elephant 1⚡ Qwen3.5-27B⚡ Qwen3.5-9B🌐 Baseten🌐 Base Labs

Perplexity 发布开源权重多模态决策模型 pplx-decider-v1.2(27B)与 Flash(4B):图文直出类型化概率决策,输入仅 $0.02/百万 Token

Perplexity 开发者团队(@perplexitydevs)联合 OpenRouter 与 Vercel AI Gateway 正式上线新一代开源权重多模态决策模型 pplx-decider-v1.2(27B)与轻量级 pplx-decider-flash-v1.2(4B)。该系列模型支持同时输入文本与图像,直接返回带校准概率分布的类型化决策结果(Typed Answers with Probabilities),其中 27B 版本输入定价低至 $0.02/百万 Token,4B Flash 版速度更快且成本再砍半,成为智能体路由与工具选择的极速基础设施。

Perplexity 发布开源权重多模态决策模型 pplx-decider-v1.2(27B)与 Flash(4B):图文直出类型化概率决策,输入仅 $0.02/百万 Token

核心要点速览

  • 双尺寸多模态决策模型上线:发布 27B 旗舰版 pplx-decider-v1.2 与 4B 极速版 pplx-decider-flash-v1.2,支持图文输入直出类型化概率决策
  • 输入定价低至 $0.02/百万 Token:27B 版本仅售 $0.02/1M 输入 Token,4B Flash 版本速度更快且成本再减半
  • OpenRouter 与 Vercel 同步首发:支持 pplx-decider-latest 动态别名,专为智能体工具路由、护栏审查与多模态状态分类打造
阅读全文
关联模型 / 智能体 / 厂商:

Liquid AI 发布 d1-ultra 决策模型:不生成 token 直接输出校准概率,Artificial Analysis Decision Index 以 65 分居首,输入 $0.042/百万 token

Liquid AI 于 10 月 15 日发布多模态决策模型 d1-ultra,输入文本和图像,一次前向传播直接返回是非、单选、打分三类问题的概率,不生成任何 token,只按输入计费。Artificial Analysis 独立评测中它以 65 分登顶 Decision Index v1.0,领先至少 8 分,非幻觉率 85%;已上线 Liquid API、Vercel AI Gateway 与 OpenRouter。

Liquid AI 发布 d1-ultra 决策模型:不生成 token 直接输出校准概率,Artificial Analysis Decision Index 以 65 分居首,输入 $0.042/百万 token

核心要点速览

  • Artificial Analysis Decision Index v1.0 得分 65,第一名,领先其他决策模型至少 8 分(独立评测)
  • AA-Omniscience-Decision 非幻觉率 85%,第二名 Microsoft-Decision-1 为 40%;但因更多弃答,准确率 32% 低于 d1 的 41%
  • 定价 $0.042 / 百万输入 token,输出免费;1024×1024 图像计 1,536 token(官方博客)
  • 上下文 32,768 token,支持 44 种语言,Liquid 自有 112 项评测中八大类全部领先(厂商口径)
  • 调用方式:Liquid /decisions/v1/systemone 端点 model: d1-ultra,或 Vercel/OpenRouter 的 liquid/d1-ultra(文档)
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

智能体提速 2.5 倍、降本 89%!JevAgentHarness 让 4B 决策小模型与大模型共享控制权:跨分布解决率高达 91.5%

现有智能体运行框架(Harness)在每一步都调用昂贵的大模型,但大多数步骤本质上只是‘下一步调用哪个工具’的多项选择决策。UIUC、耶鲁与普林斯顿团队推出 JevAgentHarness 与开源模型 AgentDecision-4B,通过在智能体自身纠错轨迹上训练 4B 决策模型并拟合逐项置信度阈值,实现与大模型动态共享控制权。实测使智能体运行成本降低 81.1%–89.0%,速度提升最高达 2.5 倍,分布外任务解决率达 91.5%。

智能体提速 2.5 倍、降本 89%!JevAgentHarness 让 4B 决策小模型与大模型共享控制权:跨分布解决率高达 91.5%

核心要点速览

  • 揭示孤立评测与动态控制鸿沟:构建 AgentDecisionBench,发现无阈值盲目委派工具选择会导致智能体成功率暴跌 19.0 个百分点
  • 逐选项阈值校准+纠错状态训练:推出 JevAgentHarness 与开源 AgentDecision-4B,专门在智能体犯错后的真实恢复状态上强化训练
  • 提速 2.5 倍且成本锐减 89%:端到端开销降低 81.1%–89.0%,在分布外未知任务上解决率高达 91.5%(显著超越原版 Jev 的 82.0%)
阅读全文

Subquadratic 发布 SubQ Snap:384K 上下文决策模型,专接 Agent 的路由/选工具/判通过

Subquadratic 于 10 月 12 日发布 SubQ Snap(公测 ID subq-snap-preview):不生成文本、只对预定义答案打概率的「决策模型」,基于次二次稀疏注意力 SSA,单次可读 384K 文本+图像,100K token 约 1 秒出结果;官方称 Decision Index 0.2.1 得 61.7(Jev 57.9),输入 $0.05/百万 token、输出免费。

Subquadratic 发布 SubQ Snap:384K 上下文决策模型,专接 Agent 的路由/选工具/判通过

核心要点速览

  • 上下文 384K(文本+图像),官方称为 Jev 的 12 倍
  • Decision Index 0.2.1:61.7 vs Jev 57.9(厂商自测)
  • 16 项企业任务均分 67.6 vs 61.6,13/16 领先;When2Call 落后 7.6 分
  • Decision LCR(72K–115K 多文档):一次读完 74.0 vs Jev 分块 48.0
  • 定价 $0.05/百万输入 token,输出免费;100K 输入约 1 秒
阅读全文
关联模型 / 智能体 / 厂商:
⚡ SubQ Snap⚡ SubQ⚡ Jev🌐 Subquadratic🌐 TypeSafe

vLLM Semantic Router 开源 Decision 3.0:0.6B–27B 六款多模态决策模型,官方测评 Jev Decision Index 第一

vLLM Semantic Router(vllm-sr)团队于 10 月 11 日在 Hugging Face 以 Apache-2.0 开源 Decision 3.0 系列(d3、d3-flash、d3-mini、d3-nano、d3-lite、d3-edge),基于 Qwen3.5/3.8,支持文本、图片和视频输入,一次调用直接输出选择题、是/否、打分三类问题的概率而不生成文本。官方口径:27B 旗舰 d3 在 Jev Decision Index 0.3.1 得 64.7,领先 Perplexity Decider v1.1(62.8)和上一代 Decision 2.0(55.9);单张 MI325X 上文本请求中位延迟 55ms。vLLM 官方账号转发祝贺。

vLLM Semantic Router 开源 Decision 3.0:0.6B–27B 六款多模态决策模型,官方测评 Jev Decision Index 第一

核心要点速览

  • 六档尺寸:d3-edge 0.59B、d3-lite 0.85B、d3-nano 2.2B、d3-mini 4.5B、d3-flash 8.4B、d3 26.1B,全部 Apache-2.0(HF 合集)
  • 官方口径 Jev Decision Index 0.3.1:d3 64.7,Perplexity Decider v1.1 62.8,Jev 60.1,Decision 2.0 55.9
  • 视觉榜(Vision Index 0.3.1):d3 71.6,Perplexity Decider v1.1 70.6,JEV-27B-VL 69.6
  • 单张 AMD MI325X、单并发中位延迟:d3 文本 55ms / 图片 273ms / 10 秒视频 553ms;d3-edge 文本仅 6.7ms
  • 不生成文本,直接给每个选项打概率;同一输入可一次问多道 Choice / Yes-No / Score 题
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Decision 3.0⚡ d3⚡ D3 Flash⚡ D3 Edge⚡ Qwen3.5⚡ Qwen3.8🌐 vLLM🌐 vLLM Semantic Router

开源决策模型 Vega:冻结 Qwen3.5-0.8B + 57 MB 物理引擎,“滚小球”给出带校准概率的类型化答案

独立开发者 Nandakishor M 以 Apache 2.0 开源 Vega(pip 包 vegaml):冻结的 Qwen3.5-0.8B(另有 4B)只负责读取,57 MB 的可训练引擎把答案建模成势能“山谷”,小球带摩擦滚落后停在哪个谷就是答案,并给出校准概率、保形答案集与弃答标记。支持 73,728 token 上下文与图像输入。作者自测在钓鱼邮件识别等任务上胜过托管的 Jev 1.13.0,但也承认在重排与多步推理上落后。

开源决策模型 Vega:冻结 Qwen3.5-0.8B + 57 MB 物理引擎,“滚小球”给出带校准概率的类型化答案

核心要点速览

  • 体积:0.8B 版引擎 14.3M 参数 / 57 MB,任务适配器仅 0.84M 参数;4B 版引擎 124 MB(GitHub README)
  • 作者自测 typed-decisions 测试集(2,050 条):0.8B 加适配器 0.763、4B 0.803,单次决策 22 ms / 28 ms
  • 钓鱼邮件 800 封:Vega 准确率 75.4、识别 252/400,Jev 1.13.0 为 61.9、99/400(作者口径,McNemar p=3e-11)
  • 中位延迟 267 ms(T4 fp16)对比托管 Jev 591 ms;MMMU-Pro 仅 0.240,作者明确不适合大学级推理
  • pip install vegaml,HF 模型卡与在线 Space可直接试用
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Vega 0.8B⚡ Vega 4B⚡ Qwen3.5-0.8B⚡ Jev 1.13.0🌐 Nandakishor M

Jev 开发商 TypeSafe AI 完成 8.7 亿美元 A 轮、估值 75 亿美元:a16z 领投,Jev 发布不到一个月

TypeSafe AI 10 月 9 日宣布完成 8.7 亿美元 A 轮融资、投后估值 75 亿美元,由 a16z 领投,Sequoia 与老股东 DCVC 跟投,Martin Casado 加入董事会。其“System One”决策模型 Jev 于 9 月 15 日发布,不输出文本而输出校准概率/类型化决策。公司称三分之一财富 500 强在用,a16z 博文则写 25%,两者口径不一。

Jev 开发商 TypeSafe AI 完成 8.7 亿美元 A 轮、估值 75 亿美元:a16z 领投,Jev 发布不到一个月

核心要点速览

  • 融资:8.7 亿美元 A 轮、估值 75 亿美元,a16z 领投,Sequoia、DCVC 跟投,Martin Casado 进董事会
  • Jev 于 2026-09-15 发布,据 TechCrunch,距融资仅约 3.5 周
  • a16z 口径:Jev 发布后 3 天生成 1 万亿 token,是其见过增长最快的模型
  • 企业渗透口径不一致:TypeSafe 博客称“三分之一财富 500 强”,a16z 写“25%”,均为公司/投资方自报
  • 公司承诺推出更多 machine-native 模型与企业功能,开发者入口见 docs.typesafe.ai
阅读全文
关联模型 / 智能体 / 厂商:

Liquid AI 开源 Open d1 决策模型:d1-3B 单次前向 8ms 出答案,Jetson 边缘实时决策

Liquid AI 发布两款开源权重多模态决策模型 d1-3B(文本+图像)与实验性 d1-omni-600M(文本+图像/音频)。它们不生成 token,单次前向直接输出概率化答案;d1-3B 在 Decision Index v0.2.1 公开集拿到 48.57,10B 以下第一、比肩 12 倍体量的 Decider 35B-A3B,RTX 4090 单问 8ms、Jetson Orin Nano 50ms,首日支持 llama.cpp,适合 Agent 护栏、重排序与视觉质检。

Liquid AI 开源 Open d1 决策模型:d1-3B 单次前向 8ms 出答案,Jetson 边缘实时决策

核心要点速览

  • d1-3B 在 Decision Index v0.2.1 公开集得分 48.57,10B 以下第一,与 Decider 35B-A3B 持平;d1-omni-600M 得分 15.95(官方博客)
  • 7 项文本基准均分:d1-3B 82.9 > Decider 4B 81.1;d1-omni-600M 78.4 > Decider 2B 77.1,Civil Comments 毒性检测 95.8
  • 单问延迟:RTX 4090 8ms、AMD MI325X 9ms、Jetson AGX Thor 16ms、Apple M5 Pro 30ms、Jetson Orin Nano 50ms
  • 批量打包吞吐:RTX 4090 每秒 475 个状态,MI325X 每秒 1,106 个;三个问题共享一个状态仅为单问耗时约 1.3 倍
  • 权重已上 Hugging Face(含 GGUF / w8a8 版本),LFM Open License v1.0,首日支持 llama.cpp 与 NVFP4
阅读全文
关联模型 / 智能体 / 厂商:
⚡ d1-3B⚡ d1-omni-600M⚡ LFM2.5-VL-3B🌐 Liquid AI🌐 NVIDIA
AD赞助内容

记忆提取税暴降 3061 倍!Engram 发布预注册智能体记忆实验:原始轮次精选打平事实蒸馏,打破记忆神话

在自主智能体(LLM Agents)架构设计中,持久化跨会话记忆长期存在两条针锋相对的技术路线:一条主张使用昂贵的大模型异步将多轮对话‘蒸馏提取(Fact Extraction)’为三元组或结构化摘要记忆库(如 Mem0、Zep);另一条则主张直接保留‘原始对话轮次(Raw Turns)’并依靠检索排序进行上下文注入。学术界过去对两者的优劣各执一词。研究团队在 Zenodo 平台完成了严谨的科学预注册,并在 LoCoMo 与 LongMemEval 两大基准上展开了首个双盲受控实验(arXiv:2609.34227)。实验给出了令人震动的明确结论:在紧凑预算下,使用微型类型化决策模型 Jev 直接精选出的原始对话轮次,在下游任务准确率上与耗资巨大的大模型提取记忆库达成非劣效(Non-Inferiority,统计置信度 95%),而写入记忆的计算与 API 成本足足降低了 3,061 倍!此外,研究首次阐明了重排序(Reranking)与预算大小的因果关系,并指出盲目重排序会严重削弱智能体的正确弃权(Correct Abstention)能力。开源代码库与评估数据已发布(github.com/ris3abh/Engram)。

核心要点速览

  • 首个完成科学预注册的双盲智能体记忆实证研究 Engram,系统对比原始轮次精选与大模型事实提取
  • 紧凑预算下轻量决策模型 Jev 挑选的原始对话与昂贵 LLM 提取达成统计非劣效,而记忆写入成本骤降 3,061 倍
  • 揭示重排序增益随上下文预算扩大急剧衰减,并实证激进重排会破坏模型在证据不足时的正确弃权(Abstention)能力
阅读全文
关联模型 / 智能体 / 厂商:

llama.cpp 原生 Decision Models:/v1/systemone 一次前向出概率;支持 Julia-1/Laya/Kev-4B/lev/OpenJev

ggml-org 于 2026-10-02 宣布 llama.cpp server 合并 PR #29818,新增 /v1/systemone:对状态(文本/JSON/截图)与 typed 问题做单次前向打分,兼容 TypeSafe Jev / System One 客户端。首批模型:Julia-1(144M)、Laya(421M)、Kev-4B、lev、OpenJev(27B+视觉)。Cloudflare Clef 列为后续。

llama.cpp 原生 Decision Models:/v1/systemone 一次前向出概率;支持 Julia-1/Laya/Kev-4B/lev/OpenJev

核心要点速览

  • 官方博文:New in llama.cpp: Decision Models(2026-10-02);实现:PR #29818 合并于 2026-10-02T09:56Z(+2139/−15)
  • API:POST /v1/systemone;问题类型 choice / score / noul;响应含 probabilities + confidence;output_tokens: 0
  • 首批 GGUF:ggml-org/{Julia-1,Laya,Kev-4B,lev,OpenJev}-GGUF;RTX PRO 6000 官方中位时延约 3–43 ms/问
  • 与已入库 Ollama 0.35 / Cloudflare Clef 不同栈:本地 llama.cpp 推理运行时原生 System One;博文写明 Clef 将跟进
  • 开箱:llama serve -hf ggml-org/Kev-4B-GGUF 后 curl localhost:8080/v1/systemone;router 模式可按请求选模型
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Julia 1⚡ laya⚡ Kev 4b⚡ lev⚡ openjev🌐 ggml-org🌐 huggingface

Cloudflare 开源决策模型 Clef / Clef-flash:Workers AI 托管,中位延迟 209ms / 38.8ms

@Cloudflare(2026-10-01,#BirthdayWeek)官宣首批自研决策模型 Clef(27B)与 Clef-flash(9B):Workers AI 托管、Apache 2.0 开源、Jev System One API 兼容;官博公布相对 Jev 中位延迟约 2.5× / 13×,威胁情报同流程 2.2s vs 4.7s。

Cloudflare 开源决策模型 Clef / Clef-flash:Workers AI 托管,中位延迟 209ms / 38.8ms

核心要点速览

  • 官宣推文:Cloudflare 2026-10-01 → Clef 博文
  • 中位延迟(官博 43 次评测):Clef 209.3 ms、Clef-flash 38.8 ms vs Jev 524.1 ms(约 2.5× / 13×)
  • 质量摘录:BFCL 98.47 / 98.76;BANKING77 macro-F1 94.20;CLINC150+OOS 97.43;10 项决策榜中 Clef 系列拿下 7 项最高分
  • 形态:Qwen 骨干 + 非自回归 schema 打分;64K 上下文;视觉编码器;Workers AI @cf/cloudflare/clef / clef-flash;定价 $0.24 / $0.09 per M input tokens
  • 落地:env.AI.run() 或 REST;权重 HF Clef / Clef-flash;RL 微调走 设计伙伴报名
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Cloudflare Clef⚡ Cloudflare Clef Flash🌐 cloudflare

Ollama Python 0.6.3:原生 systemone() 对接 Decision Models;think 支持模型自定义层级

官方 Python 客户端 v0.6.3 于 2026-09-29 发布:新增 ollama.systemone(),对齐服务端 v0.35.0 的 /v1/systemone Decision Models(choice/noul/score);同步放宽 think 类型以支持字符串思维层级,并修复多工具调用示例与图片扩展名大小写。需配合 Ollama ≥0.35.0 与本地 nimble/tev1 等决策模型。

Ollama Python 0.6.3:原生 systemone() 对接 Decision Models;think 支持模型自定义层级

核心要点速览

  • 发版:v0.6.3(2026-09-29);相对 v0.6.2 约 6 commits,含 examples/systemone.py
  • 新 API:ollama.systemone(model, state, questions) → 一次提交多题 choice/noul/score,返回选项概率与置信度
  • 前置:服务端 Ollama v0.35.0 + ollama pull nimble(或 tev1)
  • think 类型放宽为字符串层级,兼容模型自定义 thinking levels(PR #697/#744)
  • 安装:pip install -U ollama==0.6.3(PyPI)
阅读全文
关联模型 / 智能体 / 厂商:
⚡ nimble⚡ tev1🤖 ollama🌐 Ollama

Ollama 0.35.0:原生 Decision Models,经 /v1/systemone 接 Jev;Nimble/Tev1 上线,返回选择概率与置信度

Ollama 于 2026-09-28 发布 v0.35.0(GitHub 标记 prerelease):新增基于 TypeSafe Jev 的 Decision Models,HTTP 入口为 /v1/systemone。模型不再吐自由文本,而是对 choice/noul/score 三类问题返回选项、概率与置信度,覆盖工单分流、模型路由与内容分类。首批模型为 Bespoke Labs 的 Nimble 与 Together AI 的 Tev1;相对 v0.34.4 约 7 commits / 66 files,并修复 Settings 阻塞、macOS 更新菜单与 MLX 下载挂起。

Ollama 0.35.0:原生 Decision Models,经 /v1/systemone 接 Jev;Nimble/Tev1 上线,返回选择概率与置信度

核心要点速览

  • 发版:v0.35.0(2026-09-28,prerelease);对比 v0.34.4...v0.35.0 ≈7 commits / 66 files
  • 新 API:POST /v1/systemone,基于 TypeSafe Jev;问题类型 choice(带概率)、noul(条件为真概率)、score(有序准则打分)
  • 首批决策模型:Nimble、Tev1;ollama pull nimble 后即可本地调用
  • 示例响应含 probabilities 与 confidence(如 bug≈0.978 / confidence≈0.89),usage.input_tokens/output_tokens 可观测
  • 体验修复:Settings 不再等模型发现;macOS 更新菜单/图标;MLX 下载挂起;废弃参数 typical_p 改为告警而非失败
阅读全文