AI 编程实时动态与要闻

AMD 三季度数据中心营收 85 亿美元同比增 97%:Helios 机架已为 Anthropic、OpenAI 等运行模型,四季度指引约 170 亿美元

AMD 11 月 3 日公布 2026 年第三季度财报:总营收 133.77 亿美元,同比增长 45%;数据中心业务营收创纪录的 85.46 亿美元,同比增长 97%、环比增长 27%,主要来自 EPYC 服务器 CPU 和刚上市的 Instinct MI450 系列 GPU。公司称 Anthropic、Meta、微软、OpenAI 和 Oracle 云已在首批 Helios 机架级系统上运行模型和工作负载。AMD 给出四季度营收指引约 170 亿美元(上下浮动 3%),中值同比约增长 66%。

核心要点速览

  • 数据中心营收 85.46 亿美元,同比 +97%、环比 +27%,占总营收约 64%(一年前约 47%);部门经营利润 28.82 亿美元,利润率 34%
  • 首批 Helios 机架(Instinct MI450 系列 GPU + 第六代 EPYC)已为 Anthropic、Meta、微软、OpenAI 和 Oracle 云运行模型,MI455X 本季度开始量产出货
  • 总营收 133.77 亿美元(+45%),非 GAAP 毛利率 56%、每股收益 2.09 美元;GAAP 净利润 24.28 亿美元,含 10.97 亿美元客户认股权证公允价值变动
  • 四季度营收指引约 170 亿美元 ±3%,中值同比约 +66%、环比约 +27%,非 GAAP 毛利率约 55%
  • 同期还发布 ROCm 10(含 ROCm.AI)、Helion 机架级 Agent 系统参考架构,并宣布拟收购 World Labs 与 Taalas
阅读全文

Google DeepMind 用 Gemini 做的 PlanAssist 扩到英国 15 个地方政府:试点中规划审查耗时最多降 58%

Google DeepMind 于 10 月 31 日宣布,与英国政府、Google Cloud 和 Faculty 共同开发的规划审查工具 PlanAssist(基于 Gemini)将新增开放给 12 个英格兰地方规划机构,参与总数达到 15 个,进入为期 12 个月的 Beta 阶段并处理真实申请。官方称,在 Barnet、Camden、Dorset 三地的早期试点中,规划官员花在住宅类申请评估上的平均时间下降 58%,超过 70% 的 AI 草拟报告无需修改即获通过;最终决定仍由规划官员作出。

Google DeepMind 用 Gemini 做的 PlanAssist 扩到英国 15 个地方政府:试点中规划审查耗时最多降 58%

核心要点速览

  • 规模:从 3 个试点地方政府扩到 15 个,新增 12 个分三批接入,Beta 期 12 个月(DeepMind 博客)
  • 效率:试点中住宅类申请的官员评估时间平均下降 58%(官方/厂商口径,DeepMind 在 X 上写作「最多 58%」)
  • 质量:超过 70% 的 AI 草拟报告被官员直接批准、无需修改(官方口径)
  • 英国政府称,配合新规,住宅类常规申请处理时间可从 8 周减半到 4 周;计划 2027 年向英格兰所有地方政府开放(GOV.UK)
阅读全文
关联模型 / 智能体 / 厂商:

FrontierRefactor 发布首个智能体代码性能重构基准:揭示 41% 候选通过功能测试却无性能收益或发生严重回退

在 arXiv:2610.25834 中,跨国研究团队正式发布业内首个专门评估 Coding Agent 大规模、面向物理性能代码重构能力的基准 FrontierRefactor。与传统仅考量“功能测试能否通过”的 SWE-bench 不同,FrontierRefactor 涵盖 7 种主流编程语言、跨越 10^1 至 10^4+ 行代码规模的 60 个符合阿姆达尔定律(Amdahl's law)的严苛工业级工程任务。测试揭示了惊人的行业现状:超过 41% 的智能体生成补丁虽然 100% 通过了功能等价性测试,却并未带来任何实际物理加速,其中 19.3% 甚至引发严重的运行时性能回退,展现了引入多轮执行耗时反馈机制对自主重构智能体的决定性意义。

FrontierRefactor 发布首个智能体代码性能重构基准:揭示 41% 候选通过功能测试却无性能收益或发生严重回退

核心要点速览

  • FrontierRefactor(arXiv:2610.25834)首创面向性能优化的自主代码重构基准,涵盖 7 门主流语言与 60 项工程任务
  • 揭示关键盲区:超过 41% 的 Agent 补丁虽然通过单元测试,却无法带来有效物理性能加速(19.3% 发生回退,21.9% 陷入测量噪音)
  • 跨语言重写(如 Python 转 Rust/C++)加速潜力大但合同保真度极易崩溃;就地优化保真度高但极难脱离 Profiler 实现真加速
  • 引入多轮执行耗时反馈(Execution-Timing Feedback)能够将复杂代码重构的严格真实成功率成倍提升
阅读全文
关联模型 / 智能体 / 厂商:

vLLM 官方推出预编译字节码镜像与 Decision 3.0 服务:容器冷启动提速 18%,AMD MI325X 决策吞吐达 1.8 倍

vLLM 官方推特宣布两项关键工程突破:在 v0.32.0 官方镜像中引入构建期 Python 字节码预编译(uv compile),使 H100 容器冷启动耗时缩短 14%~18%(省去约 18 秒且启动零重编译);同时正式合入 Decision 3.0(D3)全系列 6 款结构化决策模型(0.6B 至 27B),通过 /v1/systemone 提供极速多模态选择与评分,在 AMD MI325X 单卡上支撑 64 并发的吞吐达原始基准的 1.8 倍。

vLLM 官方推出预编译字节码镜像与 Decision 3.0 服务:容器冷启动提速 18%,AMD MI325X 决策吞吐达 1.8 倍

核心要点速览

  • vLLM 官方在发布镜像中引入构建期 Python 字节码预编译,使 H100 容器冷启动耗时缩短 14%~18%(省去约 18 秒)
  • 正式合入 Decision 3.0(D3)全系列 6 款决策模型(0.6B 至 27B),通过 /v1/systemone 专有接口提供毫秒级多模态结构化判定
  • D3 模型在 Jev Decision Index 0.3.2 榜单上拿下文本 66.3 分与视觉 71.3 分双料第一
  • 在单张 AMD Instinct MI325X 显卡上,面对 64 并发客户请求,D3 27B 的吞吐量达到原始服务的 1.8 倍
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

SGLang v0.5.22 重磅发布:DeepSeek-V4.1 在 H200 吞吐提升 2.3 倍、MI355X 提速 1.9 倍,InstantTensor 载入提速 10 倍

SGLang 团队正式发布 v0.5.22 大版本更新(凝聚 245 位贡献者提交的 950 个 PR):深度优化 DeepSeek-V4.1 推理性能,在 H200 单卡吞吐狂飙 2.3 倍,并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升;首创 InstantTensor 加载器将大模型冷启动显存载入提速 10 倍;B200 上 Qwen3.8-Flash-Next 解码提速 12%、B300 上 GLM-5.3-Flash 提速 10% 且 MiMo-V2.6-Pro 解码吞吐达 1.85 倍;并原生支持苹果 Apple Silicon 与 ComfyUI 扩散生态。

SGLang v0.5.22 重磅发布:DeepSeek-V4.1 在 H200 吞吐提升 2.3 倍、MI355X 提速 1.9 倍,InstantTensor 载入提速 10 倍

核心要点速览

  • SGLang v0.5.22 正式发布,汇聚 245 位贡献者的 950 个 PR
  • DeepSeek-V4.1 在 NVIDIA H200 单卡吞吐暴涨 2.3 倍,并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升
  • 全新 InstantTensor 加载器将千亿模型冷启动载入速度提升 10 倍(10x faster)
  • B200 上 Qwen3.8-Flash-Next 解码提速 12%,B300 上 GLM-5.3 提速 10% 且 MiMo-V2.6-Pro 解码达 1.85 倍
  • PD 分离架构使长 Prompt 首字延迟 p95 TTFT 减半(-50%),吞吐净增 27%,原生支持 Apple Silicon 与 ComfyUI
阅读全文
关联模型 / 智能体 / 厂商:

SemiAnalysis 披露 Google 与 Inferact 首份 TPUv7 评测:TorchTPU vLLM 大核驱动 2.8T Kimi K3,高交互吞吐力压 GB200 NVL72 与 B300

半导体分析机构 SemiAnalysis 发布最新评测:Inferact(vLLM 核心团队)联合 Google 正式提交了首份基于 Google TPUv7 的 Kimi K3 2.8T 巨型 MoE 模型推理基准。在单芯片时租仅 1.21 美元(相比 GB300 2.31 美元、B300 2.26 美元、GB200 1.86 美元)下,借助 TorchTPU vLLM 大核与 TPU-Sync KVCache 卸载库,TPUv7 在 390 tok/s 超高交互区实现每美元 220 万 Token 吞吐,TCO 表现越级反超 NVIDIA GB200 NVL72、B300 与 AMD MI355X。

SemiAnalysis 披露 Google 与 Inferact 首份 TPUv7 评测:TorchTPU vLLM 大核驱动 2.8T Kimi K3,高交互吞吐力压 GB200 NVL72 与 B300

核心要点速览

  • Inferact(vLLM 核心团队)联合 Google 提交首份 Google TPUv7 Kimi K3 2.8T 巨型 MoE 推理基准
  • TPUv7 单芯片时租仅 1.21 美元,显著低于 GB300(2.31 美元)、B300(2.26 美元)与 GB200(1.86 美元)
  • 在 390 tok/s 超高交互区实现每美元 220 万 Token 吞吐,TCO 表现越级反超 NVIDIA GB200 NVL72、B300 与 AMD MI355X
  • 基于 TorchTPU vLLM 大核与 TPU-Sync KVCache 库,标志着 vLLM 在 Google TPU 架构上取得生产级重大突破
阅读全文
关联模型 / 智能体 / 厂商:

AMD 发布 Helion Agentic AI 机架蓝图:OCP 开放规格、CPU 专用最高 32768 核,企业一体机混搭 MI350P,伙伴机预计 2026 年 11 月上市

AMD 于 2026-10-12(OCP Global Summit 期间)官宣 AMD Helion:面向 Agentic AI 的开放机架蓝图,基于 Open Compute Project 规格,承接 Helios 的开放平台思路。超大规模可部署 6th Gen EPYC 的 CPU-only 机架(最高约 32768 核)专跑 Agent 执行并外接推理;企业侧可把 EPYC、Instinct MI350P 与通算节点打成一体机。软硬件开放,含将 Agent 模型调用导向前沿/开源模型的集成 token router;规格拟贡献给 OCP,伙伴配置计划 2026 年 11 月可用。

核心要点速览

  • 官方:AMD Newsroom Helion / GlobeNewswire 通稿(2026-10-12)
  • 两种示例配置:CPU-only(6th Gen EPYC,最高约 32768 核,超大规模 Agent 执行)vs 一体机(EPYC + Instinct MI350P + 通算,企业侧)
  • 架构要点:OCP 规格蓝图、液冷/风冷可选、开放软件、集成 token router 路由前沿与开源模型调用
  • 落地节奏:规格拟贡献 OCP;Cisco / Dell / 鸿海 / HPE / Lenovo / QCT / Supermicro / Wiwynn 表态支持;伙伴机计划 2026-11 可用(厂商口径)
  • 定位差异:Helios 偏训练/大规模推理;Helion 强调 Agent 执行与推理的灵活配比,勿把二者当成同一产品线 SKU
阅读全文

vLLM Semantic Router 开源 Decision 3.0:0.6B–27B 六款多模态决策模型,官方测评 Jev Decision Index 第一

vLLM Semantic Router(vllm-sr)团队于 10 月 11 日在 Hugging Face 以 Apache-2.0 开源 Decision 3.0 系列(d3、d3-flash、d3-mini、d3-nano、d3-lite、d3-edge),基于 Qwen3.5/3.8,支持文本、图片和视频输入,一次调用直接输出选择题、是/否、打分三类问题的概率而不生成文本。官方口径:27B 旗舰 d3 在 Jev Decision Index 0.3.1 得 64.7,领先 Perplexity Decider v1.1(62.8)和上一代 Decision 2.0(55.9);单张 MI325X 上文本请求中位延迟 55ms。vLLM 官方账号转发祝贺。

vLLM Semantic Router 开源 Decision 3.0:0.6B–27B 六款多模态决策模型,官方测评 Jev Decision Index 第一

核心要点速览

  • 六档尺寸:d3-edge 0.59B、d3-lite 0.85B、d3-nano 2.2B、d3-mini 4.5B、d3-flash 8.4B、d3 26.1B,全部 Apache-2.0(HF 合集)
  • 官方口径 Jev Decision Index 0.3.1:d3 64.7,Perplexity Decider v1.1 62.8,Jev 60.1,Decision 2.0 55.9
  • 视觉榜(Vision Index 0.3.1):d3 71.6,Perplexity Decider v1.1 70.6,JEV-27B-VL 69.6
  • 单张 AMD MI325X、单并发中位延迟:d3 文本 55ms / 图片 273ms / 10 秒视频 553ms;d3-edge 文本仅 6.7ms
  • 不生成文本,直接给每个选项打概率;同一输入可一次问多道 Choice / Yes-No / Score 题
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Decision 3.0⚡ d3⚡ D3 Flash⚡ D3 Edge⚡ Qwen3.5⚡ Qwen3.8🌐 vLLM🌐 vLLM Semantic Router

南大 LAMDA 开源 AgenticBBO-Bench:代码智能体攻克黑盒优化难题,4 大核心场景跑分碾压数值求解器

在芯片版图设计、数据库参数调优、高维超参数寻优以及分子药物设计等尖端工程场景中,黑盒优化(Black-Box Optimization, BBO)一直是计算开销极大、目标函数导数不可求的核心难题。传统贝叶斯优化(BO)与进化算法(EA)依赖纯数值迭代,缺乏对任务语义结构与工程上下文的理解能力;而直接使用大模型生成采样点又面临数值计算不精确与幻觉问题。南京大学计算机软件新技术全国重点实验室(LAMDA 团队)联合多所高校在最新成果(arXiv:2610.12183)中推出了首个跨域黑盒优化智能体基准套件 AgenticBBO-Bench。研究团队将大语言模型与严谨的数值求解器、代码沙箱和环境反馈闭环深度融合,构建了跨越 5 大代表性领域的统一评估体系。实测表明,在有限预算协议下,Agentic BBO 智能体在所有 5 个领域均大幅超越直接提示词驱动的 LLM,且在芯片设计、数据库调优等 4 个关键领域击败了业界最佳数值优化器!团队进一步在 Codex Agent 脚手架下评测了 7 款前沿大模型,揭示出顶尖开源与商用模型在性能与成本维度的 Pareto 前沿,并全面开源了评测代码与基准套件。

核心要点速览

  • 南大 LAMDA 开源 AgenticBBO-Bench,首创跨越芯片设计、数据库调优与分子合成等 5 大领域的黑盒优化智能体基准
  • Agentic BBO 机制在有限预算下跑分全面击败纯 LLM,并在 4 大核心领域超越 Optuna、CMA-ES 等顶尖数值优化器
  • 在 Codex Harness 下确立前沿大模型 Pareto 最优前沿,将高成本工业仿真探索步数缩减 38% 以上
阅读全文

推理吞吐再迎质跃!SGLang v0.5.21 重磅发布:PD 分离免重启毫秒级热切换,Rust 内核前缀缓存全面领跑

作为全球开源大模型高并发高吞吐推理引擎的标杆,SGLang 正式推出里程碑版本 v0.5.21,凝聚了 227 位贡献者的 779 项重要提交。该版本在分布式推理架构与长文本处理上带来突破性飞跃:首创 PD(Prefill-Decode)分离实例动态在线角色切换机制,无需停机重启即可在毫秒级自适应调节预填充与解码算力配比;底层前缀缓存(Prefix Cache)默认升级至高性能 Rust 核心,大幅降低内存管理损耗与锁争用;同时针对 DeepSeek-V4.1 长文本场景实现首 Token 延迟降低 22%,全面适配 MiMo-V2.6 与 AMD MI355X 硬件生态。

推理吞吐再迎质跃!SGLang v0.5.21 重磅发布:PD 分离免重启毫秒级热切换,Rust 内核前缀缓存全面领跑

核心要点速览

  • 首创 PD 分离实例免重启毫秒级动态热切换,自适应长短文本并发负载彻底根除算力闲置
  • 前缀缓存默认升级至原生 Rust 高性能内核,DeepSeek-V4.1 长文本首 Token 延迟锐降 22%
  • Kimi K3 预填充吞吐跃升 20.6%,全面适配 AMD MI355X 硬件生态与 GLM-5.3-Flash
阅读全文
AD赞助内容

SemiAnalysis AgentX:AMD MI355x 在较低交互档位上 tokens/$ TCO 超越 B300

SemiAnalysis 在 AgentX(面向多轮长上下文智能体负载的基准)上指出,新的 AMD MI355x 提交在较低交互性区间的总拥有成本(tokens per $ TCO)上击败 B300,并点名 vLLM、AMD 与 LMCache 工程团队。对选型推理硬件与 agentic serving 栈有参考价值。

核心要点速览

  • 基准:AgentX 衡量多轮、长上下文智能体真实流量。
  • 结果:AMD MI355x 在较低交互档位 tokens/$ TCO 优于 B300。
  • 栈:点名 vLLM、AMD、LMCache 协作推进 agentic 优化。
阅读全文
关联模型 / 智能体 / 厂商:

Wafer 完成 4000 万美元 A 轮:用智能体持续优化开源模型推理部署

开源模型推理优化初创 Wafer 宣布完成由 Marathon 与 Chemistry 领投的 4000 万美元 A 轮,AMD Ventures、Y Combinator、Vercel CEO 等跟投。公司定位「AI 优化 AI」:持续学习流量与性能约束,在模型、引擎、内核与硬件间自动寻找更优部署,把一次性人工调优变成持续的性能/成本闭环,并称融资前四个月 ARR 已从近零冲到约 800 万美元。

核心要点速览

  • 4000 万美元 A 轮由 Marathon 与 Chemistry 领投,AMD、YC 与多位科技高管天使参与。
  • 产品用智能体持续优化开源模型推理:模型/引擎/内核/硬件联合选型,追求性能单价。
  • 公开称融资前四个月 ARR 近 0 到约 800 万美元,服务跟不上 GPU 扩容速度。
阅读全文
关联模型 / 智能体 / 厂商:

SGLang 推出 GLM-5.3 Day-0 推理支持:NVFP4 达 537.6 tok/s,全面覆盖 Blackwell 与 AMD

高性能大模型推理框架 SGLang 宣布对开源权重 GLM-5.3 实现 Day-0 生产级适配。在真实多轮 Agent 复杂负载下,8×B300 上 NVFP4 吞吐达到 537.6 tok/s/user,并同步支持 AMD MI300X/355X 硬件加速。

核心要点速览

  • 首发适配开源 320B-A18B 混合注意力架构,实现权重发布当日即可高并发部署上线;
  • 基于 NVFP4 与 FP8 量化内核深度优化,在真实 Agent 编程会话中保持超 500 Token/s 用户吞吐;
  • 同一套开源代码库全面打通 NVIDIA Blackwell/Hopper 与 AMD MI300X/325X/355X,避免硬件锁定。
阅读全文
关联模型 / 智能体 / 厂商: