AI 编程实时动态与要闻

Google Cloud 官方正式宣布开源 TorchTPU 核心加速框架，首次实现 PyTorch 框架原生、无编译壁垒地直接运行在 Google TPU（TPU v5p 与最新 TPU v6e）芯片之上。传统基于 PyTorch/XLA 的方案因复杂的计算图编译开销和动态形状限制，严重制约了 PyTorch 开发者在 TPU 上的创新步伐。TorchTPU 彻底打通了原生 PyTorch Eager 模式与自定义 Triton/C++ 硬件内核；主流高性能大模型推理引擎 vLLM 与 SGLang 同步官宣提供首发适配。同时，Google Cloud 宣布在其 Model Garden 引入 OpenAI 旗舰模型与 Codex，成为首个集齐全部三大顶级闭源模型的超算云平台。

查看大图

10 月 20 日 PyTorch Conference 2026 上，Google 宣布与 Meta PyTorch 团队共同开发的 TorchTPU 在 GitHub 开源，让 TPU 和 GPU、CPU 一样成为 PyTorch 原生设备：支持 eager 模式和 torch.compile、约 450 个 ATen 算子、torch.distributed 集合通信。同时开源 vLLM-TorchTPU、SGLang-TorchTPU 推理引擎，打通 TorchTitan、Ray、VeRL、Hugging Face Transformers v5（device_map="tpu"），并预览面向 Claude Code、Antigravity 等编码助手的 TPU agent suite。前一天 AWS 刚发布同类的 TorchNeuron。

查看大图

半导体分析机构 SemiAnalysis 发布最新评测：Inferact（vLLM 核心团队）联合 Google 正式提交了首份基于 Google TPUv7 的 Kimi K3 2.8T 巨型 MoE 模型推理基准。在单芯片时租仅 1.21 美元（相比 GB300 2.31 美元、B300 2.26 美元、GB200 1.86 美元）下，借助 TorchTPU vLLM 大核与 TPU-Sync KVCache 卸载库，TPUv7 在 390 tok/s 超高交互区实现每美元 220 万 Token 吞吐，TCO 表现越级反超 NVIDIA GB200 NVL72、B300 与 AMD MI355X。

查看大图