AI 编程实时动态与要闻

欧洲前沿 AI 巨头 Mistral AI 与 NVIDIA 在 GTC Berlin 宣布达成工业工程 AI 深度战略合作，全面加速物理 AI、计算机辅助工程（CAE）与芯片设计（EDA）的智能化变革。合作将 Mistral 旗舰模型与 NVIDIA CUDA-X、Warp 物理引擎以及 Omniverse 实时数字孪生进行全链路打通。官方博客同时公布了备受瞩目的下一代旗舰模型 Mistral Large 4 的核心技术参数：总参数量接近 1 万亿（1T），激活参数为 490 亿（49B MoE），在 3800 张 Grace Blackwell GPU 集群上训练完成，模型权重定于 10 月底正式开源发布，并将联合 Nemotron 联盟共建工业基座。

查看大图

多所顶尖高校与科研机构在 arXiv:2610.24648 中正式发布首个面向异构端侧硬件的大模型底层算子生成统一基准 EdgeKernelBench 与分层智能体架构 LEKA。针对当前学术界算子生成评测过度局限于云端高性能服务器 GPU，而在端侧设备上面临硬件高度异构、底层软件栈严重碎片化（CUDA、OpenCL、TileLang、Triton）以及极度严苛资源约束的行业痛点，EdgeKernelBench 建立了包含 331 项经典任务与 650 个实例的统一中间表示（IR）部署管线。配合分层算子生成智能体 LEKA 解耦复杂编译决策，使大模型端侧算子生成性能取得跨越式突破。

查看大图

10 月 20 日，法国语音 AI 公司 Gradium 开源 Phonon 端侧文本转语音模型家族：英文 Phonon 31m（q8 权重 64 MB，Apache 2.0）和 Phonon 40m（英/法/德/西/葡单语版与五语合一版，CC BY-NC 非商用）。模型基于 Kyutai 的 Pocket TTS 和 Mimi 编解码器，自带推理栈，覆盖 CPU、Metal、CUDA、Vulkan、WebGPU、Core ML 和骁龙，可在手机、浏览器、树莓派上离线运行。官方称 MacBook Air M5 CPU 上首段音频 7 毫秒，Kokoro 为 517 毫秒。

查看大图

10 月 20 日 PyTorch Conference 2026 上，Google 宣布与 Meta PyTorch 团队共同开发的 TorchTPU 在 GitHub 开源，让 TPU 和 GPU、CPU 一样成为 PyTorch 原生设备：支持 eager 模式和 torch.compile、约 450 个 ATen 算子、torch.distributed 集合通信。同时开源 vLLM-TorchTPU、SGLang-TorchTPU 推理引擎，打通 TorchTitan、Ray、VeRL、Hugging Face Transformers v5（device_map="tpu"），并预览面向 Claude Code、Antigravity 等编码助手的 TPU agent suite。前一天 AWS 刚发布同类的 TorchNeuron。

查看大图

vLLM 团队联合 Inferact、Red Hat 与 NVIDIA 于 10 月 9 日发布 Rubin 早期支持：基于 CUDA 13.4 的每日镜像已可在 Vera Rubin NVL72 上服务 DeepSeek、Kimi、GLM、MiniMax。官方口径下，SemiAnalysis AgentX 上 MiniMax M3 同等交互性单卡吞吐最高为 GB200 的 7.84 倍；MLPerf Inference v6.1 的 VLM 项上 Qwen3-VL-235B-A22B 相对 GB300 NVL72 最高 3.7 倍。

查看大图

NVIDIA 于 2026-10-02 在博客宣布 DGX Spark 64GB：10 月 23 日（周五） 起经 Acer / ASUS / Dell / Gigabyte / HP / MSI 发售，起价 $4,999。同款 GB10 Grace Blackwell、DGX OS 与完整 CUDA AI 栈；单机统一内存 64GB、官方称可本地支撑约 100B 参数模型与 Agent。两台经 ConnectX-7 + QSFP 集群可池化 128GB（约 200B）；Qwen 3.8 27B 测试中双 64GB 相对单机最高约 1.7×。

查看大图

上海 AI Lab 开源推理栈 LMDeploy 于 2026-09-28 发布 v0.18.0：支持输出 input logprobs、扩展 SM90 量化 GEMM 并统一 TurboMind linear 执行路径；Ascend 侧支持 GLM-5.2；为 Qwen3.5 接入 dflash；MoE 将 shared expert 并入 FFN 并在节点内切分 dense FFN。PyTorch 路径原型化 TurboMind W4A16（AWQ）、piecewise CUDA Graph prefill、XTuner TileLang sparse MLA，并支持 checkpoint-engine 权重热更新与 request-only KV cache 用量指标。

查看大图

知名大模型轻量高效训练与推理工具 Unsloth 正式发布 v0.1.815-beta 版本，并上线 Linux x86_64 CUDA 13 官方预编译二进制轮子（涵盖 Flash-Attention 2.8.4、Causal-Conv1D 与 Mamba-SSM）。新版本原生支持在本地消费级与企业级 GPU 上以 Fast FP8 与 GGUF（默认 Q4_K_M）量化运行阿里开源的多模态图像编辑与生成旗舰模型 Qwen-Image-2.1。此外，Unsloth 本地 UI 引入了深度兼容 Claude Code 与 .agents 规范的自定义 Agent Skills 体系，支持在聊天中以 @skill 快速编排专用技能，长链思考思维块渲染速率提升一倍达到 60 FPS。

查看大图

ggml-org 于 2026-09-23 发布 llama.cpp v0.5.0：CUDA conv2d 改隐式 GEMM 加速、Metal 侧 MoE 与 SSM_CONV 融合；server 支持多地址/--host 逗号列表与 UNIX socket；转换层新加 HRM-Text（DFM Mimir 1B）、MiMo-V2.6、HunyuanOCR（DFlash），并捆绑 ggml 0.25.0。

查看大图

vLLM 项目（@vllm_project）发布 v0.30.0（762 提交、315 贡献者）。亮点包括混合注意力热路径：Kimi K3 精简 KDA/AttnRes/MLA，DeepSeek-V4.1-Flash 加入 MXFP8 KV 与异步 Engram，Qwen3.8-Flash-Next 融合 QSA/PLE 并降低 sparse-GQA 开销；另有 HiSparse 主机层、Model Runner V2 的 EAGLE3 管线并行与自适应校验、双密钥 Gumbel-max 水印，以及 Fast Start（CUDA IPC 权重缓存）与 GLM-5.3-Flash、K2-Horizon、Cohere Compass、Bailing V3 VL 等新模型支持。

查看大图