SGLang 表示正与 @zai_org 等伙伴改进 GLM-5.3 系列生产 serving；社区与 Cloudflare 反馈后，chat template 中 tool-result 重排改为 early-exit，GLM-5.3 / GLM-5.3-Flash 模板已更新并上线。对依赖工具调用的编码智能体链路有直接意义。
Unsloth 宣布优化后的本地 GGUF 解码使 GLM-5.3-Flash 推理最高提速约 3.3 倍（常见场景约 1.6–3.4×），并启用多 token 预测（MTP）与更快的长上下文解码。3-bit 量化可在约 128GB 内存设备上通过 Unsloth Desktop 或 llama.cpp 运行，配套文档与 Hugging Face GGUF 权重已更新。
SGLang 宣布为 DeepSeek-V4-Flash-Vision 与 DeepSeek-V4-Flash-0731 增加在 2×DGX Spark 上的部署食谱。Flash-Vision 带原生视觉；Flash-0731 支持 fp4 与 NVIDIA 官方 nvfp4；两者均跑在 b12x 内核库上，文档见 docs.sglang.io cookbook。
SGLang 宣布对 AntLing 开源的 Ling-3.0-flash-Fin（124B 总参、5.1B 激活）提供 Day-0 推理支持。该模型面向金融研究、检索、估值建模与长文档/复杂表格报告，并在 FinFIRST、FinanceAgent、APEX-Agents、SpreadsheetBench、τ³-Banking 等评测上给出竞争力结果，适合需要可审计计算与表格工作流的智能体栈。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察