高性能大模型推理框架 SGLang 宣布对开源权重 GLM-5.3 实现 Day-0 生产级适配。在真实多轮 Agent 复杂负载下，8×B300 上 NVFP4 吞吐达到 537.6 tok/s/user，并同步支持 AMD MI300X/355X 硬件加速。
核心要点速览
- ✓首发适配开源 320B-A18B 混合注意力架构，实现权重发布当日即可高并发部署上线；
- ✓基于 NVFP4 与 FP8 量化内核深度优化，在真实 Agent 编程会话中保持超 500 Token/s 用户吞吐；
- ✓同一套开源代码库全面打通 NVIDIA Blackwell/Hopper 与 AMD MI300X/325X/355X，避免硬件锁定。
⚡
一眼结论开发者 3 秒速决决策指标
🧭
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价，支持输入/输出 Token 真实账单模拟
实战指南准备好将技术转化为生产力？
即刻查看该技术对应模型与主流工具的实测差异，或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
接着读Command Code 上线 GLM-5.3 FlashX：约 200 TPS、百万上下文多模态
立即阅读→
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察