📰 SGLang 推出 Elastic EP 与 NIXL：运行时动态伸缩 MoE GPU 集群，零停机无缝扩容

LMSYS 团队联合 NVIDIA Dynamo 团队在官方技术博客与 X（@lmsysorg）正式宣布，高性能大模型推理框架 SGLang 推出弹性专家并行（Elastic EP）与 NIXL（Near-Instant Cross-Node Link）动态伸缩后端。

💬 你怎么看？欢迎在评论区讨论。