📰 vLLM 联合蚂蚁集团开源 Humming 算子库：最高 5 倍算子加速，MoE 端到端吞吐提升 43.3%

vLLM 官方联合蚂蚁集团正式开源底层高性能量化推理算子库 Humming（humming-kernels）。该算子库专为大规模混合专家（MoE）与低精度密集模型的高并发服务而设计，全面覆盖 WnA16、W8A8、W4A8 与 W4A4 多种量化精度，横跨 INT1~INT8 与 FP4~FP8…

💬 你怎么看？欢迎在评论区讨论。