vLLM(@vllm_project)宣布稳定版 Day-0 支持 OpenBMB MiniCPM5-2B:2.6B 稠密模型原生 131K 上下文,同 checkpoint 支持 Think / No-Think,并通过 vLLM 的 minicpm5 parser 提供工具调用;模型基于 stock LlamaForCausalLM,并开放训练数据。
核心要点速览
- ✓引擎:稳定版 vLLM Day-0 接入 MiniCPM5-2B。
- ✓能力:131K 原生上下文;同 checkpoint Think/No-Think;minicpm5 parser 工具调用。
- ✓生态:stock LlamaForCausalLM 架构,权重与训练数据一并开放。
开发者 3 秒速决决策指标
本地显存不够?先比较云端 API 与自部署的实际成本
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察