@Brjen 团队在一块 RTX 3090(24GB)上花一周对比本地编码智能体配置,胜出组合为 Qwen3.8-27B Unsloth UD-Q4_K_XL + llama.cpp(65k 上下文、q8 KV、原生 MTP depth 2、全 GPU)。真实多步编码跑分约 59 tok/s(45k 上下文时约 46 tok/s),并通过嵌套工具 JSON、修失败测试与正确 unified diff 等门槛;认为 Q3 不可靠、更高量化挤占上下文,Flash-Next 需卸载反而不稳。

核心要点速览

  • ✓胜出:Qwen3.8-27B UD-Q4_K_XL + llama.cpp,65k 上下文与 MTP,全在 3090 GPU。
  • ✓多步编码约 59 tok/s;通过工具 JSON、修测与正确 diff 等实用门槛。
  • ✓Q3/过重量化与需卸载的 Flash-Next 在 24GB 上不如该组合稳。
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读Unsloth 发布 DeepSeek-V4.1-Flash-1017 动态 GGUF:1-bit 版 250GB、128GB+ 内存可本地跑,Engram 表可放 SSD
立即阅读→