Devin 背后的 Cognition 于 10 月 27 日发布 FrontierCode 2.0。新版沿用由开源维护者亲自出题、按"能否合并"打分的方法,但任务来自更多仓库、覆盖安全补丁与性能优化,提示词刻意不写全,并加入大量"周全性"判定项。官方结果中 Claude Opus 5.5 以 45.5% 居首,GPT-6 Astra 42.8% 次之,Grok 4.7、Gemini 4 Argon 等降到 20% 多,基准远未饱和。
核心要点速览
- ✓榜首 Claude Opus 5.5 为 45.5%(1.1 版 54.6%),GPT-6 Astra 42.8%(1.1 版 53.3%),均为官方/厂商口径
- ✓Grok 4.7 28.6%、Gemini 4 Argon 26.3%、Muse Wonder 1.0 24.3%、SWE-2 23.9%,DeepSeek V4.1 Flash 19.3%、Kimi K3 17.7%,开源模型差距明显
- ✓相比 1.1 版,参考解平均多改 67% 的文件、89% 的代码行,代码库大 25%;任务来源仓库多 55%,阻断性判定项多 43%
- ✓"周全性"阻断项从 168 条增至 501 条,约 3 倍;80% 任务的参考解优于上游原 PR,审计 agent 还发现并上报了一个上游安全漏洞
- ✓成本-得分帕累托前沿上,高端是 Opus 5.5,低成本端有 Luna、Haiku 和 Sol,官方点名 GPT-6.1 Sol 性价比突出(官方博客)

开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
多数编程基准考的是"按详细规格写出能通过测试的代码",而且很快会被刷满。Cognition 在部署 Devin 时发现,模型真正的短板在于推断用户意图、遵守没写出来的约束、预见改动的长期后果,这些都需要人来兜底。FrontierCode 1.0 首次把问题换成"你真的会合并这个 PR 吗",2.0 进一步追问"你应该合并吗"。
架构亮点与底层机制
2.0 沿用 1.0 方法:20 多位知名开源维护者在自己维护的仓库里出题,每题投入 40 小时以上,并制定能否合并的评分细则,未过阻断项直接记 0 分。新版有三项改进:任务来自更多仓库(多 55%),覆盖安全补丁和性能优化;阻断性判定项多 43%,更强调周全性,例如同一个 bug 在兄弟代码路径里也要一起修;任务规模更大。提示词刻意不写全,留给模型发挥判断。官方还放宽了 1.x 中有争议的"越界改动"判定,越界失败率从 9.0% 降到 3.8%。
权威 Benchmark 与实测跑分对比
以下均为 Cognition 官方口径(各模型取最佳推理档位):Claude Opus 5.5 45.5%、GPT-6 Astra 42.8%、Grok 4.7 28.6%、Gemini 4 Argon 26.3%、Muse Wonder 1.0 24.3%、SWE-2 23.9%、DeepSeek V4.1 Flash 19.3%、Kimi K3 17.7%。与 1.1 版相比分数普遍下降,梯队拉得更开;在 DeepSWE v1.1 上领先的 Muse Wonder 1.0 和 Gemini 4 Argon 到这里落入中游。需要注意的是,出题方 Cognition 自家的 SWE-2 也在榜内,目前尚无第三方复现。
开发者实战落地与开箱指南
选编程 agent 底座时,这份榜单比"按规格过测试"类基准更接近日常体验:它会惩罚漏修、乱改无关文件和测试写得敷衍。官方还发现更高推理档位并不总是更好,模型往往写更多代码、改更多文件,这与不少开发者的体感一致,可据此给不同任务配置推理档位。完整排行和成本对比见 Cognition 官方博客与 FrontierCode 排行榜页。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察