UC Berkeley、Princeton 等团队发布 FrontierCS 2(arXiv 2610.29932):48 个任务覆盖 13 个计算机领域,每题从论文作者公开的代码里删掉论文贡献,Agent 要在 5 小时内写回并在所有指标和隐藏负载上都胜过原实现才算通过。12 个 Agent 中 Claude Opus 5.5(Claude Code)通过率 58% 第一,其余都低于一半,16 个任务没有任何运行通过。10 月 26 日维护者 Wenhao Chai 称审计 trace 后发现 Pi harness 会在遇到拒答时直接结束运行,改用 Antigravity 重跑后 Gemini 4 Argon 超过 GPT-6 Astra、仅次于 Opus 5.5。
核心要点速览
- ✓48 个任务、13 个领域,评测 12 个 Agent,每个 Agent 每题跑一次(论文)
- ✓通过标准很严:最终提交要在每个指标、每个隐藏负载上都胜过作者代码,总分更高也可能不通过
- ✓Claude Opus 5.5(Claude Code)通过率 58% 居首;16 个任务没有任何运行通过
- ✓Pi harness 下 Gemini 4 Argon 48 次运行中有 10 次因提供方拒答被结束;换 Antigravity 重跑后超过 GPT-6 Astra(Wenhao Chai 帖子)
- ✓任务和评测器已开源在 GitHub;官方估算 Opus 5.5 跑完 48 题约需 1,000 美元 API 费、300 美元 GPU、100 美元 CPU
开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
背景与痛点
SWE-bench、Terminal-Bench 这类基准考的是修 bug、过测试,答案已知;FrontierCS 2 想回答另一个问题:Agent 能不能像研究者一样,接手一篇论文的代码,把核心方法做得比作者更好。它直接拿论文作者公开的代码做标尺,而不是拿评分细则或别人的复现。
架构亮点与底层机制
每个任务从论文原仓库里删掉论文贡献对应的代码,被删的代码就是「人类参考」。Agent 拿到剩下的仓库,5 小时内可以随时提交补丁,评判方只返回开发集分数和一句提示;评测器、隐藏的最终测试集和参考实现都留在评判方的沙箱里,Agent 的沙箱除了转发器不能联网,拿不到作者代码。最后 Agent 自己选一个版本作为最终提交,只有它在隐藏负载上评分。48 个任务覆盖 13 个计算机领域,另有 100 多个私有任务以后公布。
权威 Benchmark 与实测跑分对比
论文评测了 12 个模型,各配一个 harness:Claude Opus 5.5(Claude Code)通过率 58% 第一,其余都低于一半,16 个任务无人通过。论文还提出 FCI 能力指数(基于 Epoch AI 的 ECI 改的,Kimi K2.7 定为 0 分),FCI 和通过率排序基本一致,中位任务难度约等于最强 Agent 的水平。网站记录 Gemini 4 Argon 在 Pi harness 下 48 次运行有 10 次因提供方拒答被结束;10 月 26 日维护者 Wenhao Chai(Princeton 博士生,曾在 Google DeepMind)在 X 上说改用 Antigravity 重跑后,Argon 超过 GPT-6 Astra、紧贴 Opus 5.5。这说明榜单名次很大程度取决于 harness,而不只是模型。
开发者实战落地与开箱指南
48 个任务、评测器和评判程序已开源在 GitHub,部署到自己的 AWS 账号,GPU 任务还需要 Modal,模型用任意 OpenAI 兼容接口即可。官方估算 Opus 5.5 跑完一轮约 1,000 美元 API 费、300 美元 GPU、100 美元 CPU。看 Agent 榜单时,记得同时看重试、拒答处理和截断策略。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察