2026-11-06,Artificial Analysis(@ArtificialAnlys)发布 VIALS-AA:独立复跑 Handshake AI 的 VIALS(161 题、8 个科学图像域),用开源 harness Stirrup 配代码执行与看图工具,每题 3 次,主指标为三连全对(pass^3)。厂商口径:Gemini 4 Carbon (high) 约 64%,GPT-6 Astra (max) 约 63%,Claude Opus 5.5 (max+fallback) 约 61%;开源权重侧 Kimi K3.1 Pro 约 45%。
核心要点速览
- ✓来源:Artificial Analysis 官方文章/榜单 2026-11-06;基准任务来自 Handshake AI VIALS
- ✓方法:161 题 × 3 次;Stirrup + 代码执行/看图;GPT-6 Luna (medium) 判分;主指标 pass^3
- ✓前列(厂商口径):Gemini 4 Carbon (high) 64%、GPT-6 Astra (max) 63%、Claude Opus 5.5 (max+fallback) 61%
- ✓成本与一致性:Sol 约 59% / ~$0.056 每题;Kimi K3.1 Pro pass@3 接近 Astra,但 pass^3 仅约 45%
- ✓落地:artificialanalysis.ai/articles/vials-aa 与 /evaluations/vials-aa

开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
生命科学日常工作流依赖凝胶、流式细胞图、质粒图、系统发育树等「非论文精修」实验图像,模型若读图不稳,可能误导实验决策。Handshake AI 的 VIALS 用 161 道专家题覆盖八个图像域;2026-11-06,Artificial Analysis 发布独立实现 VIALS-AA,把同一题集放进可复现的 agent harness,强调「三次都对」的可靠性,而不是一次碰巧答对。
架构亮点与底层机制
评测在开源 harness Stirrup 中运行:模型拿到题目与图像路径,可在无网沙箱里执行 Python,并调用看图工具。每题独立跑三次;由 GPT-6 Luna (medium) 按上游 judge 提示判分。主指标为 pass^3(三次全对占比),同时报告 Average of 3 与 pass@3。文章还拆解看图、预处理、像素测量等工具调用路径,说明相近分数可以来自截然不同的推理策略。
权威 Benchmark 与实测跑分对比
以下均为 Artificial Analysis / 厂商公开口径,非本站复现。前列:Gemini 4 Carbon (high) 约 64%(103/161 题三次全对)、GPT-6 Astra (max) 约 63%、Claude Opus 5.5 (max+fallback) 约 61%。GPT-6.1 Sol 约 59%、约每题 0.056 美元;Opus 约每题 1.64 美元。开源权重侧 Kimi K3.1 Pro 约 45%;其至少对一次约 119/161,但三次全对仅约 73 题,一致性拉开差距。
开发者实战落地与开箱指南
先看 artificialanalysis.ai/articles/vials-aa 与榜单页,对照轨迹里的工具调用次数与测量策略。选型时同时看 pass^3 与 Cost per Task,避免只看 pass@3;科学场景优先要稳定复现,并单独标注厂商口径与本站未复现。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察