2026-11-06,Artificial Analysis(@ArtificialAnlys)发布 VIALS-AA:独立复跑 Handshake AI 的 VIALS(161 题、8 个科学图像域),用开源 harness Stirrup 配代码执行与看图工具,每题 3 次,主指标为三连全对(pass^3)。厂商口径:Gemini 4 Carbon (high) 约 64%,GPT-6 Astra (max) 约 63%,Claude Opus 5.5 (max+fallback) 约 61%;开源权重侧 Kimi K3.1 Pro 约 45%。

核心要点速览

  • ✓来源:Artificial Analysis 官方文章/榜单 2026-11-06;基准任务来自 Handshake AI VIALS
  • ✓方法:161 题 × 3 次;Stirrup + 代码执行/看图;GPT-6 Luna (medium) 判分;主指标 pass^3
  • ✓前列(厂商口径):Gemini 4 Carbon (high) 64%、GPT-6 Astra (max) 63%、Claude Opus 5.5 (max+fallback) 61%
  • ✓成本与一致性:Sol 约 59% / ~$0.056 每题;Kimi K3.1 Pro pass@3 接近 Astra,但 pass^3 仅约 45%
  • ✓落地:artificialanalysis.ai/articles/vials-aa 与 /evaluations/vials-aa
Artificial Analysis 上线 VIALS-AA:Handshake 生命科学视觉推理榜,厂商口径 Gemini 4 Carbon 约 64% 居首
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

生命科学日常工作流依赖凝胶、流式细胞图、质粒图、系统发育树等「非论文精修」实验图像,模型若读图不稳,可能误导实验决策。Handshake AI 的 VIALS 用 161 道专家题覆盖八个图像域;2026-11-06,Artificial Analysis 发布独立实现 VIALS-AA,把同一题集放进可复现的 agent harness,强调「三次都对」的可靠性,而不是一次碰巧答对。

架构亮点与底层机制

评测在开源 harness Stirrup 中运行:模型拿到题目与图像路径,可在无网沙箱里执行 Python,并调用看图工具。每题独立跑三次;由 GPT-6 Luna (medium) 按上游 judge 提示判分。主指标为 pass^3(三次全对占比),同时报告 Average of 3 与 pass@3。文章还拆解看图、预处理、像素测量等工具调用路径,说明相近分数可以来自截然不同的推理策略。

权威 Benchmark 与实测跑分对比

以下均为 Artificial Analysis / 厂商公开口径,非本站复现。前列:Gemini 4 Carbon (high) 约 64%(103/161 题三次全对)、GPT-6 Astra (max) 约 63%、Claude Opus 5.5 (max+fallback) 约 61%。GPT-6.1 Sol 约 59%、约每题 0.056 美元;Opus 约每题 1.64 美元。开源权重侧 Kimi K3.1 Pro 约 45%;其至少对一次约 119/161,但三次全对仅约 73 题,一致性拉开差距。

开发者实战落地与开箱指南

先看 artificialanalysis.ai/articles/vials-aa 与榜单页,对照轨迹里的工具调用次数与测量策略。选型时同时看 pass^3 与 Cost per Task,避免只看 pass@3;科学场景优先要稳定复现,并单独标注厂商口径与本站未复现。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读Artificial Analysis 发布 AA-Omniscience v1.1:题库精简到 3,000 题并公开 300 题校准集,Gemini 4 Carbon 以 54 分领跑知识与幻觉榜
立即阅读→