AI 编程实时动态与要闻

RoboColosseum 开放真机机器人评测:100+ 台机器人、124 个站点,Claude Opus 5.5 和 GPT-6 Astra 零样本操控不输专用 VLA

Hugging Face、BitRobot、新加坡具身智能中心和 NUS 等 11 月 4 日推出 RoboColosseum,一个分布式真机评测框架,覆盖 SO-101、Franka、双臂 YAM 和 Unitree G1 四种机器人。首轮在 124 个站点做了 5,699 次盲测对比,测了 5 个 VLA 策略和 3 个前沿大模型:Claude Opus 5.5 和 GPT-6 Astra 的平均任务进度分别比 VLA 高 12.1 和 11.0 个百分点,Grok 4.7 落后 7.5 个点。所有 rollout 数据公开在 Hugging Face,并向学术界提供 10,000 小时免费评测。

RoboColosseum 开放真机机器人评测:100+ 台机器人、124 个站点,Claude Opus 5.5 和 GPT-6 Astra 零样本操控不输专用 VLA

核心要点速览

  • 两个赛道:Open Track 零样本盲测成对比较,Fine-tune Track 让 VLA 每个任务用同样的 100 条示范微调后在 20 个任务上比。
  • 被测 VLA 为 GR00T N1.7、π0.5、MolmoAct2、G0.5、LingBot-VLA v2;前沿模型为 GPT-6 Astra、Claude Opus 5.5、Grok 4.7。
  • 微调后 GR00T N1.7 在 SO-101 领先,π0.5 在 Franka 和双臂 YAM 领先;G1 人形上没有任何策略完成任务,平均进度 13.3%–23.2%。
  • 不同机器人上的排名一致性很弱(Kendall W = 0.24),零样本排名也很难预测微调后的排名。
阅读全文

OpenAI 筹备下一轮内部安全冲刺:联手 Cathedral 用自家模型攻防演练,严重漏洞赏金提高四倍以上、最高 17.2 万美元

OpenAI 11 月 2 日(美国时间)发文宣布筹备下一轮内部安全冲刺,与安全公司 Cathedral 合作,让对方研究员使用 OpenAI 模型和内部团队一起挑战自家防御。同时调整 Security Bug Bounty:严重级别漏洞奖励提高到原来的四倍以上,OpenAI 官方 X 帖称特别出色的发现含奖金最高可得 17.2 万美元。官方称上一轮冲刺抽调了 25% 的产品工程师,用 Codex 复现漏洞并准备补丁;此外已承诺 6 个月内提供 10 亿美元补贴额度给守护关键服务的防御方。

OpenAI 筹备下一轮内部安全冲刺:联手 Cathedral 用自家模型攻防演练,严重漏洞赏金提高四倍以上、最高 17.2 万美元

核心要点速览

  • 严重级别漏洞赏金提高到原来的四倍以上,官方 X 帖口径:特别出色的发现含奖金最高 17.2 万美元。
  • 合作方 Cathedral 的研究员将使用 OpenAI 模型,与内部团队一起对 OpenAI 系统做攻防测试。
  • 官方称上一轮冲刺抽调 25% 的产品工程师,用 Codex 在隔离环境复现漏洞并准备补丁。
  • OpenAI 已承诺 6 个月内提供 10 亿美元补贴额度,给守护关键服务和数字基础设施的防御方。
  • 下一轮冲刺的时间、范围和漏洞数量官方未公布。
阅读全文
关联模型 / 智能体 / 厂商:

Altman 在 ADIPEC 表示:解出 Navier-Stokes 的 1 万 Agent 内部模型就是「即将发布的下一代 GPT」

OpenAI CEO Sam Altman 11 月 2 日在阿布扎比 ADIPEC 能源大会开幕演讲中说,9 月那次 1 万个 Agent 连续协作约四天的运行,用的是「即将发布的模型,下一代 GPT」,并强调 Agent 之间没有层级、完全去中心化。这是 OpenAI 首次在公开场合把 9 月 Navier-Stokes 证明背后的内部模型与下一款旗舰产品对上号,但官方仍未公布名称、发布日期或价格。

Altman 在 ADIPEC 表示:解出 Navier-Stokes 的 1 万 Agent 内部模型就是「即将发布的下一代 GPT」

核心要点速览

  • 原话(ADIPEC 演讲视频):「It was 10,000 agents of the model that is going to be released soon, the next GPT, working for about four days, nonstop」。
  • OpenAI 9 月 8 日官方博客口径:约 1 万个并发 Agent,约 88 小时得出结果,GPT-6 Astra 再用 17 小时完成 Lean 形式化与验证。
  • 规模(官方口径):Navier-Stokes 这一题 Agent 间发送 270 万条消息、约 1300 亿输出 token;全部问题合计 490 万条消息、约 3000 亿输出 token。
  • Lean 证明已开源在 openai/NavierStokesAndEuler,证明的是 Clay 官方表述中的 C、D 两种情形(带外力的破裂)。
  • 未公布:下一代 GPT 的名称、发布日期、价格和跑分;X 上流传的「GPT-6.2 Astra」等名字均为猜测。
阅读全文
关联模型 / 智能体 / 厂商:

X 热议:DHH 称 Agent 时代对多数程序员是好事,但「难相处」的人将失去专业技能带来的豁免权

Ruby on Rails 作者、37signals CTO DHH(David Heinemeier Hansson)11 月 2 日在 X 上连发两帖:一是「Agent 的最大馈赠,是让你能绕开软件圈里每一个难缠的守门人」;二是「Agent 时代对大多数程序员会很棒,但对脾气古怪、难合作的人会是艰难时期,专业知识和稀有技能不再能让难相处的人免责,最好学点基本的人际技能」。第二帖约 4 小时内获约 3600 赞、10.6 万浏览、280 多条回复。这是个人观点,不是任何公司的公告。

核心要点速览

  • 这是 DHH 的个人观点帖,不是 37signals 或任何 AI 公司的官方表态,也没有附带数据或研究。
  • 主帖(2026-11-02 13:03 UTC)抓取时约 3609 赞、180 转发、282 回复、60 引用、10.6 万浏览、400 次收藏。
  • 约 1.5 小时前的前置帖「Agent 让你绕开每一个难缠的守门人」(11:41 UTC)约 2831 赞、131 转发、8 万浏览。
  • 支持方:技术分析作者 Ben Dickson(@bendee983)引用称,以前优秀工程师可以「难相处也没事」,AI 正在拉平差距,但仍需要扎实的工程知识。
  • 反方和补充:有人调侃难相处的人反而找到了「永远不会回嘴的同事」;也有人认为 Agent 只会干活,不会让你更好合作,「好合作」的价值反而更高。
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

X 热议:马斯克称 Grok Bot 服务成本相对收入过高,Replit CEO Amjad Masad 警告「补贴型 AI 订阅要被收割了」

有用户在 X 上抱怨本周期 Grok Bot 额度提前用完,马斯克回复称「Grok Bot 的服务成本相对收入高得不可持续」,该回复获 1.3 万赞、550 万浏览。Replit CEO Amjad Masad 随后转引称「享受补贴型 AI 订阅的人准备好被收割」,引发关于 AI 包月订阅定价是否可持续的讨论。以下为 X 讨论与当事人观点,xAI 未发布正式的定价或额度调整公告。

核心要点速览

  • 起点:用户 @DogecoinNorway 称 Grok Bot 用量已到 100%,距重置还有 4 天,帖子约 124 万浏览。
  • 马斯克回复:Grok Bot 的服务成本相对收入高得不可持续,约 1.32 万赞、551 万浏览、1,900 余次引用。
  • Amjad Masad(Replit CEO)转引称补贴型 AI 订阅将被「rug pull」,约 2,347 赞、14.6 万浏览;他在回复中称 Replit「从未补贴」。
  • xAI 未发布正式的额度或定价调整公告,具体变化以官方说明为准。
阅读全文

X 热议:GPT-6 Astra 是不是机器人的「GPT-3 时刻」?前 OpenAI 研究员 Will Depue 称专用 ML 被「苦涩教训」吃掉

过去一天,X 上围绕 GPT-6 Astra 能否直接当机器人策略展开热议。前 OpenAI 研究员 Will Depue(简介写明曾参与 Sora 1/2、o3/4o 后训练)说,Astra 碾压专用机器人模型「非常令人意外」,随后又称这是「专用 ML 的最终死亡」。投资人 Freda Duan 发帖称「Astra 就是机器人的 GPT-3 时刻」,约 8.4 万浏览。第三方评测给出的数字有支持也有反例:RoboDojo 论文里 Astra 平均成功率 22.48%,排在 40 个公开策略之上;另一份 EBench 报告里它是 46.7%,9 个模型中排第 3。以下是观点讨论,不是 OpenAI 官方结论。

X 热议:GPT-6 Astra 是不是机器人的「GPT-3 时刻」?前 OpenAI 研究员 Will Depue 称专用 ML 被「苦涩教训」吃掉

核心要点速览

  • 热度:Will Depue 两条帖子约 597 和 566 赞、5.9 万和 3.7 万浏览;Freda Duan 的「10 条观点」约 455 赞、559 收藏、8.4 万浏览(截至 19:10 SGT)
  • RoboDojo:42 个任务、2,100 次试验,Astra 平均成功率 22.48%、Score 28.97,排在 40 个公开策略之上;同设置下 GPT-5.5 只有 0.88%(arXiv 2609.24170,论文作者口径)
  • 反例:EBench 报告中 Astra 加单样本上下文学习为 46.7%,低于 OpenWAM-α 的 55.3% 和 AMapbot 1 的 48.9%(EBench 技术报告)
  • 真机:Robocurve 在 YAM 机械臂上测得「方块放进碗」20 次成功 19 次,单次约 0.94 美元;「拼图插槽」只成功 2 次(Robocurve)
  • 短板:多份评测都指出 Astra 在高精度、动态控制和双臂协作上明显偏弱
阅读全文
关联模型 / 智能体 / 厂商:

YC Labs 让 AI 智能体蜂群打 Minecraft 和 Mindustry:GPT 蜂群两项对抗赛 16 局赢下 12 局压过 Claude,50 智能体殖民地反而陷入「官僚主义」

Y Combinator 的研究项目 YC Labs 与多智能体环境公司 Olam Labs 10 月 29 日发布《Agents in Games》实验报告:50 个 GPT-6.1 Sol 智能体在 Minecraft 生存模式里「建设繁荣文明」3 小时,最后挤在避难所里配给口粮,发了约 5,900 条消息,搞出配给账本、许可证和各种岗位;9 局 Bed Wars 中 10 个 GPT-6.1 Sol 对 10 个 Claude Opus 5.5,GPT 以 6–3 获胜;Mindustry 50 对 50 共 7 局约 9.5 小时,GPT 以 6–1 获胜。报告还发现领导者几乎总是名册上排第一的智能体,GPT 卡住时会自己上网读游戏源码。Minecraft 智能体框架已开源。这是单一机构的实验观察,不是标准化跑分。

YC Labs 让 AI 智能体蜂群打 Minecraft 和 Mindustry:GPT 蜂群两项对抗赛 16 局赢下 12 局压过 Claude,50 智能体殖民地反而陷入「官僚主义」

核心要点速览

  • 对抗结果:Bed Wars 9 局 GPT-6.1 Sol 6–3 胜,Mindustry 7 局 6–1 胜,合计 16 局 12 胜(见 YC Labs 报告)
  • Civ50:50 个 GPT 智能体 3 小时发约 5,900 条消息,34 次死亡中 22 次发生在第一夜,之后整体趋于保守
  • 领导者不靠选举:49 个智能体中 46 个第一条消息发给名册第一的 Ada,她共收到 616 条私信
  • 沟通风格:Bed Wars 一局中 GPT 发出 1,147 条私信、Claude 仅 82 条;GPT 越打越用压缩速记,Claude 用「+1」投票
  • 开源:Minecraft 长时运行智能体框架 yc-software/minecraft-agent-harness 已公开
阅读全文
T
Tsinghua University & Z.AI (HarnessPro, arXiv 2610.26770)arxiv.org·
👀17
🔥80

清华与智谱 Z.AI 开源 HarnessPro:Agent 自己改写 harness,Terminal-Bench 2 通过率 80.8%、单任务成本降 34%

清华大学与 Z.AI(智谱)等机构的论文 HarnessPro(arXiv 2610.26770,10 月 19 日提交、10 月 20 日更新 v2)提出一种无需标准答案的 harness 自我改进方法:让专门的 agent 诊断执行轨迹、改写指令与运行时策略,再用 LLM 生成的测试评估,并按性能与成本给出 Lite、Medium、Heavy 三档 harness。论文口径:GPT-5.5 搭配 Codex 时,Heavy 档在 Terminal-Bench 2 达到 80.8%,比此前方法 RHO 高 4.5 个百分点,单任务成本从 1.09 美元降到 0.72 美元。代码以 MIT 协议开源,本周被 Pandaily 等媒体集中报道。

清华与智谱 Z.AI 开源 HarnessPro:Agent 自己改写 harness,Terminal-Bench 2 通过率 80.8%、单任务成本降 34%

核心要点速览

  • Terminal-Bench 2(GPT-5.5 × Codex,三次平均):Heavy 档 80.8%、单任务 0.72 美元;RHO 为 76.3%、1.09 美元,成本降 33.9%(论文口径,见 arXiv)
  • 三个基准平均:相对 RHO 通过率 +2.0 个百分点、单任务成本 -26.1%;基准为 Terminal-Bench 2、SWE-Bench Pro、ProgramBench
  • 换模型也成立:GLM-5.2 × Claude Code 在 Terminal-Bench 2 上,Heavy 档 81.4%、0.62 美元,对比原版 74.6%、0.92 美元和 RHO 78.0%、1.00 美元
  • 省钱档:Medium 档在 Terminal-Bench 2 上 76.3%(与 RHO 持平)但只要 0.56 美元;Lite 档 72.9%、0.43 美元
  • 训练代价小:每个基准只用 10 个训练任务、跑 3–4 轮进化,测试集为 59/100/100 个留出任务;GitHub 以 MIT 协议开源三档 harness
阅读全文

OpenAI 更新数据政策:Daybreak Blue 个人账号会话即使关闭训练开关也可能被用于训练,安全研究者在 X 上强烈反弹

OpenAI 帮助中心的《ChatGPT 数据控制》页面新增「个人账号上的 Trusted Access」一节:在 Daybreak Blue 等可信访问项目的会话中,即使用户关闭了「为所有人改进模型」,OpenAI 也可能用这些交互内容改进模型,理由是加强防范网络滥用的安全措施;其它非 Daybreak 会话仍按用户设置处理。多位用户在 X 上贴出的 OpenAI 邮件称该变化从 11 月 29 日起生效,安全研究者 Sean Heelan 等人批评这会让未披露的漏洞和研究成果进入训练数据。

核心要点速览

  • 官方口径:Daybreak Blue 等 Trusted Access 会话在个人账号上可用于改进模型,不受「为所有人改进模型」开关约束
  • 例外范围只限 Trusted Access 会话,账号里其它对话仍按原设置处理
  • Business、Enterprise 等托管工作区和 API 默认不用于训练,这一政策不改变
  • 用户在 X 上公开的邮件称 11 月 29 日生效,另有用户称个人用户将在 11 月 20 日失去 Daybreak Blue 的 API 访问(官方页面暂未写明这两个日期)
  • Sean Heelan 的批评帖获得 600 多个赞、100 多次转发,多名漏洞赏金猎人表示会重新考虑是否继续使用
阅读全文
关联模型 / 智能体 / 厂商:

Krea 推出 Ad Studio:首个 Krea 3 Expert 模型,粘贴网址即可生成品牌一致的广告

Krea 于 10 月 29 日发布 Ad Studio,这是首个 Krea 3 Expert(专精单一任务的 Krea 3 版本)。粘贴品牌网址后,它会自动生成可编辑的品牌套件和产品目录,再按投放位一次批量生成最多 12 条广告,并可通过 Krea MCP 服务器在 Claude 中调用。

Krea 推出 Ad Studio:首个 Krea 3 Expert 模型,粘贴网址即可生成品牌一致的广告

核心要点速览

  • Ad Studio 是首个 Krea 3 Expert,官方表示更多 Expert 正在路上
  • 输入网址后自动提取 logo、配色、字体、语气、卖点与产品(Shopify 可读取商品目录),品牌套件最多 20 个产品
  • 支持 4:5、1:1、9:16、16:9 投放尺寸,每批最多 12 条,可让 Krea Agent 对话式修改
  • 官方实测:品牌套件 49 秒完成,6 条 Story 广告 2 分 28 秒;付费套餐 Basic 起可用,未公布跑分
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

Kimi 推出 3D Make:K3.1 Pro 可直接操作 Blender、CAD 和 Unreal/Unity/Godot 引擎建模、搭场景、做游戏

月之暗面 Kimi 官方账号 10 月 30 日 03:14(UTC)发布 3D Make,称 Kimi 可连接 Blender 和 CAD 等工具来建模、组装场景和开发游戏,已在 kimi.ai 和 Kimi Work 上线。官方同步发布的 3D 教程说明,K3.1 Pro 经过专门训练,通过 Python 脚本操作 3D 软件,即使没有 MCP 支持的专业软件也能纳入工作流;人物、动物等网格模型则自动调用 Tripo 等扩散模型生成。需要本地软件的插件仅在 Kimi Work 中可用。

Kimi 推出 3D Make:K3.1 Pro 可直接操作 Blender、CAD 和 Unreal/Unity/Godot 引擎建模、搭场景、做游戏

核心要点速览

  • 上线范围:3D Make 已在 kimi.ai 和 Kimi Work 提供,依赖本地软件的插件仅限 Kimi Work
  • 两种建模路线:参数化建模由 K3.1 Pro 写 Python 脚本完成(家具、机械件、建筑),网格建模自动调用 Tripo、Meshy、Hyper3D 等服务
  • 引擎适配:官方称已适配 Unreal Engine、Unity 和 Godot,可导入模型、搭场景、逐步实现玩法
  • 官方案例:K3.1 Pro 发布视频里的天宫场景用 Unreal Engine 5.8 制作,源模型合计 3600 万个三角形,用 Nanite 和 Lumen 渲染
  • 跑分:官方未公布 3D 相关基准,教程也承认部分任务需要多轮修改,骨骼绑定和复杂材质仍是短板
阅读全文

Mistral 正式开放 Mistral Large 4「Le Chonk」权重:1T 总参 / 约 52B 激活的多模态 MoE,官方称 FrontierCode 2.0 开源第一

Mistral 10 月 29 日发布改进版 Mistral Large 4(Le Chonk)并开放权重,已上架 Hugging Face(另有 NVFP4 量化版),API 名为 mistral-large-4。相比 10 月初的公开预览,多做了约三周强化学习:官方口径 FrontierCode 2.0 得分 19.7%、Terminal-Bench 4.0 从 28% 升到 41%,并新增 low/medium/high 三档推理。许可证为改版 MIT,商用可用,但做模型即服务需另签商业许可。

Mistral 正式开放 Mistral Large 4「Le Chonk」权重:1T 总参 / 约 52B 激活的多模态 MoE,官方称 FrontierCode 2.0 开源第一

核心要点速览

  • 规格:约 1T 总参数、每 token 激活 49B(含嵌入和输出层约 52B),128 个路由专家每次激活 4 个外加 1 个共享专家,1M 上下文,文本+图像输入
  • Mistral 口径:Cognition FrontierCode 2.0 得分 19.7%,高于 DeepSeek V4.1 Flash 的 19.3% 和 GLM-5.3 的 17.8%,开源模型第一
  • Artificial Analysis 编码智能体指数 48%,与 GLM-5.3 基本持平,但平均每任务少用 47% 的 token;Terminal-Bench 4.0 由预览版 28% 提升到 41%
  • Artificial Analysis Cyber Index 51%;对恶意网络安全请求的平均拒绝率 96.6%,官方称为开源模型中最高
  • 在 Mistral 自有欧洲数据中心用 3,800 块 NVIDIA Grace Blackwell GPU 从零训练;Surge Code 盲评中仅次于 Claude Opus 5.5
阅读全文
关联模型 / 智能体 / 厂商:

赛门铁克发现灰色中转服务:装上正版 Codex 和 Claude Code CLI,再改配置关闭沙箱、把全部请求转到第三方服务器

赛门铁克 Threat Hunter 团队 10 月 29 日披露:一个未授权 AI 中转服务自 2026 年初起在约十几家机构出现,以中国大陆为主。用户先用 npm 装正版 Codex 或 Claude Code,再运行中转商给的一行脚本,脚本改写 ~/.codex/config.toml 或 ~/.claude/settings.json,把 base_url 指向中转域名、换成中转 key,并把沙箱设为 danger-full-access、关闭遥测。官方强调这不是 CLI 漏洞,目前也没发现运营方滥用权限。

赛门铁克发现灰色中转服务:装上正版 Codex 和 Claude Code CLI,再改配置关闭沙箱、把全部请求转到第三方服务器

核心要点速览

  • 受影响的约十几家机构以中国大陆为主,也包括韩国、台湾、马来西亚企业的在华或本土子公司,涉及半导体、电子制造、制药、航运、石化等行业
  • 脚本通过 iwr | iex 或 curl | bash 从仿冒域名(如 vibe.aiok[.]me)拉取,先装正版 CLI 再改配置,看起来像正常安装步骤
  • Codex 沙箱被设为 danger-full-access 并开启网络访问,同时设置 DISABLE_TELEMETRY=1、DISABLE_ERROR_REPORTING=1
  • 中转发的 Claude Code key 前缀为 sk-ant-oat01-(订阅 OAuth token 格式),赛门铁克认为这与拼车转售订阅额度相符,但不能证明
  • 官方称这不是 Codex 或 Claude Code 的漏洞,目前没有证据显示运营方滥用了权限,风险属于潜在风险
阅读全文

港大 Dream 团队创立的 DiffuSpace 开源 Clover-35B-A3B 扩散语言模型:单卡 680 tokens/s,SWE-bench Verified 73.6

扩散智能 DiffuSpace(成员来自推出 Dream 7B 的港大 NLP 实验室)10 月 28 日发布首个模型 Clover-35B-A3B-Preview:基于 Qwen3.6-35B-A3B 初始化的 MoE 扩散语言模型,总参 35B、激活约 3B、128K 上下文,按块并行去噪生成。官方口径下 SWE-bench Verified 73.6、Terminal-Bench 2.1 51.7、GPQA Diamond 83.8,单张 GB300 上 Agent 场景生成速度 680 tokens/s。权重 Apache 2.0,已上 Hugging Face、ModelScope 和 GitHub,支持 SGLang 与 llama.cpp。

港大 Dream 团队创立的 DiffuSpace 开源 Clover-35B-A3B 扩散语言模型:单卡 680 tokens/s,SWE-bench Verified 73.6

核心要点速览

  • 35B 总参、约 3B 激活的 MoE 扩散模型,由 Qwen3.6-35B-A3B 初始化,128K 上下文,支持思考模式
  • 官方称六项 Agent 评测全部第一:SWE-bench Verified 73.6、Terminal-Bench 2.1 51.7、τ³ Overall 65.3,超过 LLaDA2.2 flash、Mercury 2.5 和 Qwen3.6-35B-A3B
  • 速度(官方口径):单张 GB300、BF16、batch=1 下 Agent 场景 680 tokens/s;单张 H200 上 515 tokens/s,高于 DFlash2 加速 Qwen 的 365 tokens/s
  • INT4 量化后可在 16GB 显存的 RTX 5070 Ti 上运行,MATH-500 生成速度 101.8 tokens/s
  • Hugging Face 权重 Apache 2.0,BF16 约 69GB,官方推荐用 SGLang 部署
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Clover-35B-A3B-Preview⚡ Qwen3.6-35B-A3B⚡ Dream 7B⚡ LLaDA2.2 flash⚡ Mercury 2.5🌐 DiffuSpace🌐 HKU NLP🌐 Alibaba Qwen🌐 NVIDIA

Anthropic 新研究:50 名专业数据分析师用 Claude Code 做分析,86% 的关键判断跟随了 AI 被暗中设定的倾向

Anthropic 对齐团队 10 月 27 日发布随机对照试验《How AI agents shape experts' judgment calls》,研究员 Alex Tamkin 在 X 上发布。50 名有因果推断经验的分析师用 Claude Code(Claude Opus 4.8)为一家虚构农业合作社评估项目,每个分析决策上 Agent 的倾向由抛硬币决定且不告知分析师。结果 86% 的选择与 Agent 倾向一致(无影响时应约 50%),77% 的人事后复述了 Agent 的论点,但只有 15% 提到 Agent。

Anthropic 新研究:50 名专业数据分析师用 Claude Code 做分析,86% 的关键判断跟随了 AI 被暗中设定的倾向

核心要点速览

  • 四个分析决策上与 Agent 倾向一致的比例分别为 92%、82%、81%、90%,合计 86%;最终是否推广的建议也受影响(Agent 倾向推广时 54% 推荐,反之 36%)
  • 38 个案例里分析师先表态再听 Agent:Agent 反对时 60% 改主意,Agent 同意时只有 6%(样本小,95% 置信区间 24–82 个百分点)
  • 仅凭四次抛硬币决定的倾向,统计模型就能预测 82% 的最终建议(基线 61%);经验、学历、对 AI 的信任等 10 项特征都无法稳定预测谁更容易被带偏
  • 52% 的分析师认为最终建议更多是自己的,自评信心与其他人相近(71 对 73)
  • 不用 Agent 的 11 人里 6 人出现严重方法错误,用 Agent 的 50 人里只有 3 人;但两组经验不同,Anthropic 提醒不要过度解读。研究只覆盖一个任务、一个模型,且刻意加强了 Agent 的倾向
阅读全文
关联模型 / 智能体 / 厂商: