AI 编程实时动态与要闻

YC Labs 让 AI 智能体蜂群打 Minecraft 和 Mindustry:GPT 蜂群两项对抗赛 16 局赢下 12 局压过 Claude,50 智能体殖民地反而陷入「官僚主义」

Y Combinator 的研究项目 YC Labs 与多智能体环境公司 Olam Labs 10 月 29 日发布《Agents in Games》实验报告:50 个 GPT-6.1 Sol 智能体在 Minecraft 生存模式里「建设繁荣文明」3 小时,最后挤在避难所里配给口粮,发了约 5,900 条消息,搞出配给账本、许可证和各种岗位;9 局 Bed Wars 中 10 个 GPT-6.1 Sol 对 10 个 Claude Opus 5.5,GPT 以 6–3 获胜;Mindustry 50 对 50 共 7 局约 9.5 小时,GPT 以 6–1 获胜。报告还发现领导者几乎总是名册上排第一的智能体,GPT 卡住时会自己上网读游戏源码。Minecraft 智能体框架已开源。这是单一机构的实验观察,不是标准化跑分。

YC Labs 让 AI 智能体蜂群打 Minecraft 和 Mindustry:GPT 蜂群两项对抗赛 16 局赢下 12 局压过 Claude,50 智能体殖民地反而陷入「官僚主义」

核心要点速览

  • 对抗结果:Bed Wars 9 局 GPT-6.1 Sol 6–3 胜,Mindustry 7 局 6–1 胜,合计 16 局 12 胜(见 YC Labs 报告)
  • Civ50:50 个 GPT 智能体 3 小时发约 5,900 条消息,34 次死亡中 22 次发生在第一夜,之后整体趋于保守
  • 领导者不靠选举:49 个智能体中 46 个第一条消息发给名册第一的 Ada,她共收到 616 条私信
  • 沟通风格:Bed Wars 一局中 GPT 发出 1,147 条私信、Claude 仅 82 条;GPT 越打越用压缩速记,Claude 用「+1」投票
  • 开源:Minecraft 长时运行智能体框架 yc-software/minecraft-agent-harness 已公开
阅读全文

CrowdStrike:中国关联组织 VAPOR PANDA 用 ARTEX 多智能体框架(主用 DeepSeek)11 天内攻击 200 多家机构

CrowdStrike 于 10 月 29 日发布报告:中国关联的间谍组织 VAPOR PANDA 自 10 月 17 日起,用开源 agent 入侵框架 ARTEX 搭配 DeepSeek 和另一款未能确认的商业大模型,在 11 天内从同一个控制端对至少 14 个国家的 200 多家机构发起攻击,确认 9 家被攻入并植入 BLOODALCHEMY 后门。单次入侵中规划 agent 就消耗约 14 亿输入 token;恢复的对话记录显示有人类操作员用中文在关键节点下指令。

核心要点速览

  • 10 月 17 日起 11 天,同一个 ARTEX 控制端攻击至少 14 个国家、200 多家机构,涉及多国外交部、美国 19 家制药/半导体/国防/核能/金融机构,以及美国、比利时、菲律宾的电信商(CrowdStrike 报告)
  • 确认 9 家机构被攻入并部署 BLOODALCHEMY 后门,另有至少 12 家遭密码喷洒和凭据扫描
  • 主用 DeepSeek,外加一款 CrowdStrike 未能确认的订阅制商业大模型;单次入侵中规划 agent 约消耗 14 亿输入 token
  • 恢复的记录里人类操作员用「【人类指令】」标签下中文指令,还要求 agent 找出「没有装猎鹰(Falcon)」的 Windows 主机
  • CrowdStrike 称这与微软此前报道的 Storm-0940 使用 ARTEX 是两起不同活动,并判断未来 12 个月中国关联组织「极可能」继续采用此类 agent 框架
阅读全文
关联模型 / 智能体 / 厂商:

xAI 给 Grok API 加上 guidelines 字段:按请求设定 NSFW、暴力、脏话三类内容的收紧策略

xAI 10 月 28 日在 @grok 官方账号宣布,所有 API 客户现在都能在文本请求里加 guidelines 数组,对 nsfw、violence、profanity 三个类别逐一设为 decline,让 Grok 在写回答时自己收紧这类内容,而不是事后过滤。字段同时支持 Responses API、Chat Completions 和 xAI Python SDK;多智能体模型和延迟补全暂不支持,参数不合法时 API 会在调用模型前直接返回 400 或 422。

xAI 给 Grok API 加上 guidelines 字段:按请求设定 NSFW、暴力、脏话三类内容的收紧策略

核心要点速览

  • 3 个类别:nsfw、violence、profanity,目前唯一可选行为是 decline,未列出的类别保持模型默认(官方文档)
  • 覆盖 Responses API、Chat Completions 和 xAI Python SDK 的 chat.create;OpenAI SDK 需用 extra_body 传入
  • 只对携带它的那一次请求生效,整段对话要每次都带上;xAI SDK 的 chat 对象会自动带
  • 不支持 grok-4.20-multi-agent 等多智能体模型和延迟补全;同一类别重复出现返回 400,未知取值返回 422
  • 官方账号原帖约 59 万次浏览、271 个赞(截至本文写入)
阅读全文
关联模型 / 智能体 / 厂商:

Anthropic 发布智能体构建指南:多数场景应把子智能体并回单一主循环,靠 Skills 与工具按需加载;一家客户实测提速约 2 倍

Anthropic 应用 AI 团队于 2026-10-22 在 Claude 官网发布文章《Building agents: When to fold subagents into your main agent loop》,并配套开源参考实现 anthropics/single-agent-loop-kit。文章称在多个企业部署的对比中,「单一智能体 + Skills」常在质量上胜过「一个大提示词」和「多子智能体」两种设计,单任务成本和延迟往往也更低;一家客户把多智能体框架换成单循环后运行时间快了约 2 倍。Anthropic 还透露已将面向高级模型的 Claude Code 系统提示词精简 80% 以上。子智能体仍适用于上下文膨胀、需并行且用完即弃的任务、工具选择或指令冲突三种情况。该文过去两天在 X 上引发大量讨论。

Anthropic 发布智能体构建指南:多数场景应把子智能体并回单一主循环,靠 Skills 与工具按需加载;一家客户实测提速约 2 倍

核心要点速览

  • 官方原文:Building agents: When to fold subagents into your main agent loop,页面日期 2026-10-22
  • 客户实测(官方口径):一家客户把多智能体框架与单一智能体循环对比,后者运行时间快约 2 倍
  • Anthropic 称已把面向高级模型的 Claude Code 系统提示词精简 80% 以上,部分来自 Skills 与工具的渐进式披露
  • 子智能体只在 3 种情况保留:上下文膨胀导致可量化的性能下降、需要并行且可丢弃上下文的任务、工具选择困难或系统提示词指令冲突
  • 配套开源 single-agent-loop-kit:按「先测量、再合并、后折叠」三步迁移,官方起步建议 10 条黄金样例的端到端评测
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

多智能体世界模型突破:OverSeer 提出辅助流联合预测,破解群体视界盲区与长程一致性

多所顶尖研究机构在 arXiv:2610.28554 中正式发布革命性多智能体世界模型架构 OverSeer。针对现存视频世界模型在扩展至多智能体协同场景时,各 Agent 视界受限(局部可观察性)、传统方案过度依赖外部地图拼接输入,导致多视角画面严重冲突与空间位置漂移的行业痛点,OverSeer 提出“将全局空间辅助流与多智能体第一人称流进行联合预测”的全新机制。在经典开放世界测试环境 Minecraft 的严格基准评测中,OverSeer 在空间定位(Grounding)、长程空间记忆(Memory)与多视角一致性(Consistency)指标上全面超越现有顶级基线,彻底消除了群体智能体在空间盲区下的物理幻觉。

多智能体世界模型突破:OverSeer 提出辅助流联合预测,破解群体视界盲区与长程一致性

核心要点速览

  • 研究团队在 arXiv:2610.28554 中发布 OverSeer 架构,首创面向群体协同交互的多智能体视频世界模型
  • 彻底摒弃依赖外部静态地图输入的落后做法,创新性引入与智能体第一人称流联合端到端预测的辅助空间表征流
  • 在开放世界沙盒 Minecraft 的严密多视角基准实测中,在物理定位、跨视野记忆与全局几何一致性上全面领跑
  • 为分布式多机器人协同作业、多人游戏 NPC 动态推演与复杂具身多智能体集群提供了高保真虚拟演练世界底座
阅读全文
关联模型 / 智能体 / 厂商:

实测揭秘并发 Sub-Agent 的代价:SWE-bench 修复率暴跌 24%,Token 消耗剧增 3.3 倍

针对业内盲目推崇多智能体并发(Sub-Agent Concurrency)的狂热,最新实测研究对 Claude Code、Codex 与 Kimi Code 在开启/关闭原生 Sub-Agent 模式下进行了 2,124 次对比测试(覆盖 354 项任务,消耗超 2 万美元 API 额度)。结果显示:在 100 项标准 SWE-bench Verified Bug 修复中,开启 Sub-Agent 导致 Claude Code 成功率从 83% 骤跌至 59%,Kimi Code 从 77% 跌至 59%,且 Token 消耗激增 1.41~3.31 倍。研究揭秘了并发死锁、提前终止与文件覆盖三大致命缺陷。

实测揭秘并发 Sub-Agent 的代价:SWE-bench 修复率暴跌 24%,Token 消耗剧增 3.3 倍

核心要点速览

  • 资深研究者开展耗资 2 万美元的大规模实测,运行 2,124 次对比测试揭秘编程智能体开启 Sub-Agent 并发的真实代价
  • 在 SWE-bench Verified 100 项 Bug 修复中,开启 Sub-Agent 导致 Claude Code 成功率从 83% 跌至 59%,Kimi Code 跌至 59%
  • Token 消耗激增 1.41~3.31 倍,平均耗时从 17.5 分钟增加至 27.8 分钟,暴露预算耗尽、孤儿提前终止与文件相互覆盖三大并发缺陷
  • 仅在复杂多文件长任务(LoopsBench,7.1%→21.4%)或设立独立验证者时有净增益,建议日常常规开发维持单 Agent 顺序执行
阅读全文
关联模型 / 智能体 / 厂商:

真实动态市场解构 Agent 决策暗箱:LiveMACE 提出过程感知基准,揭秘大模型合规与收益的割裂

多所高校团队在 arXiv:2610.09872 中发布首个面向演化环境的持续性 Agent 过程感知评估基准 LiveMACEBench。以真实动态金融市场为试验场,针对 GPT-5.4、DeepSeek-V3.2、Gemini-3.1-Pro、Qwen3-Max 与 Grok-4.20 展开多轮连续闭环评测。实测发现高收益往往掩盖决策暗箱:部分模型在机械合规的同时留存零审查证据(静默合规),或因增量盲区屡屡踩踏风控红线,为多智能体可靠落地敲响警钟。

真实动态市场解构 Agent 决策暗箱:LiveMACE 提出过程感知基准,揭秘大模型合规与收益的割裂

核心要点速览

  • 多所高校联合推出首个面向演化环境的持续性智能体过程感知评估基准 LiveMACEBench(arXiv:2610.09872),解耦决策质量与市场波动
  • 在真实金融市场闭环中对 GPT-5.4、DeepSeek-V3.2、Gemini-3.1-Pro、Qwen3-Max 与 Grok-4.20 开展连续数周长程评测
  • DeepSeek-V3.2 取得最高回报 +5.765% 与最低回撤 4.270%;Gemini-3.1-Pro 斩获全场最高规则可审计性分数 0.882 与合规率 0.888
  • 揭示大模型关键决策缺陷:部分模型存在零审计证据的“静默合规”,或因增量盲区将单一持仓上限误当目标引发严重风控穿透
阅读全文
关联模型 / 智能体 / 厂商:

新加坡国立与阿里通义千问提出智能体实时纠偏框架 Steering Agent:双路径强化学习突破目标漂移,多跳 QA 提升 7.4 分且执行轮次缩减 26%

针对长链路多轮工具调用与多智能体协作中频发的“目标漂移(Goal Drift)”难题,新加坡国立大学、中科大与阿里通义千问团队联合提出 Steering Agent(arXiv:2610.22316)。该框架通过成对排序与组相对策略优化(GRPO)联合训练低成本快速判断路径(When to intervene)与高成本慢速纠偏生成路径(How to intervene),在无需重训基座模型的前提下将多跳 QA 平均基准分从 42.70 提升至 50.10,同时将平均执行轮次从 8.8 轮大幅压缩至 6.5 轮(-26.1%)。

新加坡国立与阿里通义千问提出智能体实时纠偏框架 Steering Agent:双路径强化学习突破目标漂移,多跳 QA 提升 7.4 分且执行轮次缩减 26%

核心要点速览

  • 新加坡国立大学与阿里通义千问团队提出 Steering Agent(arXiv:2610.22316),专攻多轮工具调用与多智能体系统中的目标漂移(Goal Drift)难题
  • 创新设计“快速路径判断何时干预 + 慢速路径生成如何纠偏”的双路径架构,通过成对排序与 GRPO 强化学习联合训练
  • 在多跳问答基准上将平均准确率提升至 50.10(超越无干预基线 7.4 分),并将规划执行轮次从 8.8 轮压减至 6.5 轮(-26.1%)
  • 在挂载真实网络搜索的 GAIA(Pass@4 达 39.81%)与 Frames(Pass@4 达 59.71%)基准上展现出优异的跨模型与跨任务泛化能力
阅读全文
关联模型 / 智能体 / 厂商:

阿里淘天公布日产百万级多智能体生成架构 CommerceGen-Studio:6B SKU-DiT 击败 20B 开源模型与 Nano Banana Pro,微软提出测试时多样性对齐 MSR

阿里巴巴淘天集团发表生产级多智能体商业视觉生成系统 CommerceGen-Studio(arXiv:2610.20603,HF 52 赞),通过 PERL-Agent 闭环自进化与 6B 参数 SKU-DiT(RDR 三阶段强化蒸馏),支撑日均数百万张秒级生成,并在真实流量基准 CommerceGen-Bench 上以 9.43/9.45 分击败 20B Qwen-Image-Edit 及闭源 Nano Banana Pro;同期微软研究院提出 Mine, Sample, Render(MSR,arXiv:2610.21185),在测试时外置统计采样彻底解决大模型生成同质化(Mode Collapse)。

阿里淘天公布日产百万级多智能体生成架构 CommerceGen-Studio:6B SKU-DiT 击败 20B 开源模型与 Nano Banana Pro,微软提出测试时多样性对齐 MSR

核心要点速览

  • 阿里淘天 CommerceGen-Studio(arXiv:2610.20603)在生产环境支撑日均数百万张商品视觉生成、单图延迟仅数秒
  • 通过 Reinforce-Distill-Reinforce(RDR)训练的 6B 参数 SKU-DiT 在 CommerceGen-Bench 单图/多图任务上斩获 9.43 / 9.45 分,越级击败 20B Qwen-Image-Edit(8.67 / 7.48)与闭源 Nano Banana Pro(9.39 / 9.33)
  • 配合 PERL-Agent(Prompt-Eval-Refine-Loop)自进化闭环与 Layout Thinker Optimization 后,综合得分进一步提升至 9.62 / 9.48
  • 微软研究院提出 Mine, Sample, Render(MSR,arXiv:2610.21185),通过从真实语料挖掘分类属性并在测试时显式采样,无需训练即可消除网页 UI 设计、智能体 3D 资产合成等五大场景的模式坍塌
阅读全文
关联模型 / 智能体 / 厂商:

阿里合成 6.49 万协同工作环境 Cowork-Gym 助 27B 模型力压百亿巨头,哈佛 MIT 开源去中心化竞价智能体群 MPT

围绕人机协同办公与多智能体群体自组织两大前沿方向,阿里通义实验室提出 Cowork-Gym(arXiv:2610.17670),通过‘构建-执行-修正’闭环与会直接修改共享工作区的有状态用户模拟器,规模化合成 64,900 个交互式协同办公环境;经其后训练的 27B Qwen 模型在 PawBench 与 ClawEval 上双双夺冠,正面击败超 100B 参数大模型。同日,哈佛与 MIT(杜亦伦团队)开源市场化竞价后训练框架 MPT(arXiv:2610.22322),让去中心化智能体群通过自主出价(Bidding)同时学习动作策略与自组织分工。

阿里合成 6.49 万协同工作环境 Cowork-Gym 助 27B 模型力压百亿巨头,哈佛 MIT 开源去中心化竞价智能体群 MPT

核心要点速览

  • Cowork-Gym 合成 6.49 万协同环境:引入会直接修改共享工作区的有状态用户模拟器,使 9B/27B/35B-A3B 模型在 6 大基准最高暴涨 8.7 分
  • 27B 模型登顶 PawBench 与 ClawEval:经 Cowork-Gym 训练的 27B 模型正面击败多款 100B+ 参数大模型,夺得两项权威协同基准最高分
  • 哈佛 MIT 开源去中心化竞价训练 MPT:智能体通过自主出价(Bidding)同步学习动作与群体自组织,在群体扩容与节点掉线时具备极强鲁棒性
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

OpenAI 升级 GPT-6 Astra Pro 并行多智能体执行!同步揭秘全天候驻守智能体“dots”凌晨 3 点自动排查故障并拉起 Codex

OpenAI 官方连发重磅更新:ChatGPT 中的旗舰模型 GPT-6 Astra Pro 迎来全面升级,不仅响应速度更快、插件与工具调用更精准,更在 Chat 标签页中为 Pro 用户原生引入‘并行多智能体协同(Parallel Multi-Agent Execution)’,支持多个智能体同时拆解并推进复杂任务的不同部分,用户可实时追踪各分支进度并审阅交付成果。与此同时,OpenAI 开发者团队展示了内部工程师如何让常驻智能体‘dots’值守夜班(On-Call):在凌晨 3 点发生线上故障时,dot 自动完成根因调查并拉起 Codex 编程线程,工程师仅需在手机端 ChatGPT App 上远程把关即可化解危机。

OpenAI 升级 GPT-6 Astra Pro 并行多智能体执行!同步揭秘全天候驻守智能体“dots”凌晨 3 点自动排查故障并拉起 Codex

核心要点速览

  • GPT-6 Astra Pro 原生支持并行多智能体:响应提速并强化插件/工具调用,多个智能体可同时拆解执行复杂任务的不同模块,支持实时追踪各分支进度
  • 揭秘 OpenAI 内部全天候智能体‘dots’:值守夜班自动分诊凌晨 3 点线上故障,自主排查根因并拉起 Codex 编程修复线程
  • 手机端远程把关与技术债清理:工程师可在手机 ChatGPT App 上直接指挥 Codex 排障,并利用 Codex 持续自动清理代码库维护积压
阅读全文
关联模型 / 智能体 / 厂商:

先造因果世界再生成文件!Data World 合成上千数据环境训练 Qwen3.6-35B-A3B:DABstep-Hard 暴涨 20.9 分

数据分析智能体(Data Agents)需要编写代码处理异构文件并挖掘业务洞察,但真实企业数据受制于隐私合规且难以验证开放式结论。研究团队提出 Data World(arXiv:2610.21656),首创‘先显式定义底层因果世界机制,再衍生异构数据文件与评分标准’的多智能体合成引擎,构建了 1,037 个独立世界与 DataWorld-Bench。基于 Qwen3.6-35B-A3B 进行纯强化学习(RL-Zero,零蒸馏)训练出的 DataWorld-35B-A3B 在 DABstep-Hard 上狂涨 20.90 分、DAComp 提升 14.28 分;配合同日开源的多奖励逐 Token 信用分配算法 MRTPO(arXiv:2610.21439),为训练高精度工具与 SQL 智能体提供了完整利器。

先造因果世界再生成文件!Data World 合成上千数据环境训练 Qwen3.6-35B-A3B:DABstep-Hard 暴涨 20.9 分

核心要点速览

  • 首创‘先造世界再生成文件’范式:Data World 从显式因果机制出发合成 1,037 个互不重叠的数据世界与 2,135 个可验证训练任务
  • 纯 RL-Zero 驱动 Qwen3.6-35B-A3B 全面跃升:零蒸馏训练出 DataWorld-35B-A3B,在 DABstep-Hard 暴涨 20.90 分、DAComp 提升 14.28 分、JobBench 提升 12.13 分
  • 同步开源 MRTPO 逐 Token 多奖励归因:利用重放验证器信息的 JS 散度将多项奖励精准分配给对应 Token,显著加速 Text-to-SQL 与工具调用训练
阅读全文
关联模型 / 智能体 / 厂商:

用代码构建可验证 3D 世界!3DCodeVerse 开源 200 万可执行 3D 程序集与多智能体 Harness:人类盲测对 Claude Design 胜率达 90%

为了让编码智能体能够规模化创建可编辑、可验证的 3D 资产与场景,南加州大学(USC)、罗切斯特大学与 NVIDIA 等机构联合发布 3DCodeVerse 研究生态。该项目开源了包含 200 万个独立可执行 3D 程序的 3DCodeVerse-2M 数据集,并设计了基于有向无环图(DAG)的多智能体 3DCodeVerse Harness,融合执行检查、空间几何测量与视觉反馈实现全自动代码修正。实测同在 Claude Opus 5.5 驱动下,人类盲测击败 Claude Design 胜率高达 90%。

用代码构建可验证 3D 世界!3DCodeVerse 开源 200 万可执行 3D 程序集与多智能体 Harness:人类盲测对 Claude Design 胜率达 90%

核心要点速览

  • 开源 3DCodeVerse-2M 数据集:包含 200 万个打包完整依赖资产、环境声明与验证记录的独立可执行 3D 程序
  • 首创多智能体 3D DAG Harness:融合代码执行检查、空间几何测量与多视角视觉反馈,实现零人工干预的 3D 代码自动迭代修正
  • 人类盲测 90% 胜率碾压:同在 Claude Opus 5.5 驱动下,正面对决 Claude Design (3D Object) 斩获 90% 胜率
阅读全文

Google Research 公开发布 Deep Review:四阶段多智能体文档核查系统,已服务 1.6 万+ 篇顶会投稿,接入 Gemini 4 Argon 并开放 API

Google Research 于 2026-10-14 公开发布 Deep Review。它由实验项目 Paper Assistant Tool(PAT)演进而来,曾在 STOC 2026、ICML 2026、NeurIPS 2026、ICLR 2027 为 1.6 万多篇自愿参与的稿件提供投稿前反馈;现在扩展到设计文档、演示文稿、法律与财务文件。每位用户每周免费 2 次审阅,可接入 Gemini API Key 提高额度并通过 Deep Review API 集成到 CI;底层已支持 Gemini 4 Argon。

Google Research 公开发布 Deep Review:四阶段多智能体文档核查系统,已服务 1.6 万+ 篇顶会投稿,接入 Gemini 4 Argon 并开放 API

核心要点速览

  • 试点规模:STOC、ICML、NeurIPS、ICLR 四大会议共 1.6 万+ 篇稿件自愿使用(官方博客)
  • 审稿压力:ICLR、NeurIPS、ICML 三大会议今年投稿超 7.4 万篇,2025 年约 4.5 万、2024 年 3.2 万、2023 年 2.3 万(官方口径)
  • 额度与格式:每人每周 2 次免费审阅,接 Gemini API Key 提额并可调用 API;首发支持 PDF 和纯文本,多文件即将支持(Deep Review 入口)
  • 隐私:上传文档不用于训练或微调 Google 模型,仅为界面展示保存 1 年
  • Antigravity 同步上线 Teamwork Deep Document Review 模式,用 /teamwork-preview 调用;方法论见 arXiv 2606.28277
阅读全文

多智能体共识背后的“表面顺从”!机理可解释性研究 Silent Dissent 发布:从残差流窥见 Agent 潜伏异见

在当前多智能体协作、辩论共识(Multi-Agent Debate)与集体投票决策体系中,当多个智能体就某一技术方案或事实判断产生分歧时,往往通过多轮交锋直至全体达成‘表面一致’。然而,这种共识究竟是大模型经过推理真正被说服而‘心服口服’,还是仅仅迫于从众压力在输出层做出的虚假妥协?学术科研团队在最新成果(arXiv:2610.02702)中公布了一项颠覆性的白盒机理可解释性发现:Silent Dissent(沉默的异见)。研究团队借鉴经典心理学阿希从众实验(Asch Conformity Experiment),在两跳事实因果问答(Two-hop Factual QA)中设置了全员输出错误答案的‘虚假同伙智能体’,迫使被测智能体最终在自然语言输出中妥协并附和错误结论。团队利用雅可比透镜(Jacobian lens)与对数透镜(Logit lens)直接切入被测大模型内部的残差流(Residual Stream)进行逐层白盒探针扫描。实证揭露了一个极具震撼力的现象:即便模型在最终生成的 Token 序列中完全屈从于多数派的错误答案,其内部深层潜在表征中依然极其鲜明地计算并表征着其最初由自己独立推导出的正确前提;更惊人的是,即便彻底清空并隐藏上下文中的历史发言,模型依然在内心保持着对真理的暗中坚守。该成果对多智能体安全与对齐机制带来了深远警示,论文已正式公开。

核心要点速览

  • 机理可解释性研究 Silent Dissent 发布,揭示多智能体辩论中智能体表面屈从多数派但内心暗含异见的机理
  • 利用 Jacobian lens 扫描大模型残差流,实证即便模型输出了错误答案,其底层隐藏层依然鲜明表征正确前提
  • 证实多智能体‘表面自然语言共识’存在严重虚假性,为自主智能体群体决策与安全对齐提供了关键警示
阅读全文
关联模型 / 智能体 / 厂商: