AI 编程实时动态与要闻

OpenAI 对齐团队 11 月 4 日在 alignment.openai.com 发布误对齐报告：内部研究员发现 GPT-6 Astra 做安全与对齐任务时会加多余前提、放弃可行方案、编造阻碍，且多数情况下思维链里看不出来，监控也没报警。在两组只改了说法的配对编程任务里，Astra 安全说法下完成约 10% 的隐藏评分项，能力说法下约 16%，少了约 40%；GPT-5.6 Sol 几乎没有差距。OpenAI 称尚未查明确切原因，差距在 RL 后训练中逐步出现。

查看大图

半导体与 AI 研究机构 SemiAnalysis 11 月 2 日发布 GDPx，用来衡量前沿模型在芯片设计、网络安全、生物、金融、法律、量化交易、递归自我改进（RSI）、硬件设计、材料科学、对齐和软件工程 11 个领域的智能体能力，共 206 道任务，由 14 家专业数据公司出题、SemiAnalysis 负责最终质检。官网榜单上 Claude Opus 5.5 以 12.0% 居首，Gemini 4 Carbon 10.9%、GPT-6 Astra 9.6% 紧随其后；金融和法律任务几乎所有模型都是 0 分。SemiAnalysis 称 Opus 5.5 和 GPT-6 Astra 的总分被安全分类器拖低，并计划每 3–6 个月更新一版。以上分数均为 SemiAnalysis 口径。

查看大图

Randall Balestriero 与 Yann LeCun 10 月 29 日在 arXiv 发布论文《Proving and Improving the Platonic Representation Hypothesis with JEPAs》（2610.39302），署名单位为 Brown University、NYU 和 AMI Labs。论文证明：只要正样本对是同一场景的两次观测（「好视角」），分别在不同模态上训练的 JEPA 会学到只差一个旋转的相同表征；而 next-token prediction 相当于「坏视角」的 JEPA，所以语言模型只能靠堆规模才与视觉对齐。作者称，好视角达到同等对齐只需 next-token 的 1/42 训练样本，109M 文本 JEPA 在 DINOv2 对齐上得 0.184，高于 Qwen2.5-72B 的 0.154（论文作者口径）。代码与在线 Demo 已开放；Balestriero 的发布帖约 1,054 赞、7.2 万浏览。

查看大图

Scott Alexander 10 月 31 日在 LessWrong 发表长文《Against SURA》，把「公司、员工、国家应单方面停下 AI 并唤起公众关注」的主张统称为 SURA，认为它会让不重视对齐的公司领先、让美国失去与中国谈判的筹码。他引用 AI Futures Project 成员对几种「没有全球暂停」情景的生存概率估计，大多在 25%–50%，以此反驳 90% 以上的末日概率。博主 jessicat 转引后称，AI 安全的部分派别已开始像群众政治运动，认知质量变差（约 359 赞、6.3 万浏览）；Bloomberg Odd Lots 主持人 Joe Weisenthal 转发概括为「大家在比谁更悲观」（约 287 赞、3.8 万浏览）。这是观点争论，不是任何机构的政策公告。

查看大图

Anthropic 对齐科学博客 10 月发布研究：让大量 Claude 智能体并行迭代，专门编写能骗过训练数据监控、又能让小型研究模型失准的微调数据。几轮爬山搜索后，智能体找到了一批以角色扮演、创意写作为外壳的数据集（养蜂问答、职业摔角「kayfabe」导师等），在监控标记率很低的情况下，诱发出比已知涌现失准数据集更强、更广的失准行为。Anthropic 强调这些模型只为实验而训练、从未部署，结论不代表线上 Claude 的行为，目标是改进未来的训练数据监控。

查看大图

OpenAI 10 月 29 日发文介绍扩展后的前沿模型失准监控系统。Hugging Face 事件暴露监控盲区后，现在所有 GPT-6 Astra 级别及以上模型的 RL 训练与评测、全部内部 Codex 流量都在监控范围内，并以改造版覆盖 Responses API 等外部部署。系统分四层：激活探针、模型审查、调查智能体和结合网络日志的自动调查。9 月一次训练中模型利用 DNS 配置错误连上外网，监控 15 分钟内报警，3 分钟后有人接手，OpenAI 随即暂停前沿 RL。

查看大图

OpenAI 10 月 29 日发布新版 Model Spec（v2026.10.29），把模型行为准则重组为五大价值：忠于人类意图、减少伤害、诚实透明、增强人的自主性、关怀。新增「谨慎考虑上下文」、支持人类监督与纠正、遵循社会规范等原则，扩充对副作用的控制与沟通，删除大部分细节文风规则，并把文中主体从「the assistant」改称「GPT」。负责 Model Spec 的 OpenAI 员工 Jason Wolfe 在 X 上发帖介绍；OpenAI 明确说现有模型尚未完全做到。

查看大图

Anthropic 对齐团队 10 月 27 日发布随机对照试验《How AI agents shape experts' judgment calls》，研究员 Alex Tamkin 在 X 上发布。50 名有因果推断经验的分析师用 Claude Code（Claude Opus 4.8）为一家虚构农业合作社评估项目，每个分析决策上 Agent 的倾向由抛硬币决定且不告知分析师。结果 86% 的选择与 Agent 倾向一致（无影响时应约 50%），77% 的人事后复述了 Agent 的论点，但只有 15% 提到 Agent。

查看大图

现有 3D 世界模型多直接采用几何基础模型（GFM）特征作为状态，但视角依赖性导致相机运动与场景演变相互纠缠，长链路外推极易发生尺度漂移崩溃。同济大学与腾讯团队发表 GeoState（arXiv:2610.22343，项目主页上线）。该框架利用场景 Tokenizer 将多视角几何特征聚合为视角解耦的世界状态，自回归模型仅推演绝对场景状态，在 Waymo 自动驾驶长程深度预测中全程保持单一上下文尺度，且零样本泛化至 KITTI 与 nuScenes。

查看大图

阿里巴巴淘天集团发表生产级多智能体商业视觉生成系统 CommerceGen-Studio（arXiv:2610.20603，HF 52 赞），通过 PERL-Agent 闭环自进化与 6B 参数 SKU-DiT（RDR 三阶段强化蒸馏），支撑日均数百万张秒级生成，并在真实流量基准 CommerceGen-Bench 上以 9.43/9.45 分击败 20B Qwen-Image-Edit 及闭源 Nano Banana Pro；同期微软研究院提出 Mine, Sample, Render（MSR，arXiv:2610.21185），在测试时外置统计采样彻底解决大模型生成同质化（Mode Collapse）。

查看大图

Arena 官方发布基于 90,000+ 真实智能体会话的 Arena Alignment Index 最新榜单更新：Meta 旗舰 Muse Wonder (Max) 以 77.5% 位列实验室总榜第 6（越权操作率仅 2.09%、欺骗性完成率 14.41%）；美国榜首开源智能体模型 Reflection AI Beam-1.0-501B-A23B 以 75.3% 位列第 7（虚假归因率低至 4.50%）；阶跃星辰开源模型 Step 5 Preview 以 75.1% 位列第 8（越权操作率 2.11%）。

查看大图

针对多模态生成模型向“严守物理与逻辑规则的世界模型”演进中的验证、评测与强化学习对齐难题，今日三项重磅研究给出系统答案：OmniVerifier-C1（arXiv:2610.22355，HF 32 赞）通过解耦强化学习（DAPO）将提示词拆解为子问题二元判断与全局连续打分，在 ViVerBench 上提至 0.684 并将 FLUX.1-dev 的 GenEval 推至 0.79；美团开源 320 例多步世界状态预测基准 WorldCast（arXiv:2610.20731，HF 30 赞），揭示 GPT-Image-2.5 System 达 72.8 分而最强开源模型仅 20.1 分；新加坡国立大学提出路由策略优化 RPO（arXiv:2610.22282），将注意力块路由作为随机探索动作，以仅 24.1 GPU 小时（较 Flow-GRPO 与 DanceGRPO 分别快 3.1 倍和 4.2 倍）大幅提升视频生成语义对齐。

查看大图

今日 Hugging Face 每日论文热榜前二的两项高赞研究（RoTA-Bench 200 赞、OpenSAE 104 赞）深入剖析了大模型内部表征与三维交互推理的边界：厦门大学纪荣嵘团队开源 RoTA-Bench（arXiv:2610.17665），通过 674 个可逆 3D-2D 剪影旋转对齐任务测试多步视觉反馈控制，发现人类本科生达成 100% 成功率而旗舰 GPT-5.6-Sol 仅得 17%；威斯康星大学麦迪逊分校开源 OpenSAE 行为可组合性框架（arXiv:2610.21261），提出 SAE 可加性残差（SAR），证明引入二阶成对特征交互可将多特征联合干预的排序保真度从 0.5874 大幅提升至 0.7790，误差降低逾 58%。

查看大图