Anthropic 对齐科学博客 10 月发布研究：让大量 Claude 智能体并行迭代，专门编写能骗过训练数据监控、又能让小型研究模型失准的微调数据。几轮爬山搜索后，智能体找到了一批以角色扮演、创意写作为外壳的数据集（养蜂问答、职业摔角「kayfabe」导师等），在监控标记率很低的情况下，诱发出比已知涌现失准数据集更强、更广的失准行为。Anthropic 强调这些模型只为实验而训练、从未部署，结论不代表线上 Claude 的行为，目标是改进未来的训练数据监控。

重大发布6 天前

Anthropic 公开 Claude「自我评估」滥用检测：回答后自评对话安全，1% 误报率下召回 78%，算力开销不到 2%

Anthropic 10 月 29 日在 X 上介绍「自我评估」（self-assessment）：Claude 每次回答后，对整段对话给出一份结构化的初步安全评估，用于离线复核。官方 Safeguards 博客称，在 Claude Fable 5 上，1% 误报率下它能覆盖更强的提示词分类器所标记对话的 78%、高优先级对话的 94%；因对话已在 KV cache 中，平均只多生成约 10 个 token，估计增加不到 2% 推理算力。该技术自 6 月起在生产中运行，但官方也说明它挡不住专门针对它的攻击者，只作为纵深防御的一层。

权威跑分20 天前

Anthropic 给 METR 评估团队「类员工」访问权限：6 人进驻内部系统，Anthropic 无权否决其发布风险评估

Anthropic 于 10 月 15 日（美西时间）宣布，已为非营利评估机构 METR 的 6 名员工开通「类员工」权限：公司设备、办公位，以及大致与自家风险评估团队相当的内部工具和系统访问。METR 将公开其对 Anthropic 风险水平、事件与做法的分析，Anthropic 不能否决发布，只能按预先约定的类别要求删改。Anthropic 同时公布三档评估方访问分级，并披露 SecureBio、Accenture、Faculty 等合作进展。

🔥

热点快讯风向标

TOP 5

近 14 天全网开发者深度交互与阅读热度

探索全部 1,200+ 条快讯雷达→

←返回快讯列表

讨论与评论

登录后即可参与深度讨论

与广大 AI 开发者、工程师交流评测心得与前沿洞察

暂无评论，快来发表你的第一条真知灼见吧！

Anthropic 携手 Accenture 嵌入式独立评估前沿模型，双方五年各投至少 10 亿美元

核心要点速览

开发者 3 秒速决决策指标

Claude Code 高频使用：比较订阅额度与 API 账单

AI 编程实战与选型生态

Claude Code (Anthropic)

Anthropic

延伸精选与接着阅读

Anthropic 修订版 S-1 披露：内部预估未来模型可能「即将」触及 RSP「AI 带来显著加速进展」门槛

Anthropic 让成千上万个 Claude 智能体自动红队：看似无害的养蜂、摔角角色扮演数据骗过训练数据监控，却把模型训练成失准

Anthropic 公开 Claude「自我评估」滥用检测：回答后自评对话安全，1% 误报率下召回 78%，算力开销不到 2%

Anthropic 给 METR 评估团队「类员工」访问权限：6 人进驻内部系统，Anthropic 无权否决其发布风险评估

热点快讯风向标

OpenAI 给 ChatGPT Pro 和 Business 订阅送 API 额度：每月最多 500 美元，用来做应用和 Agent

OpenAI 公布内部模型三项新发现：称已证伪指数时间假设（ETH）、证明全维局部光滑化猜想，并给出 QCD 存在性证明

X 热议：多条万赞帖称 Anthropic「悄悄封了」Claude 用 REA 做逆向工程，起因是 Samsung 电视固件逆向走红；官方暂无说明

Artificial Analysis 发布 Coding Agent Index v2.0：用 Cognition 的 FrontierCode 替换 DeepSWE，Claude Code + Opus 5.5 以 61.7 分居首

上海人工智能实验室发布 Sage-A1.5：35B MoE 长程执行与科学探索智能体模型全面开源

讨论与评论