AI 编程实时动态与要闻

Cloudflare 披露 Workers AI 上 GLM-5.3 跨请求泄露事故:KV 缓存配置不匹配叠加 SGLang 漏洞,13 天内 155 条回复混入其他用户数据

Cloudflare 10 月 26 日在官方博客发布事故报告:8 月 27 日至 9 月 9 日,Workers AI 上的 GLM-5.3(@cf/zai-org/glm-5.3)对超过 681,280 token 的长提示,有 155 条回复混入了其他用户刚发过的请求内容,且都返回 HTTP 200。原因是 prefill 节点 KV 缓存池小于 1,048,576 token 的上下文窗口,叠加 SGLang 在 prefill/decode 分离模式下处理超长请求的漏洞。Cloudflare 称未发现恶意利用,已修复并建议运营方升级到 SGLang v0.5.22 或更高版本。

Cloudflare 披露 Workers AI 上 GLM-5.3 跨请求泄露事故:KV 缓存配置不匹配叠加 SGLang 漏洞,13 天内 155 条回复混入其他用户数据

核心要点速览

  • 影响范围:2026-08-27 至 09-09 共 155 条回复受影响,均为超过 681,280 token 的提示;Cloudflare 确认 Workers AI 其他模型未受影响
  • 根因 1:GLM-5.3 上下文 1,048,576 token,但 prefill KV 池只有 681,280 token;修复后池容量约 204 万 token,约为上下文的 2 倍
  • 根因 2:SGLang 把超长请求标记为拒绝并换成 1 token 占位,却没中止,decode 节点读到了未被覆盖的旧缓存页
  • 响应:9 月 8 日经 HackerOne 收到 Knostic 的 Gadi Evron 报告,9 月 9 日宣布事故后 40 分钟内下线模型,当天 19:40 UTC 恢复
  • 行动建议:自建 SGLang 的团队升级到 v0.5.22 或更高版本,并直接核对 KV 池大小与上下文长度
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Z.ai GLM 5.3🌐 cloudflare🌐 zai

Letta 发布 FrontierMemory 1.0:首个按下游任务成绩衡量 Agent 记忆质量的基准,Opus 5.5 与 GLM-5.3 并列 73.3% 居首

10 月 21 日,Letta 发布 FrontierMemory 1.0。它不再考 Agent 记不记得生日、爱好这类事实,而是给 Agent 一批过去的执行轨迹,让它生成记忆或技能,再看这些记忆能让任务 Agent 多解出多少编码和知识工作任务。首版共 15 个任务,改编自 DeepSWE、SkillsBench、APEX-Agents 等公开基准。模型榜(Letta Dream 生成记忆,Letta Code 执行)上 Opus 5.5 与 GLM-5.3 均为 73.3%,Grok 4.7 为 33.3%;Harness 榜上 Letta 自家 Letta Dream 第一。数据为厂商(Letta)口径。

Letta 发布 FrontierMemory 1.0:首个按下游任务成绩衡量 Agent 记忆质量的基准,Opus 5.5 与 GLM-5.3 并列 73.3% 居首

核心要点速览

  • 模型榜(厂商口径,最高推理档):Opus 5.5 73.3%(单任务约 $2.80)、GLM-5.3 73.3%($3.58)、Kimi K3 66.7%、GPT-6.1 Sol 60.0%($0.77,最省)、Gemini 4 Argon 60.0%、Muse Wonder 46.7%、Grok 4.7 33.3%
  • Harness 榜:Letta Dream 73.3%、Prime Agent 60.0%、OpenAI Agents SDK 40.0%、Claude Managed Agents 33.3%、Hermes Agent 26.7%
  • 首版 15 个任务;665 条历史轨迹中只有 219 条与评测任务相关,Agent 需要自己挑出有用经验
  • Letta 称复核时发现保留下来的原始任务中 53% 的判题器有问题并已修复;记忆生成限时 6 小时、禁止联网
  • 记忆分三类:任务约定、用户偏好、环境特性;接受第三方提交模型与 Harness
阅读全文

Cloudflare 发布 Clairic 抽取模型:一次前向传播输出带类型和置信度的数值、日期与预测,Workers AI 预览、每百万输入 token 0.10 美元

Cloudflare 10 月 19 日发布 Clairic 预览版,定位为「System One 抽取模型」:不逐 token 生成,而是一次并行前向传播,从文本或最多 4 张图片里抽取、计算、估计和预测带类型的值,每个答案附置信度、字符位置和缺失概率,缺失时返回 null。模型以 @cf/cloudflare/clairic 上线 Workers AI,文档标注 64K 上下文、支持视觉、每百万输入 token 0.10 美元且不收输出费。官方示例中,Clairic+Clef+GLM-5.3 级联比全用 GLM-5.3 快约 3.2 倍、成本低约 49%(官方口径),权重将在之后开放。

Cloudflare 发布 Clairic 抽取模型:一次前向传播输出带类型和置信度的数值、日期与预测,Workers AI 预览、每百万输入 token 0.10 美元

核心要点速览

  • 定价与规格:每百万输入 token 0.10 美元、无输出费,上下文 65,536 token,支持文本加最多 4 张图(官方文档)。
  • 输出类型:text、number、date/time、duration、list、estimate、forecast;每个答案附置信度与 p_null,缺失返回 null。
  • 级联实测:Clairic→Clef→GLM-5.3 端到端 19.3 秒对 61.7 秒,约快 3.2 倍;每百万次理赔 6032 美元对 11740 美元,省约 49%(官方口径)。
  • 预测示例:TSA 安检人数 21 天预测平均误差 3.3%,17/21 天落在 80% 区间内。
  • 局限:多步连锁算术、跨多行聚合尚不可靠;当前为预览检查点,开放权重时间未定。
阅读全文
关联模型 / 智能体 / 厂商:
⚡ clairic⚡ clef⚡ GLM-5.3🌐 cloudflare

SGLang v0.5.22 重磅发布:DeepSeek-V4.1 在 H200 吞吐提升 2.3 倍、MI355X 提速 1.9 倍,InstantTensor 载入提速 10 倍

SGLang 团队正式发布 v0.5.22 大版本更新(凝聚 245 位贡献者提交的 950 个 PR):深度优化 DeepSeek-V4.1 推理性能,在 H200 单卡吞吐狂飙 2.3 倍,并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升;首创 InstantTensor 加载器将大模型冷启动显存载入提速 10 倍;B200 上 Qwen3.8-Flash-Next 解码提速 12%、B300 上 GLM-5.3-Flash 提速 10% 且 MiMo-V2.6-Pro 解码吞吐达 1.85 倍;并原生支持苹果 Apple Silicon 与 ComfyUI 扩散生态。

SGLang v0.5.22 重磅发布:DeepSeek-V4.1 在 H200 吞吐提升 2.3 倍、MI355X 提速 1.9 倍,InstantTensor 载入提速 10 倍

核心要点速览

  • SGLang v0.5.22 正式发布,汇聚 245 位贡献者的 950 个 PR
  • DeepSeek-V4.1 在 NVIDIA H200 单卡吞吐暴涨 2.3 倍,并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升
  • 全新 InstantTensor 加载器将千亿模型冷启动载入速度提升 10 倍(10x faster)
  • B200 上 Qwen3.8-Flash-Next 解码提速 12%,B300 上 GLM-5.3 提速 10% 且 MiMo-V2.6-Pro 解码达 1.85 倍
  • PD 分离架构使长 Prompt 首字延迟 p95 TTFT 减半(-50%),吞吐净增 27%,原生支持 Apple Silicon 与 ComfyUI
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

2.8 万亿参数 Kimi K3 单请求飙至 842 tok/s!NVIDIA 联合 vLLM 开源 1.2 万行 CuTe DSL 巨型融合内核,GB300 NVL72 交互吞吐暴涨 1.8 倍

vLLM 联合 NVIDIA 正式发布面向月之暗面旗舰模型 Kimi K3(SemiAnalysis 披露达 2.8 万亿参数)的底层解码巨型内核(Megakernel):由 NVIDIA CentML 工程师采用 CuTe DSL 编写的 1.2 万行代码将注意力、MoE 路由与跨卡通信深度融合,将单层内核启动数从 23 个砍至 13 个、单层耗时从 130 µs 压至 69 µs。在 16 卡 NVIDIA GB300 NVL72 上配合 DSpark 投机解码实现 Batch=1 高达 842 tok/s 的极速输出(提速 1.73 倍),并在 SemiAnalysis AgentX 负载上实现最高 1.8 倍的 P90 单用户交互吞吐提升(突破 403.2~423 tok/s/user),下一步将适配 DeepSeek-V4.1-Flash 与 GLM-5.3。

2.8 万亿参数 Kimi K3 单请求飙至 842 tok/s!NVIDIA 联合 vLLM 开源 1.2 万行 CuTe DSL 巨型融合内核,GB300 NVL72 交互吞吐暴涨 1.8 倍

核心要点速览

  • NVIDIA CentML 联合 vLLM 为 2.8 万亿参数 Kimi K3 打造 1.2 万行 CuTe DSL 解码巨型内核,将单层内核数从 23 个减至 13 个、单层耗时从 130 µs 压至 69 µs
  • 在 16 卡 NVIDIA GB300 NVL72 上配合 DSpark 投机解码实现 Batch=1 高达 842 tok/s 输出(提速 1.73 倍),无投机 Batch=1 达 256.4 tok/s(提速 1.88 倍)
  • 在 SemiAnalysis AgentX 基准上将 P90 单用户交互吞吐提升至最高 403.2~423 tok/s/user(最高 1.8 倍提升),DeepSeek-V4.1-Flash(PR #61868)与 GLM-5.3 支持即将合入
阅读全文
关联模型 / 智能体 / 厂商:

Ollama Cloud 上线美欧本土零数据留存集群并一键接入 Claude Code,SemiAnalysis 揭秘 GLM-5.3 纯靠后训练实现网安能力质变

Ollama 官方宣布在美国与欧盟本土服务器正式上线严格“零数据留存、零训练”的 Ollama Cloud 托管服务,同步接入 DeepSeek-V4.1-Flash-1017 并支持通过 ollama launch 一键拉起 Claude Code 与 OpenCode;同日,SemiAnalysis 披露重磅内幕:智谱旗舰模型 GLM-5.3 未重新预训练,而是 100% 基于前代模型通过高 GPU 效率的后训练(Post-Training)打造,在网络安全与攻防推理上较 GLM-5.2 实现跨代质变。

Ollama Cloud 上线美欧本土零数据留存集群并一键接入 Claude Code,SemiAnalysis 揭秘 GLM-5.3 纯靠后训练实现网安能力质变

核心要点速览

  • Ollama Cloud 正式上线美国与欧盟本土零数据留存(Zero Data Retention)托管集群,支持通过 ollama launch 一键驱动 Claude Code 与 OpenCode 运行 DeepSeek-V4.1-Flash-1017
  • Ollama v0.40.6 同步发布,新增 GGUF q2_0 量化张量类型支持,并彻底修复 Windows 平台孤儿 Runner 进程残留问题
  • SemiAnalysis 披露 GLM-5.3 完全基于前代模型通过高 GPU 效率的后训练(Post-Training)构建而成,在网络安全能力上较 GLM-5.2 实现“昼夜之别”的跨代跃升
阅读全文
关联模型 / 智能体 / 厂商:

远程 KV 缓存竟比 GPU 重算慢 2.8 倍?LMCache 分片异步架构将 p99 从 83.3 秒压至 0.67 秒,百度 VHA 虚拟头注意力砍半 KV 反超 MLA

针对超长上下文大模型推理中的 KV 缓存传输与显存瓶颈,今日两项重磅系统与架构研究给出突破方案:在 8xB300 节点运行 GLM-5.3(FP8 MLA)的 8 路预填充上下文并行(PCP8)实测中,研究者发现传统远程 KV 缓存会导致高命中流 p99 飙升至 83.32 秒(GPU 利用率仅 7%),通过按 PCP Rank 分片与异步加载(已合入 LMCache 上游)将读取带宽提升 6.3 倍至 10.76 GB/s、p99 暴降至 0.67 秒;百度飞桨则开源虚拟头注意力 VHA(arXiv:2610.17959),推理期零开销折叠为双 KV 头 GQA-2,在 30B-A3B MoE(500B Token 训练)上全面击败 MLA 与 GQA-4,128K RULER 暴涨 11.4 分。

远程 KV 缓存竟比 GPU 重算慢 2.8 倍?LMCache 分片异步架构将 p99 从 83.3 秒压至 0.67 秒,百度 VHA 虚拟头注意力砍半 KV 反超 MLA

核心要点速览

  • 实测揭示 8xB300 运行 GLM-5.3 (PCP8) 时,未分片远程 KV 缓存拉取(0.88s)慢于 GPU 重算(0.31s),通过按 Rank 分片 Valkey 与异步加载(已合入 LMCache)将读取带宽提速 6.3 倍至 10.76 GB/s,高命中流 p99 从 83.32 秒暴降至 0.67 秒
  • 百度飞桨提出虚拟头注意力(VHA),通过纯线性 Q Premix 与低秩 Postmix 在推理期完全折叠进 W_Q/W_O 权重,零开销化简为仅 2 个 KV 头的标准 GQA-2 架构
  • 在 500B Token 训练的 30B-A3B MoE 上 VHA 全面超越 MLA(+0.70%)与 GQA-4(+2.60%),并在 10B-A1B MoE 的 8K-128K RULER 长文评测中以 84.4 分大幅击败 GQA 的 73.0 分
阅读全文
关联模型 / 智能体 / 厂商:

MLE-Bench 奖牌率从 37.9% 飙至 72.7%!上海 AI Lab 开源 35B MoE 机器学习工程智能体 MLExpert,追平 Kimi-K3 与 GLM-5.3

为推动‘AI 研发 AI(AI4AI)’向模型自主导向演进,上海 AI 实验室(InternScience)开源了 35B 混合专家(MoE)机器学习工程智能体模型 MLExpert(arXiv:2610.22344)。通过构建 Kaggle-MLE Factory 可执行任务工厂、分层智能体 SFT 以及窗口化交互强化学习(WIRL),MLExpert 在 MLE-Bench Lite 上将基座模型的平均奖牌率从 37.9% 暴拉至 72.7%,以仅 35B 总参追平超大尺寸前沿模型 Kimi-K3 与 GLM-5.3,并成功泛化至智能体脚手架优化与算法调优。

MLE-Bench 奖牌率从 37.9% 飙至 72.7%!上海 AI Lab 开源 35B MoE 机器学习工程智能体 MLExpert,追平 Kimi-K3 与 GLM-5.3

核心要点速览

  • MLE-Bench Lite 奖牌率狂飙至 72.7%:将基座模型平均奖牌率从 37.9% 提升近一倍,以 35B MoE 轻量规模比肩 Kimi-K3 与 GLM-5.3
  • 首创窗口化交互强化学习(WIRL):将两次实验反馈之间的多轮决策视为独立执行窗口分配结果奖励,支持长轨迹未结束即异步更新策略
  • 泛化赋能 Agent 脚手架优化:习得的实验迭代能力零样本迁移至 NatureBench Lite、智能体脚手架调优与算法优化
阅读全文

Paper Instruments 发布 Ultramarine 1 Flash:GLM-5.3 Flash 上做非可验证 RL 的知识工作模型,自测单任务 $0.13、API 已开放、权重将开源

旧金山实验室 Paper Instruments 于 2026-10-15 00:02(新加坡时间)发布 Ultramarine 1 Flash:在开源底座 GLM-5.3 Flash 上用大规模「非可验证」强化学习(任务级 rubric 奖励)后训练,面向金融、法律、咨询、运营类知识工作。官方技术报告称其在 6 项知识工作基准上平均比底座高 4.1 分、输出 token 少 6.5%;在内部 PI Knowledge Work 套件上以 $0.13/任务得 59.3 分,高于 Claude Fable 5($8.19,57.8)。OpenAI 兼容 API(ultramarine-1-flash)已上线;CEO 称权重约两周内发布、后训练成本约 30 万美元。成本对比依赖其内部基准,尚无独立复现。

Paper Instruments 发布 Ultramarine 1 Flash:GLM-5.3 Flash 上做非可验证 RL 的知识工作模型,自测单任务 $0.13、API 已开放、权重将开源

核心要点速览

  • 底座 GLM-5.3 Flash + CISPO 变体 RL(LoRA rank 64,131K 上下文,最多 250 轮),6 项知识工作基准平均 +4.1 分、token 少 6.5%
  • JobBench 62.9(第 1,Gemini 3.8 Flash 60.6);FrontierFinance 53.3(第 1);APEX-Agents 1.1 为 57.0,落后 Gemini 3.8 Flash 64.3
  • 内部 PI Knowledge Work:59.3 分 / $0.13 每任务,对比 Claude Fable 5 57.8 / $8.19、GPT-6 Sol 61.3 / $1.26
  • 代价:编码能力略降,Terminal-Bench 2.1 83.2(底座 84.3)、DeepSWE 1.1 61.5(底座 63.4)
  • 训练数据:4 大领域、19 个业务方向、88 种合成环境类型,全部合成任务 + rubric 打分
阅读全文

Anthropic 详解 Claude 反蒸馏防护:两级分类器 + Preserved Thinking,推理 token 被盗量降约 10–100 倍

Anthropic 于 2026-10-12 发布研究博客,称近月对 Claude 的蒸馏攻击防护已显著加强:早期证据显示蒸馏方收获数据量下降约 90%–99%;平台上可提取的推理 token 量相对新防护上线前约降 10–100 倍。核心手段包括:对新账号限制改写先验上下文的 Preserved Thinking、仅本组织可读的推理转录、针对提取完整思维链的两级分类器(误报率宣称 <0.1%)、限流/封禁与对低误报拦截请求重新计费。文中点名 GLM-5.3 等开源权重模型的网络能力蒸馏案例,并呼吁云与其他前沿厂商协同。

核心要点速览

  • 官方:Anthropic Research — distillation defenses(2026-10-12)
  • 效果口径(厂商):蒸馏收获数据约降 90%–99%;上线后推理 token 被提取量约降 10–100×;已封禁数万相关账号,常在开打后 2 小时内
  • 技术栈:Preserved Thinking(约 2026-08-31 后新账号限制改先验上下文)、推理仅本组织可读、两级分类器拦完整思维链提取(误报宣称 <0.1%)
  • 覆盖模型:Sonnet 5.5、Opus 5/5.5、Fable 5/5.1 等当前主力一般可用型号;对合法集成有摩擦(需改集成、偶发误拦并计费)
  • 行业含义:点名开源权重模型网络能力蒸馏与跨境滥用风险;强调仅 Anthropic 单边加固不够,云平台也需清虚假账号
阅读全文
AD赞助内容

Z.ai 发布法律垂直模型 GLM-Legal:基于 GLM-5.3-Flash,Harvey LAB 全通过率 19.2%(厂商口径),API 需申请

2026-10-12 Z.ai 发布法律模型 GLM-Legal:以 GLM-5.3-Flash 为底座,经法律语料中训练和数万个法律环境强化学习,与 Agent 框架同步迭代。厂商口径下 Harvey LAB 全通过率 19.2%(底座 6.7%),LegalBench 和 PLawBench 仅称与前沿模型持平,未给分数。未开放权重,API 需申请,AutoClaw 即将接入。

Z.ai 发布法律垂直模型 GLM-Legal:基于 GLM-5.3-Flash,Harvey LAB 全通过率 19.2%(厂商口径),API 需申请

核心要点速览

  • 官方:Z.ai 技术博客,2026-10-12;底座为 GLM-5.3-Flash
  • Harvey LAB 全通过率(官方/厂商口径):GLM-Legal 19.2%、Kimi K3 12.9%、Claude Fable 5 11.3%、GLM-5.3-Flash 6.7%、GPT-6 Astra 5.4%
  • LegalBench / PLawBench:仅称「与前沿闭源模型持平」,未公布具体分数
  • 训练:法律语料中训练 + 数万个法律环境强化学习,与 Agent 运行框架同步迭代
  • 可用性:未开放权重;API 需申请,价格未公布;AutoClaw 将接入,日期未定
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Z.ai GLM Legal⚡ Z.ai GLM 5.3 Flash🤖 autoclaw🌐 zhipu🌐 zai

CrowdStrike 披露:攻击者用开源 AI 渗透 Agent ARTEX + Claude Code 攻破多家韩国金融机构

CrowdStrike 情报团队在攻击者暴露的开放目录里找到了 Claude Code 会话记录、ARTEX 配置和 CLAUDE.md:一名疑似中文使用者、以牟利为目的的攻击者,9 月底到 10 月初用中国开发的开源智能体渗透框架 ARTEX(主力模型 DeepSeek v4.1-flash,辅以 GLM-5.3、Grok 4.6)攻击韩国多家金融机构的贷款查询与员工移动办公系统并窃取数据。

核心要点速览

  • 攻击窗口:2026 年 9 月下旬至 10 月初;CrowdStrike 归因置信度为“中等”,未关联到已命名团伙(CrowdStrike 报告)
  • 模型栈:ARTEX 主力后端 DeepSeek v4.1-flash,经疑似 API 转售站 xcai[.]pro 调用;另用 GLM-5.3 与 Grok 4.6 跑 Claude Code 会话
  • IOC:1 个攻击者控制 IP(38.244.50[.]120)+ 9 个代理 IP,报告附 MITRE ATT&CK 映射
  • 受害规模(媒体口径):新韩银行称 25,729 名客户信息被盗,Hana 银行 89 人,Yegaram 储蓄银行约 4 万人(GovInfoSecurity)
  • ARTEX 原 GitHub 仓库 Autumn-27/ARTEX 目前已返回 404
阅读全文

Prime Intellect 让 Prime Agent 用 2,209 个智能体两周把自己重写成 Rust:冷启动可输入延迟 738ms→56ms,内存降逾 80%

Prime Intellect 10 月 9 日发布 Rust 版 Prime Agent:由一个根编排智能体调度 2,209 个子智能体、10,000+ 个 Prime Sandboxes、约 2,287 亿 GLM-5.3 Token,在两周内把 TypeScript 版编码 Agent 端到端移植为 Rust,并用 TUI/协议/会话差分测试保证行为一致。官方实测冷启动可输入延迟从 737.8ms 降至 55.8ms,启动后内存 607MB→106MB,同时新增 Windows(beta)与 Homebrew 安装,仍保持开源。

Prime Intellect 让 Prime Agent 用 2,209 个智能体两周把自己重写成 Rust:冷启动可输入延迟 738ms→56ms,内存降逾 80%

核心要点速览

  • 规模:2,209 个智能体、16,758 条智能体间消息、228.70B Token(其中 Rust 实现 192.99B/1,981 个、性能爬山 35.70B/228 个),运行于 10,000+ Prime Sandboxes(官方博客)
  • 性能(官方口径):冷启动可输入 737.8ms→55.8ms(13.22×),首帧 722.8ms→23.6ms,启动后 RSS 607.4MB→106.0MB,安装体积 172.1MB→59.6MB
  • 流程:每个任务走 Planner→Implementer→Reviewer(换模型对抗审查)→Verifier(新沙箱跑差分测试)四段状态机,失败打回重做
  • 性能爬山:第二个编排器无数值目标连续跑 3 天,记录 144+ 实验/审计,合并 69+ 项有效优化
  • 代码结构:拆为 9 个 crate,最大源文件从约 15,000 行降至约 2,500 行;新增 Windows 原生支持(beta)与 Homebrew 安装,仓库 继续开源
阅读全文
g
ggml-org@AICoder·
👀189
🔥84

llama.cpp v0.6.0 稳定版发布:正式纳入 GLM-5.3-Flash(320B)与 Qwen4Exp MTP 投机解码,新 llama_batch_ext API,Apple GPU 小批量矩阵乘最高约 3 倍

ggml-org 于 10 月 5 日发布 llama.cpp v0.6.0 稳定版(上一版 v0.5.0 为 9 月 23 日)。本版把 GLM-5.3-Flash(GLM5-Next,320B 图文混合 MoE)支持带进正式版,Qwen4Exp 加入 MTP 投机解码(DGX Spark 上解码约 1.5 倍),引入支持 token/embedding 混合批次的 llama_batch_ext 与 llama_process() 新 API,并为 Apple GPU 新增小批量 MMA 矩阵乘内核(投机/批量解码场景最高约 3 倍),ggml 升级到 v0.26.0。会话格式版本号同时升级,旧会话文件需注意兼容。

核心要点速览

  • 新模型:GLM-5.3-Flash(GLM5-Next,320B KDA/DSA 混合图文 MoE,#27773)、Clef 图文决策模型、Ling 3.0 VL、LFM2.5-Encoder
  • 提速:Qwen4Exp MTP 投机解码在 DGX Spark 上解码约 1.5 倍;Metal 小批量 MMA 矩阵乘最高约 3 倍(#29869)
  • API:新增 llama_batch_ext + llama_process(),单批次混合 token 与 embedding(#24669);server 已迁移
  • 兼容性:LLAMA_SESSION_VERSION 升至 11、LLAMA_STATE_SEQ_VERSION 升至 4,旧的会话/状态文件需重新生成
  • Server:/v1/models 返回输入输出模态;/v1/embeddings 接受图像/音频/视频类型输入;新增 /v1/systemone 决策模型接口
阅读全文
关联模型 / 智能体 / 厂商:
C
Cantina Security@AICoder·
👀102
🔥87

Cantina 开源首个安全研究模型 apex-flash-1:基于 GLM-5.3-Flash 的 GRPO 后训练,60 项留出漏洞任务 66.7% 通过率、成本仅为 Opus 5 High 的约 1/31

Cantina Security 联合 Yeta Labs 发布首个开源权重安全研究模型 apex-flash-1(MIT 许可),基于 GLM-5.3-Flash 用 GRPO 强化学习后训练,定位是被上层 Agent 编排的「专注型 Worker」:读代码、调工具、构造利用并在运行中的目标上验证效果。在 20 个留出漏洞案例、60 项任务上 pass@1 为 66.7%(40/60),高于基座 GLM-5.3-Flash 的 60.0%,略低于 Claude Opus 5 High 的 71.7%,但整轮估算成本 2.38 美元,对比 Opus 5 High 的 74.68 美元。同时放出实验性 abliterated 变体。

核心要点速览

  • 成绩:60 项留出任务 pass@1 66.7%(40/60),基座 GLM-5.3-Flash 60.0%,Claude Opus 5 High 71.7%(官方发布页)
  • 成本:整轮 60 任务估算 2.38 美元,GLM-5.3-Flash 4.56 美元,Opus 5 High 74.68 美元(按各家 API 定价)
  • 训练:50 个真实漏洞案例 × 3 种信息视图 = 150 个任务;Rank-256 LoRA 覆盖全部专家与路由 + 按激活挑选 16 个专家全参更新,GRPO
  • 数据构成:72% 为授权/身份/作用域绑定类漏洞,18% 数值精度,其余为签名重放、支付规则与 SSRF
  • 许可与形态:MIT 开源权重,Hugging Face 另有 abliterated 变体;官方推荐配合 Codex Agent harness 使用
阅读全文
关联模型 / 智能体 / 厂商: