AI 编程实时动态与要闻

OpenAI 筹备下一轮内部安全冲刺:联手 Cathedral 用自家模型攻防演练,严重漏洞赏金提高四倍以上、最高 17.2 万美元

OpenAI 11 月 2 日(美国时间)发文宣布筹备下一轮内部安全冲刺,与安全公司 Cathedral 合作,让对方研究员使用 OpenAI 模型和内部团队一起挑战自家防御。同时调整 Security Bug Bounty:严重级别漏洞奖励提高到原来的四倍以上,OpenAI 官方 X 帖称特别出色的发现含奖金最高可得 17.2 万美元。官方称上一轮冲刺抽调了 25% 的产品工程师,用 Codex 复现漏洞并准备补丁;此外已承诺 6 个月内提供 10 亿美元补贴额度给守护关键服务的防御方。

OpenAI 筹备下一轮内部安全冲刺:联手 Cathedral 用自家模型攻防演练,严重漏洞赏金提高四倍以上、最高 17.2 万美元

核心要点速览

  • 严重级别漏洞赏金提高到原来的四倍以上,官方 X 帖口径:特别出色的发现含奖金最高 17.2 万美元。
  • 合作方 Cathedral 的研究员将使用 OpenAI 模型,与内部团队一起对 OpenAI 系统做攻防测试。
  • 官方称上一轮冲刺抽调 25% 的产品工程师,用 Codex 在隔离环境复现漏洞并准备补丁。
  • OpenAI 已承诺 6 个月内提供 10 亿美元补贴额度,给守护关键服务和数字基础设施的防御方。
  • 下一轮冲刺的时间、范围和漏洞数量官方未公布。
阅读全文
关联模型 / 智能体 / 厂商:

安全公司 Parameter 披露 ChatGPT 分享链接漏洞:打开一个链接就能被读走私密对话,OpenAI 10 月 26 日修复并评为 P1

安全公司 Parameter 公开了一条 ChatGPT 漏洞利用链:攻击者把恶意对话用正常的分享功能发布出去,受害者只要在登录状态下打开这个 /share/ 链接,攻击代码就会以 chatgpt.com 的身份在其会话里运行,列出对话、读取从未分享过的私密对话并外传。Parameter 于 10 月 18 日通过 OpenAI 漏洞赏金计划提交,OpenAI 将等级从 P2 上调为 P1,10 月 26 日完成修复并支付 5,000 美元赏金;Parameter 称未发现真实攻击,用户无需任何操作。

安全公司 Parameter 披露 ChatGPT 分享链接漏洞:打开一个链接就能被读走私密对话,OpenAI 10 月 26 日修复并评为 P1

核心要点速览

  • 时间线:10 月 18 日提交,10 月 21 日 OpenAI 复现并从 P2 上调为 P1,10 月 26 日两套网页前端都修复,10 月 28 日公开(Parameter 原文)
  • 门槛极低:受害者无需安装应用、加入项目或粘贴代码,自动预览版本里「打开链接」就是唯一操作,约 4.5 秒后执行(Parameter 口径)
  • 根因有三:MathLive 不校验消息来源、消息可携带原始 HTML 作为键盘布局、该 HTML 能生成未沙箱化并继承 chatgpt.com 身份的 iframe;YouTube JSONP 只是绕过 CSP 的最后一步
  • 赏金 5,000 美元;Simon Willison 评价这个价格对如此严重的漏洞「有点便宜」(博客)
  • MathLive 0.111.2(10 月 31 日)把消息改为默认同源校验,跨窗口不能再下发自定义 HTML 布局(changelog)
阅读全文
关联模型 / 智能体 / 厂商: