X 热议：Scott Alexander 发文《Against SURA》批评「单方面停下 + 唤起关注」路线，AI 安全圈被指越来越像群众政治运动
Scott Alexander 10 月 31 日在 LessWrong 发表长文《Against SURA》，把「公司、员工、国家应单方面停下 AI 并唤起公众关注」的主张统称为 SURA，认为它会让不重视对齐的公司领先、让美国失去与中国谈判的筹码。他引用 AI Futures Project 成员对几种「没有全球暂停」情景的生存概率估计，大多在 25%–50%，以此反驳 90% 以上的末日概率。博主 jessicat 转引后称，AI 安全的部分派别已开始像群众政治运动，认知质量变差（约 359 赞、6.3 万浏览）；Bloomberg Odd Lots 主持人 Joe Weisenthal 转发概括为「大家在比谁更悲观」（约 287 赞、3.8 万浏览）。这是观点争论，不是任何机构的政策公告。
核心要点速览
- 原文：Scott Alexander 在 LessWrong 发表的《Against SURA》，发布于 2026-10-31 19:32 UTC；SURA 指 Stop Unilaterally + Raise Awareness（单方面停下 + 唤起关注）
- 文中引用的 AI Futures Project 成员对三种「无全球暂停」情景（C+ / C / D）的生存概率估计：Daniel Kokotajlo 40%/20%/10%，Ryan Greenblatt 60%/63%/55%，Eli Lifland 50%/45%/32%，Thomas Larsen 45%/35%/20%，Romeo Dean 40%/35%/20%；AI 预测器 FutureSearch 给出 44%
- 他举例称，若美国单方面通过 Sanders 的《Ban Artificial Superintelligence Act》（MIRI 背书），他用的 AI 预测器估计中国一年内同意暂停的概率只会从 1% 升到 7%
- jessicat 的转引帖（10-31 23:01 UTC）约 359 赞、28 转发、6.3 万浏览；Joe Weisenthal 的转发（11-01 14:57 UTC）约 287 赞、33 回复、3.8 万浏览
- 注意：Weisenthal 帖中「10%–40%」是他的概括，原文表格的估计范围是 10%–63%
关联模型 / 智能体 / 厂商:
