X 热议:微软 AI CEO Mustafa Suleyman 发长文《不要造有意识的超级智能》,称训练中若出现意识应全面暂停 AI 开发
微软 AI CEO Mustafa Suleyman 11 月 1 日在 X 上发布长文《Don't build conscious superintelligence》,回应外界对他 9 月「模型福利」文章的反应。他澄清「AI 没有意识」用的是现在时:今天没有,也必须保持如此;若训练中开始出现意识,他会呼吁所有人停止 AI 开发,直到能把这些属性设计掉。他还说 AI 开发者无权创造新的有意识物种,福利关注应放在人类、动物和自然环境上,同时称赞 Anthropic 公开宪法和研究的透明度,但表示不同意其做法。帖子约 353 赞、251 收藏、29 万浏览,引来伦理学者和从业者正反两方讨论。这是个人观点,不是微软的产品或政策公告。

核心要点速览
- 原帖:@mustafasuleyman 11 月 1 日长文,15:22 UTC 发布,约 353 赞、56 转发、79 回复、251 收藏、29 万浏览(抓取时)
- 这是对他 9 月 16 日《是时候谈谈模型福利》(约 1,013 赞)一文反响的回应,作者 X 简介为微软 AI CEO、《The Coming Wave》作者、DeepMind 与 Inflection 联合创始人
- 核心主张:「AI 没有意识」指的是现在,并且必须保持如此;若有证据表明 AI 已有意识,应立即公开;若训练中出现意识,应全面暂停开发
- 他称赞 Anthropic 公开宪法和一系列论文、博客的透明度,但明确表示不同意其做法,并呼吁各实验室在这方面合作研究、共享安全信息
- 引用帖中,UMass Amherst 经济与伦理学者 Itai Sher 称「说得很好」;UCL 教授 Tim Colbourn 认同但不认为能「默认把安全设计出来」,也有人指出目前没有公认的意识理论或检测方法

