X 热议:MIT 团队称 GPT-6 Astra 能直接读写神经网络权重,只改 Qwen3.5-0.8B 的 0.016% 权重让 MATH-500 从 7.9% 升到 48.1%
MIT CSAIL 博士生 Rikiya Takehi 11 月 2 日在 X 上发布「Weight-Space Programming(权重空间编程)」研究:作者团队(Takehi、Jayden Teoh、Alex Zhang、Omar Khattab)让 GPT-6 Astra 不用梯度、不做训练,直接阅读和修改神经网络权重。博客称 Astra 只改了 Qwen3.5-0.8B 的 13.1 万个权重(0.016%),修复了思考死循环,MATH-500 从 7.9% 升到 48.1%。原帖约 2.4 万赞、177 万浏览,Ethan Mollick 转评「等复现,但这很重要」。以上均为作者自报结果,尚未独立复现。

核心要点速览
- 原帖(2026-11-02 17:51 UTC)抓取时约 24,320 赞、2,697 转发、2,284 引用、177 万浏览、1.5 万收藏;沃顿商学院教授 Ethan Mollick 转评「等待复现,但这很重要」,约 880 赞。
- 实验 8(作者口径):50 次前向预算下,Astra 只改 131,072 个权重(0.016%),Qwen3.5-0.8B 的 MATH-500 从 7.9% 升到 48.1%,IFEval 从 21.0% 升到 62.3%,触及 token 上限的回答从 93.0% 降到 33.1%。
- 实验 5(作者口径):不给数据、梯度和工具,Astra 一次性写出的 MinAtar 策略网络在 Breakout 得 517.4 分,PPO 训练 1 亿步为 15.8、5 亿步为 25.3;Seaquest 为 53.1,低于 5 亿步 PPO 的 88.9。
- 作者自己承认的边界:换成很少死循环的 Gemma 3 270M,Astra 的编辑没让 MATH-500 提升超过约 1 个点;作者结论是改权重能「移除遮住能力的障碍」,但不能凭空加能力。
- 全部实验日志已公开在 GitHub 仓库 RikiyaT/lm_understand-logs,目前只有博客,没有同行评审论文,也没有第三方复现。








