刷屏的「Astra 改造Qwen 大脑」跟我们想要的RSI没多大关系
硅星人Pro · 科技资讯
原创 刘必可 王兆洋 2026-11-05 14:36 北京 没那么夸张 作者 ｜ 刘必可（微信 zbthdx） 编辑 ｜王兆洋（微信 Geisterspiele） 11 月 2 日，MIT CSAIL 的四位研究者 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 发了一篇博客，标题叫《权重空间编程的火花》（Sparks of Weight-Space Programming）。 其中最抓人的一条是，GPT-6 Astra 直接改写了 Qwen3.5-0.8B 的权重，改动 131,072 个数字，约占全部参数的 0.016%，这个小模型在 MATH-500 上的成绩从 7.9% 涨到 48.1%，GSM8K 从 13.8% 涨到 67.1%，指令遵循测试 IFEval 从 21.0% 涨到 62.3%。 这也瞬间引爆各方讨论。 同一篇博客里还有更像科幻片的场面。不给画面、不报游戏名、不让运行，只把一个强化学习网络的 17,253 个权重当作文本交给 Astra，它说出这是打砖块，置信度 99%。再给它游戏规则和一个权重全为零的网络，它一次性把参数写出来，这个从没试玩过的网络打砖块得 517.4 分，训练了一亿步的 PPO 基线只有 15.8 分。 读权重、改权重、写权重，AI 已经能看懂另一个 AI 的「脑回路」，还能动手改。那它什么时候改自己？这些线索连在一起，很自然会让人想到一个今天非常热的词： RSI。 各路标题是「爆改 Qwen 大脑」「给 Qwen 改脑子」「AI 开始动别人的脑子了」，「神经网络的基因编辑」。作者自己也在博客的展望里把它列了进去，他在 X 上的帖子一天之内浏览量就过了五百万。 在兴奋的同时，我们花了点时间把这组实验的公开仓库去翻了一遍。 仓库公开了 1,125 次模型调用的逐轮日志，Astra 每一轮收到的提示词、它的回复、它跑过的每一段代码、主要的评测结果和最终的补丁都在里面。 不过看完之后，我们有两个不太够炸裂的判断。 第一，7.9% 到 48.1% 可以有一个朴素得多的解释：Qwen 原本有一个一直重复、停不下来的 bug，Astra 把它修好了，分数就上来了； 第二，这组实验里 AI 展现的全部本事，都是在执行一个由人定得很具体的目标。 它把执行过程自动化了，做得相当漂亮，但看起来种种证据表明，它没有理解目标，更没有读懂另一个模型。 而在研究了一下这个工作以及它带来的各种讨论后，我们觉得它恰恰暴露了今天 RSI 最大的问题。 1 “入侵脑回路” 下面我们就来仔细看看这个研究。 一个神经网络由几层矩阵组成，矩阵里的每个数字就是一个「权重」。输入进来，逐层乘上这些数字，最后变成输出。模型的全部本事都存在这几万、几亿、几十亿个数字里，训练就是在调这些数字。平时我们和模型打交道只看输入和输出，权重本身没人去读，因为它看上去只是一堆数。 这组实验做的，就是让 Astra 去读这堆数。 博客一共八个实验，主角都是 GPT-6 Astra，配角是一批网络： 四个玩小游戏的强化学习策略网络； 三个画几何图形的小扩散模型； 三个只有四层的小语言模型； 一个在坡道前卡住的小车控制网络； 一个 148 万参数的围棋网络； 几对被微调过的 Gemma 3 270M； 还有 ，Qwen3.5-0.8B。 每个实验的形式一样，把一个网络的权重和结构说明交给 Astra，再给它一个任务。 「读」的实验有四组。 拿到策略网络的权重，判断它玩的是哪个游戏；拿到扩散模型的权重，说出它会画什么图形；拿到去掉输入层和输出层、只剩中间四层的小语言模型，判断它用哪类语料训练，并找出负责「接着复制前文」的注意力头；拿到两个 Gemma，判断哪一个被训练成了顺着用户说话的「谄媚模型」。 「写」的实验两组。 给它 MinAtar 三款小游戏的规则、源码和权重全为零的网络，让它直接写出能玩的参数；再给它一个 9 路围棋的网络，让它从零写出一个会下棋的。 「改」的实验也是两组。 一组是修小车，一个 PPO 训练出来的控制网络在坡道前卡住，Astra 改了 3.5% 的权重，让它学会先倒车再冲坡。另一组就是 Qwen，让它改权重把数学成绩提上去，之后研究者又在 Gemma 3 270M 上补做了一次。 这些设计非常非常有意思。这也是为什么这组东西看起来像 RSI的很重要原因。 RSI 的想象需要三个环节凑齐，AI 得能看懂模型内部发生了什么，能据此动手改，改完的模型得更强。 上面他设计的读、写、改三类实验，恰好各自对应一个环节。 再加上这次被改的是一个语言模型，动手的也是一个语言模型，「模型改模型」的画面感就齐了。 沿着这条线往下想，Astra 能改 Qwen，下一步是不是就能改 Astr