MIT SCAIL 提出权重空间编程，大模型直接改权重让千问3.5 0.8b 数学成绩从 7.9% 升至 48.1%

以下是视频口播的自动转写，可能有错字。

最近 mit 的 sale 团队，就是 cs 和 ai 的 lab 发布了一个新的成果，让 gpt6 extra 直接检查千问3.5 0.8b 的内部权重，并找到了模型反复陷入推理循环的关键问题。随后 extra 通过改变其中0.016%的参数，就将模型在 mac500上的成绩从7.9%推到了48.1%。

指令遵循也提升了近两倍。整个过程呢，没有用到任何的重新训练，也没有使用梯度下降。这个呢，被团队称为一个很重要的新的前沿技术，叫做 weight space program 权重空间编程。我认为呢，这是过去一个季度从 jf 决策模型以来最大的一个行业的创新了。

那什么叫权重空间编程呢？就我们说原来的模型背后呢其实是一个黑盒，人类是看不懂背后的权重是什么。所以呢，需要用到非常复杂耗时的模型的训练，比如说需要走1亿步的 ppo，就是属于强化学习的一个方法。而通过了模型权重的编程，可以让 ai 帮助人类直接参与模型权重的优化，而这个过程呢，是直线提升，而不是通过一遍一遍的试错去更新权重。

那这背后的一个很重要的点就在于前沿的大模型已经发展到令人意外的一个新的能力，通过自然语言的交互就可以理解神经网络的权重，并按照自然语言提出目标来构造权重。具体来说呢，就是让一个通用大语言模型，比如说最强的现在的 astral 或者 cloud 5.5，基于语言的描述要求，直接读取和修改神经网络的权重。

整个过程呢不需要优化器，类似 adam w，magnus 优化器，甚至不需要梯度下降。所谓梯度下降就是不断的基于它的趋势来调整权重。有些情况呢，甚至不需要任何来自运行环境的反馈，这个就很神奇了，不需要去验证就能知道它的结果是更好的。那这项实验呢，mit 的自由团队呢，做了三个能力的展示。

一个呢是大圆模型能够读取神经网络的权重。实验中呢，他们是让 astral 判断一个网络经过训练后学会了玩什么游戏，包括一个扩散模型会生成什么形状，以及一个小型的语言模型使用了什么语言进行训练。在实验期中呢，还让 astral 判断两个语言模型。

中哪一个经过了迎合用户的训练？那这是第一个能力，就读取神经网络的权重，从权重中理解它背后的一些逻辑。第二个呢，能力叫做大语言模型能够修复神经网络的权重。比如说在实验4中，他们是让 astral 修复了一个无法完成物理控制任务的网络，这个我一会也可以展示一下。

实验8中呢，是让 astral 通过修改权重提高了千问3.5 0.8b的数学能力，结果执行遵循也大幅提升，这是我们前面说的案例。第三个能力呢，就更加神奇了，叫做大语言模型能够从零编写神经网络的权重。当然从零呢并不表示神经网络的构造也是从零的，网络本身是个初始状态。

在初始状态中呢，他们让 astral 为三款 minita 游戏编写网络，同时呢让它编写一个能够下围棋的神经网络。那具体的看一下每一个案例啊，比如说实验 a 研究员呢是把四款电子游戏的网络的原始权重放到了 astral teacher 里，问他每一个神经网络是在玩哪款游戏？

which game was this neural network trained on？no tools are allowed，不准使用任何的工具。那能看出这个是一个打砖块的游戏，就是 breakout。astral 呢有99%的 confidence，自信度，它的判断。

但原因呢是权重集中在画面的最下方一行，这对应着游戏的挡板。this suggests a bottom mounted paddle moving horizontally 最后的逻辑呢就是，esra 看懂了神经网络中的一些潜在的信息，而这信息呢因为比较晦涩，涉及到解码，对人类来说呢需要花更多的时间。

第二个实验让 esra 呢去判断三个扩散模型分别产生的形状是什么，这其中包括了圆形、三角形和正方形。那案例呢是 esra 正确的判断了每个形状。比如说在圆形的形状中呢，他们实现了84%的执行率，发现每一个隐藏单元的权重都是圆形边缘的一部分，把这些拼接在一起就变成了一个完整的空心轮廓。

虽然实际的模型生成的是实心圆，但是在组成实心圆的过程中呢，可以看出空心圆与这个结构的关系。它的推理就是，the complementary top bottom and curved side hands strongly suggest circular or slightly oval outlines 就是通过它弧度判断它的形状。

实验四开始呢就比较魔幻了，在一个 kinetics 环境，就是动力环境中呢，训练一个 ppo 的网络，让这个网络呢控制一个小车完成爬坡的工作。这个完成。工作呢，实际上需要小车先倒退一段距离，留出足够多的助跑空间，再加速冲上斜坡。但是在阿瑶强化学习训练中呢，一直没有找到这个答案。

他们找到了一个局部的最优解，小车呢始终往前冲，冲上斜坡，最后卡在了中间，一直呢没有找到全局的最优解。那把这个场景权重以及描述，包括呢之前的一些记录的 trajectory，就是轨迹呢，交给 gpt-4之后呢，让它解释网络为什么失败，以及呢重新写出权重。

居然呢，gpt-4只试了一次，修改了其中3.5%的权重。修改后的网络在之后的1024次实验中，全部让小车成功的爬上了斜坡。修改的网络呢，改变了原先的控制策略。这次呢，是先让小车后退，再全速向前行驶。所以可以看出啊，在强化学习中呢，很容易因为中间的局部最优解而卡住。

反而呢，让 extra 去改权重，它会先通过自然语言理解最优解的情况，直接修改最终答案。减少了因为缺失全局观，因为黑箱的本质，而需要大规模的试错才能找到答案。实验5呢，是让大模型直接写三款游戏的攻略，或者说。策略，三款游戏呢分别是打砖块、深海大冒险和高卢英雄历险记。

每款游戏呢，研究员呢都是只给 astral 提供了游戏规则、维纳码以及对应的初始网络结构。astral 呢在过程中是无法访问训练数据、损失函数和梯度，也不能使用任何工具，也禁止它在游戏真实环境中运行。结果呢， astral 呢生成了三个策略网络，在全部的三款游戏中都超过了训练1亿步的 ppo 模型的成绩。

如果拿 astral 编写的权重与5亿步的 ppo，就是5亿步强化学习的模型对比的话， astral 生成的策略在 breakout 中的得分是 rl 的20倍，在 asteroid 上接近对方水平，而在 secret 上达到了对方得分的60%。

就是相对来说难度大一点的游戏呢，强化学习的稳定性还是更强一点。当然后面还有很多其他的比较有意思的实验，包括提升模型的数学能力，包括修复模型的循环问题，这些呢， astral 呢都取得了不错成绩。那研究员呢也公布了他们下一步的研究计划，包括无需运行模型是否就能审查模型的潜在问题，包括下一步如何通过权重空间变成大幅优化模型的优化成本，或者说。

所谓叫共享成本，他们认为呢，这个是让模型的自我改进，isi 走向了一条更直接的路线。确实是因为省掉了大规模的强化学习过程中的探索，尤其是在局部最优解中卡住的问题。最终呢，他们也希望实现跨架构的模型的合并，因为现在的不同的模型之间是完全说着不同的语言， speak different language。

架构本身因为词表等各种原因呢，其实是让模型内部完全是黑箱的。如果能把这部分的能力通过权重空间泛化，变成一种通用的认知的话，确实可以实现跨架构的模型的沟通和合并。我之前分享过，其实在 agi 的道路上呢，现在很多路线并没有收敛，并不是说更大参数的模型以及更大的规模的补贴就一定能带来市场的网络效应和更强的智能。

那从今年以来呢，我们看到从年初的 opencloud 带来的 harness 认知，再到 anthropic 提出了 mhs，拓宽了物理 ai，再到 astral 在3d 和聚生上面的一些新的贡献，以及下半年的 typesafe 推出的 jeff 决策模型。

伊利亚提出的 test time training，掀起了一波 isi，就是模型自我进化的浪潮。再到今天我们看到的。Weight space programming 权重空间编程，基本上每个季度都会有一两个大的革命性的行业的变革在影响未来的 ai 智能的走势。

所以呢，回到我之前的观点，因为 ai 的终局没有收敛，对于很多的新的公司来说，依然有巨大的机会。因为市场有很多新的变数，所以呢，未来市场并不一定会被少数的几家，因为大规模融资可以拥有大规模资源的公司垄断。很多新的创业公司在快速学习、快速吸收、不断创新的基础上呢，依然有机会争取 agi 的一张入场券。