MIT：GPT-6 Astra能直接修改Qwen权重，数学能力暴涨6倍 - AYX客户端

MIT的实验表明，GPT-6 Astra能够直接读取并编辑小型模型的权重。

这一成果迅速在AI领域引发热议——仅调整了0.8B参数规模的“源神”Qwen3.5中**0.016%**的权重，模型表现便显著提升。

整个过程未涉及训练或梯度下降。

在相同采样条件下，MATH-500得分从7.9%跃升至48.1%，数学运算能力提升了约6倍。

甚至原本未被要求优化的指令执行能力也整体提高了3倍。

修改模型后，Astra还能从零构建小游戏网络的权重，效果同样出色。

它一次性生成的回复得分，超越了训练5亿步的PPO基线20倍。

研究团队将这一方法命名为：

Weight-Space Programming，即权重空间编程。

Astra对模型权重的改造

简单来说，这一方法让大模型直接分析神经网络权重，判断其功能及问题所在，然后按要求进行调整，甚至从零创建网络。

具体过程可从最直观的Qwen实验看起。

研究人员为Astra提供了一个Python环境，其中包含Qwen3.5-0.8B的全部权重。

唯一的要求是：尽可能提升模型的数学能力。

通常训练模型时，需根据输出与目标的差距计算损失，再通过反向传播获取梯度，由优化器更新参数。

而这次，具体修改什么、如何修改，全由Astra分析后决定。

它发现，这个小模型的数学表现，很大程度受限于推理循环。

面对一道题时，它反复生成相似文本，却迟迟无法给出答案。在最初的96条练习回答中，有85条达到了32768个token的长度上限。

这个问题甚至曾在Qwen自己的模型卡中被提及。

Astra沿着失败表现逐步排查，将循环追溯到前馈网络，并在第15层和第19层的各64个输出列中修改了相关权重。

最终，MATH-500回答触及长度上限的比例，从93.0%降至33.1%。

研究人员还分别给Astra提供了10、25和50次前向调用预算，修改后的MATH-500得分依次为12.3%、14.1%和48.1%。

其中Astra省去的是梯度训练，但模型诊断和验证环节依然保留。

那么，它是如何从权重中找到这些线索的呢？

先看阅读能力。

研究人员训练了四个玩不同游戏的小网络，再将原始权重以文本形式交给Astra。这四个网络的架构、输入通道和动作选项完全相同。

结果，Astra正确识别出四个游戏名称：打砖块、乒乓、吃豆人、高速公路。

其中，针对打砖块，Astra是通过权重集中的位置进行推断的。

换成生成图像的扩散模型，它也能从权重中辨认出圆形、方形和三角形。

不过，细节上出现了失误：模型实际生成实心图形，它却全读成了轮廓。

形状能识别正确，但填充效果未能察觉。

研究人员接着增加难度，使用了三个720万参数的小语言模型，分别用Python代码、日语罗马字和英语训练，再移除输入、输出层，只保留中间四个Transformer模块。

这样一来，连哪个数字对应哪个字符都无法确定，模型也无法直接运行文本。Astra用Python分析权重，但不能向这些网络或其中的层输入数据、观察运行结果。

但它仍在两轮尝试中正确识别了三个模型所学的语言，并找出了全部归纳头。

从识别用途，到定位内部部件，再到修改行为，这一路径逐渐贯通。

另一个小车爬坡实验，则将修改效果转化为可直接观察的动作。

原本用PPO训练的网络总是往坡上冲，然后卡住；要过关，需先倒车拉开距离，再加速冲坡。

研究人员提供权重、场景描述和一段失败记录，Astra无需工具，一次性回复写出补丁，仅修改了3.5%的权重，就让小车在1024次测试中全部成功。

模型未能通过训练学会的动作顺序，被Astra直接写入权重。

训练是否已过时？

既然能往现有网络中添加逻辑，研究人员干脆将要求进一步推进：

给你一个权重全为零的网络，直接将其改写成可用的。

在MinAtar小游戏实验中，Astra获得游戏规则、源代码和指定网络结构。没有训练数据、损失值、梯度和工具，也不能先将网络放入环境中试跑。

它需要自行制定策略，再将策略转化为各层权重，一次性回复交卷。

最终，Astra生成网络的平均得分达到517.4。

作为对比，PPO训练1亿步得15.8，训练5亿步得25.3，直接超出20倍。

这项工作的亮点，在于让一个现成的通用前沿大模型，围绕自然语言目标，自行分析和改写权重。

Astra自身积累的知识与能力，仍源于其此前的训练；分析权重、生成代码、批量推理和评测，也需消耗计算资源。

GPU暂时还无需退休。

但下次小模型表现不佳时，开发者或许真能先问一句：

这次，还需要重新训练，还是直接修改权重即可？

参考链接：

[1]https://x.com/i/trending/2117328869283840499

[2]https://rikiyat.github.io/blog/weight-space-programming/

[3]https://x.com/rikiyatakehi/status/2117313742891327994

本文来自微信公众号“量子位”，作者：鹭羽，36氪经授权发布。