MIT CSAIL 研究:大模型直接改写神经网络权重
热点事件持续更新
MIT CSAIL 研究:大模型直接改写神经网络权重
2 篇报道2 个报道来源1 小时前更新
先了解这件事
AI 综述
MIT CSAIL 四位研究者 11 月 2 日发布博客,提出让前沿大模型直接读取并修改神经网络的权重,称为“在权重空间里编程”。实验中,GPT-6 Astra 只改动 Qwen3.5-0.8B 约 0.016% 的权重,就把该模型在 MATH-500 上的数学正确率从 7.9% 提升到 48.1%,约 6 倍;量子位报道称指令执行能力也提高 3 倍,全程不做梯度训练。 这一结果有明确前提:需要允许 Astra 拿练习题试跑 50 次;只试 10 次或 25 次时,原模型 93% 回答陷入的重复循环基本没有消失。换成很少循环的 Gemma 3 270M 后,同样方法没有带来提升。 研究者称,目前结果均由作者自行报告,尚无独立复现。
AI 根据报道生成 · 刚刚更新
报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- 量子位MIT 实验:GPT-6 Astra 直接改写 Qwen3.5 权重,MATH-500 得分从 7.9% 升至 48.1%
MIT 实验让 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的权重,全程不做训练、不用梯度下降,只改动约 0.016% 的权重,MATH-500 得分就从 7.9% 升到 48.1%,约 6 倍,指令执行能力也提高 3 倍。
- X · 宝玉精选MIT CSAIL 研究让 GPT-6 Astra 直接改写模型权重,Qwen3.5-0.8B 数学正确率从 7.9% 升至 48.1%
MIT CSAIL 四位研究者 11 月 2 日发布博客,提出“在权重空间里编程”,让前沿大模型直接读取和修改神经网络权重。GPT-6 Astra 只改动 Qwen3.5-0.8B 0.016% 的权重,MATH-500 数学正确率从 7.9% 升到 48.1%,约 6 倍,但前提是允许拿练习题试跑 50 次,且原模型 93% 的回答会陷入重复循环。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。