MIT 研究人員展示大型語言模型可直接讀取及修改神經網絡權重，毋須重新訓練

麻省理工學院（MIT）的研究人員展示，大型語言模型（LLMs）能夠直接讀取、解讀和修改神經網絡權重，無需依賴梯度下降等傳統訓練方法。

研究人員在 11 月 2 日發表的一篇研究網誌文章中，介紹了一種名為「權重空間程式設計」的技術。這種技術讓通用大型語言模型檢視神經網絡的權重、找出其行為上的問題，並按照自然語言指示修改權重。

這項研究由 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 進行，他們均隸屬 MIT 電腦科學與人工智能實驗室（CSAIL）。

研究人員使用 OpenAI 的GPT-6 Astra，在八項實驗中展示這種方法，包括辨識神經網絡接受訓練後的用途、從頭編寫網絡，以及提升現有語言模型的數學推理能力。

研究人員寫道：「我們發現，前沿大型語言模型直接讀取和寫入神經網絡權重的能力出乎意料地出色，遠超我們對人類或傳統演算法的預期。」

其中一項重要實驗是在不重新訓練模型、亦不使用梯度資訊的情況下，提升小型語言模型 Qwen3.5-0.8B 的表現。Astra 找出模型權重中的一個問題：模型會重複推理步驟，而不是給出答案。

Astra 只修改模型 0.016% 的權重，就把模型在 MATH-500 基準測試的評分由 7.9% 提高至 48.1%。模型在另一項數學推理基準測試 GSM8K 的評分，也由 13.8% 提高至 67.1%。

研究人員亦發現，這些改動提升了模型遵循指示的表現。模型的 IFEval 評分由 21% 提高至 62.3%。

在第一組實驗中，研究人員測試 Astra 能否在不執行神經網絡的情況下，單憑檢視其權重辨識網絡的行為。

他們使用近端策略最佳化（PPO）訓練四個神經網絡，分別玩 Breakout、Pong、Pac-Man 和 Freeway。四個網絡的架構、輸入通道和可執行動作均相同。

Astra 收到每個網絡的 17,253 個權重，以文字形式呈現，但研究人員沒有告知它網絡接受訓練時所玩的遊戲。Astra 正確辨識出全部四款遊戲。

在另一項實驗中，研究人員測試三個經訓練、用來生成圓形、正方形和三角形的擴散模型。Astra 只檢視模型的權重，便辨識出各模型會生成哪種形狀，過程中沒有執行模型或進行前向傳播。

研究人員接着測試大型語言模型能否在不經訓練的情況下建立神經網絡。

他們向 Astra 提供三款 MinAtar 遊戲——Breakout、Seaquest 和 Asterix——的規則和原始碼。模型無法存取訓練資料、損失函數、梯度或工具，必須根據遊戲描述直接生成網絡權重。

在三款遊戲中，生成的網絡表現均勝過經 PPO 訓練、訓練步數達 100 million 的網絡。

在 Breakout 中，Astra 的網絡得分為 517.4；經 100 million 步訓練的 PPO 網絡得分為 15.8，經 500 million 步訓練的則為 25.3。

在 Asterix 中，Astra 得分為 53.2，經 500-million-step PPO 訓練的網絡則為 55.2。在 Seaquest 中，Astra 得分為 53.1，同一個 PPO 基準網絡則為 88.9。

研究人員亦使用一個權重接近 1.5 million 的網絡，測試 Astra 在棋盤遊戲圍棋上的表現。

在沒有進行任何前向傳播的情況下，Astra 生成了一個神經網絡，在與兩個規模較小的 PPO 神經網絡對戰時，勝出超過一半的對局。獲準進行 50 次前向傳播以檢視其表現後，生成的神經網絡擊敗了一個規模相同、以 2,000 萬局遊戲訓練的 PPO 神經網絡。

在這項實驗中，Astra 使用 Python 沙盒編寫及分析權重。它不能使用互聯網、訓練神經網絡或使用樹狀搜尋。

研究人員認為，這項技術可能改變神經網絡的最佳化及審核方式。

研究人員亦提到遞迴式自我改進：LLM 可以檢查及修改自身或另一個模型的權重。

他們正在開發基準測試及測試框架，以評估 LLM 讀取及寫入神經網絡權重的能力。

研究人員寫道：「我們相信，這標誌着機制可解釋性及神經網絡最佳化等領域迎來重大轉變。」

團隊亦在 GitHub 上公開了實驗紀錄，包括提示詞、模型回應、程式碼及評估結果。經修改的 Qwen3.5-0.8B 模型則可在 Hugging Face 取得。