跳到正文
熱點事件持續更新

DELTA 探討 RL 能否令 LLM 突破零通過任務

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月13日,研究團隊提出 DELTA,以全部屬於分佈外(OOD)且獎勵可驗證的合成程式任務,測試強化學習(RL)能否令基礎模型解決原本 pass@K=0 的任務,並遷移所學程序。針對多個 pass@128=0 的任務,訓練先採用按測試逐項給分的密集獎勵,協助模型脱離全零區,之後改用必須完整通過的二元獎勵;訓練曲線在長時間平台期後出現類似 grokking 的躍升。遷移效果並不一致:重組已學子技能及推廣至更難的參數範圍較有效;需要新不變量的轉變則效果較弱。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月13日
  1. Berkeley RDI:Blog
    RL Grokking Recipe:RL 如何讓 LLM 解決原本無法解決的任務?

    研究團隊提出 DELTA,透過全 OOD 且具可驗證獎勵的合成程式任務,測試 RL 能否令基礎模型解決原本 pass@K=0 的任務並遷移所學程序。對多個 pass@128=0 任務,先用逐測試密集獎勵離開全零區,再切換二元完整通過獎勵,訓練曲線在長時間平台期後出現 grokking 式躍升。遷移效果有選擇性,重新組合已學子技能及外推至更難的參數範圍較有效,面對需要新不變量的轉變則較弱。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。