熱點事件持續更新
Qwen2.5 微調出現過擬合後調整訓練方案
1 篇報道1 個報道來源1 小時前更新
先了解這件事
AI 綜述
報道稱，作者使用自建智能體的工具使用軌跡，對 Qwen2.5 1.5B Instruct 進行微調。訓練後，schema valid rate 由 43.2% 升至 79.6%，工具名稱準確率由 31.1% 升至 47.4%；但模型在編碼、數學推理及不應調用工具時的表現下滑，held-out loss 亦惡化，顯示模型過度擬合。作者的新一輪訓練改用 LoRA，混合一般數據與推理數據，並以 held-out loss 作為停止依據。
AI 根據報道生成 · 1 小時前更新
最新進展10月29日 03:32
新一輪訓練改用 LoRA、混合一般及推理數據，並以 held-out loss 作為停止依據。報道時間線
沿着報道，瞭解事件的不同側面。
10月29日
- DEV Community讓 DeepSeek 寫了幾個月微調流程，這次訓練令我成為真正的工程師
作者以自建的智能體工具使用軌跡微調 Qwen2.5 1.5B Instruct，schema valid rate 由 43.2% 升至 79.6%，工具名稱準確率由 31.1% 升至 47.4%。但編碼、數學推理及不應調用工具時的表現下滑，held-out loss 亦惡化，顯示模型過度擬合。新一輪訓練改用 LoRA、混合一般及推理數據，並以 held-out loss 作為停止依據。
本事件熱度走勢
還沒有足夠的連續觀測數據，暫不繪製趨勢。