Hugging Face Blog·· 2024-02-19精選AI 評分60
Hugging Face PEFT 新增 LoRA adapter 合併方法
🤗 PEFT welcomes new merging methods
AI 導讀
Hugging Face 的 PEFT 新增多種面向 LoRA adapter 的合併方法，使用者可透過 `add_weighted_adapter()` 試驗不同組合。
推薦理由
文章逐項比較 cat、linear、SVD、TIES 與 DARE 等 LoRA 合併方法，並整理 rank、density 和 GPU 記憶體需求對實作選擇的影響。
來源：Hugging Face Blog · huggingface.co