跳到正文
原文
Hugging Face Blog·· 2025-07-16精選AI 評分68

Ettin Suite 發佈 17M-1B 參數的配對編碼器與解碼器模型

Ettin Suite: SoTA Paired Encoders and Decoders

AI 導讀

Ettin Suite 發佈涵蓋 17M-1B 參數的配對編碼器與解碼器模型,兩者使用相同的 2T tokens 公開數據及訓練配方。編碼器在各項任務及規模上超越 ModernBERT,解碼器則勝過或追平 Llama 3.2 和 SmolLM2。同條件測試中,編碼器在分類和檢索任務較佔優,解碼器在生成任務較佔優;模型涵蓋六種規模,訓練數據公開且可重現。

推薦理由

Ettin 在相同的數據、模型規模與訓練配方下比較編碼器和解碼器,呈現兩類架構在分類、檢索和生成任務上的不同優勢。

來源:Hugging Face Blog · huggingface.co