Zyphra Research·· 5 小時前AI 評分36
Zyphra 發佈面向裝置端應用的 Zamba2-small（2.7B）小型語言模型
ModelZamba2-Small (2.7)Zyphra is excited to release Zamba2-small, a 2.7B state-of-the-art (SOTA) small language model for on-device applications.July 28, 2024
AI 導讀
Zyphra 發佈 Zamba2-small（2.7B），一款面向裝置端應用的小型語言模型。相較 Phi3-3.8B，其首 token 生成速度快 2x、記憶體開銷減少 27%，生成延遲低 1.29x。模型權重以 Apache 2.0 授權開源。
來源：Zyphra Research · zyphra.com