跳到正文
原文
Prime Intellect·· 5 小時前AI 評分58

Prime Intellect 發佈 INTELLECT-1,稱其為首個全球協作訓練的 10B 參數模型

AnnouncementsNOV 29TH, 2024INTELLECT-1 Release The First Globally Trained 10B Parameter Model

AI 導讀

Prime Intellect 發佈 INTELLECT-1,並稱這是首個全球協作訓練的 10B 參數語言模型。模型以 1T tokens 訓練 42 天,橫跨 5 個國家和 3 大洲,最多同時使用 112 張 H100 GPU;全球分散式訓練的計算利用率為 83%。

來源:Prime Intellect · primeintellect.ai