Prime Intellect·· 5 小時前AI 評分58
Prime Intellect 發佈 INTELLECT-1,稱其為首個全球協作訓練的 10B 參數模型
AnnouncementsNOV 29TH, 2024INTELLECT-1 Release The First Globally Trained 10B Parameter Model
AI 導讀
Prime Intellect 發佈 INTELLECT-1,並稱這是首個全球協作訓練的 10B 參數語言模型。模型以 1T tokens 訓練 42 天,橫跨 5 個國家和 3 大洲,最多同時使用 112 張 H100 GPU;全球分散式訓練的計算利用率為 83%。
來源:Prime Intellect · primeintellect.ai