Granite 4.2 大語言模型如何構建

IBM Granite 團隊詳述 Granite 4.2 推理模型系列的構建流程，涵蓋架構、訓練方法及評測結果。該系列有 3B、8B、30B 三種稠密、僅解碼器模型，均由 Granite-4.1 base models 後訓練；後者以約 15T tokens 預訓練，並透過五階段策略將上下文窗口延至 512K tokens。