Hugging Face Blog·· 2024-05-21精選AI 評分66
Hugging Face 將 AMD Instinct MI300 整合至平台並支援模型部署
Hugging Face on AMD Instinct MI300 GPU
AI 導讀
Hugging Face 宣佈把 AMD Instinct MI300 整合至平台，透過 Transformers、text-generation-inference 等工具部署模型時無需改動程式碼。
推薦理由
文章比較 Azure MI300X 與 MI250 執行 Llama 3 70B 推理和微調的結果，並公開基準程式碼，便於核對性能差異及復現測試。
來源：Hugging Face Blog · huggingface.co