如何在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B

Hugging Face Blog 提供了在 Google Cloud Vertex AI 部署 Meta Llama 3.1 405B Instruct FP8 的操作教程，並示範如何以 Text Generation Inference（TGI）執行線上推理。