Hugging Face Blog·· 2022-08-19AI 評分56
在 Vertex AI 部署 🤗 ViT
Deploying 🤗 ViT on Vertex AI
AI 導讀
Hugging Face Blog 示範將 🤗 Transformers 中以 TensorFlow 實作的 ViT B/16 部署至 Vertex AI,並透過 Python SDK 建立端點及發送預測請求。文章説明模型版本管理、流量分配、監控與資源設定,並記錄 Locust 本機負載測試約發出 17230 次請求,平均延遲為 646 Milliseconds。
來源:Hugging Face Blog · huggingface.co