跳到正文
原文
Hugging Face Blog·· 2022-08-19AI 評分56

在 Vertex AI 部署 🤗 ViT

Deploying 🤗 ViT on Vertex AI

AI 導讀

Hugging Face Blog 示範將 🤗 Transformers 中以 TensorFlow 實作的 ViT B/16 部署至 Vertex AI,並透過 Python SDK 建立端點及發送預測請求。文章説明模型版本管理、流量分配、監控與資源設定,並記錄 Locust 本機負載測試約發出 17230 次請求,平均延遲為 646 Milliseconds。

來源:Hugging Face Blog · huggingface.co