Mistral AI·· 2024-11-07精選AI 評分62
Mistral AI 推出 Batch API,批次請求成本較同步 API 呼叫低 50%
Mistral Batch API
AI 導讀
Mistral AI 推出 Batch API,讓 La Plateforme 上的 Mistral 模型以批次方式處理高流量請求,成本比同步 API 呼叫低 50%。
推薦理由
Batch API 將高流量請求的成本降至同步 API 呼叫的一半,並以檔案提交、處理後下載的流程,適合不要求同步回覆的批量任務。
來源:Mistral AI · mistral.ai