使用 Hugging Face Inference Endpoints 部署開源 LLM

Hugging Face Blog 示範如何使用 Hugging Face Inference Endpoints 部署開源 LLM，並以 API 提供服務。示範以 Falcon 40B instruct 建立端點、測試生成參數，並透過 Python 和 JavaScript 串流生成結果。