Hugging Face Blog·· 2024-02-08精選AI 評分63
Hugging Face 推出 TGI Messages API,兼容 OpenAI Chat Completion API
From OpenAI to Open LLMs with Messages API on Hugging Face
AI 導讀
Hugging Face 宣佈 TGI 自 1.4.0 起提供兼容 OpenAI Chat Completion API 的 Messages API,並將其提供於 Inference Endpoints。
推薦理由
文中以 Python、JavaScript、LangChain 和 LlamaIndex 示範如何沿用 OpenAI 相容介面接入開放模型,並交代 function calling 等限制。
來源:Hugging Face Blog · huggingface.co