跳到正文
原文
Hugging Face Blog·· 2024-02-08精選AI 評分63

Hugging Face 推出 TGI Messages API,兼容 OpenAI Chat Completion API

From OpenAI to Open LLMs with Messages API on Hugging Face

AI 導讀

Hugging Face 宣佈 TGI 自 1.4.0 起提供兼容 OpenAI Chat Completion API 的 Messages API,並將其提供於 Inference Endpoints。

推薦理由

文中以 Python、JavaScript、LangChain 和 LlamaIndex 示範如何沿用 OpenAI 相容介面接入開放模型,並交代 function calling 等限制。

來源:Hugging Face Blog · huggingface.co