Hugging Face Blog·· 2024-05-09AI 評分53
使用 Intel Gaudi 2 和 Intel Xeon 構建具成本效益的企業級 RAG 應用
Building Cost-Efficient Enterprise RAG applications with Intel Gaudi 2 and Intel Xeon
AI 導讀
Hugging Face Blog 示範以 Intel Xeon CPU 運行嵌入模型、以 Intel Gaudi 2 運行 LLM,並透過 LangChain、Redis 和 TGI 構建及部署企業級 RAG 應用。
來源:Hugging Face Blog · huggingface.co