使用 create-llama 將 RAG 應用部署至正式環境
LlamaIndex 提供使用 create-llama 生成的 RAG 全棧應用部署指南，涵蓋 Next.js serverless、Express 和 Python 三種後端。
全部AI 動態
全部動態
今日 23 條LlamaIndex：產品、工程與評測AI 評分5252 LlamaIndex：產品、工程與評測AI 評分5959 OpenAI Cookbook：使用 LlamaIndex 評估 RAG 系統的指南
LlamaIndex 發佈《OpenAI Cookbook》，提供使用 LlamaIndex 建構及評估 RAG 系統的指南。內容分為 RAG 概述、使用 LlamaIndex 建構 RAG，以及評估檢索系統和回應生成三部分；建構示例使用 Paul Graham 的文章及 VectorStoreIndex。
LlamaIndex：產品、工程與評測AI 評分5353 LlamaIndex 比較 GPT-4 與開源 Prometheus 模型的 RAG 評估表現
LlamaIndex 使用其框架，基於包含 100 條問題的 Llama 2 論文資料集，比較 Prometheus 與 GPT-4 的 RAG 評估表現。GPT-4 的 Faithfulness 和 Relevancy 分數分別為 0.93 和 0.98，Prometheus 則為 0.39 和 0.57；文章亦展示 Prometheus 有時會誤判上下文資訊。
LlamaIndex：產品、工程與評測AI 評分3333 以 LlamaIndex、GPT3.5 和 Streamlit 將電商自然語言轉化為 SQL 查詢及洞察
Na2SQL 結合 LlamaIndex、OpenAI GPT-3.5 與 Streamlit，讓使用者以自然語言查詢電商 SQLite 資料庫，並取得 SQL 查詢及結果分析。應用程式會執行生成的 SQL，並提供資料庫結構檢視器；作者使用示例電商資料庫，並提供免費及付費方案。
Tessl：產品與工程博客AI 評分6868 設計系統無法教會 AI 智能體如何作構圖判斷
Tessl 的設計實踐指出，設計系統能列明元件，卻無法教會 AI 智能體如何選用元件、安排畫面層級或判斷何時不使用元件。作者把三個智能體生成的畫面在 Figma 中重新設計，再讓另一個智能體列出前後差異，從重複出現的改動提煉可檢查的構圖規則。
LlamaIndex：產品、工程與評測AI 評分5757 LlamaIndex 如何藉助 AWS 與 Hugging Face 擴展索引流程
作者用 AWS 搭建 LlamaIndex 的可擴展索引 ETL 流程，並採用 Hugging Face 的 Text Embedding Interface（TEI）提供 embeddings。
LlamaIndex：產品、工程與評測AI 評分3434 如何使用 LlamaIndex 和 OpenLLM 構建智能查詢回應系統
LlamaIndex 與 OpenLLM 結合，可構建基於自訂語料、能理解並回應查詢的智能查詢回應系統。示例以 OpenLLM 啟動本地 Llama 2 7B 服務，並由 LlamaIndex 管理及檢索私有、特定領域資料。若使用 vLLM 後端，需配備 Ampere 或更新架構的 GPU 及 CUDA 11.8。
LlamaIndex：產品、工程與評測AI 評分4949 LlamaIndex：進階 RAG 建構速查表與實作配方
LlamaIndex 提供進階 RAG 建構速查表與實作配方，指出系統成效取決於檢索能否找到相關文件，以及生成能否善用文件回答查詢。內容示範以 Chunk-Size Optimization 調整文件分塊，並以結構化外部知識支援遞迴檢索或路由檢索。
LlamaIndex：產品、工程與評測AI 評分6161 Activeloop 與 LlamaIndex 合作推出免費 Advanced RAG 認證課程
LlamaIndex 與 Activeloop 合作提供免費 Advanced Retrieval Augmented Generation for Production 課程。
LlamaIndex：產品、工程與評測AI 評分5252 如何使用 LlamaIndex 建構多租户 RAG 系統
LlamaIndex 示範以文件 metadata 標記使用者，並在查詢時透過 metadata filter 限定可檢索的資料，建構多租户 RAG 系統。示例將 Jerry 與 Ravi 的論文分別加入同一索引，使用 ExactMatchFilter 分隔查詢；Jerry 查詢 Ravi 的 LLMCompiler 論文時未檢索到相關內容。
LlamaIndex：產品、工程與評測AI 評分6363 如何用 LlamaIndex、Qdrant 和 Render 建立可從 Slack 對話學習的聊天機械人
LlamaIndex 的教程示範如何用 LlamaIndex、Qdrant 和 Render 建立並部署 Slack 聊天機械人，讓它從工作區對話記錄資訊並回答相關問題。機械人把未提及它的訊息存入索引，將提及它的訊息作為查詢；Qdrant 用來持久保存記憶，FixedRecencyPostprocessor 配合最多 20 條檢索結果，令較新的訊息優先。
LlamaIndex：產品、工程與評測AI 評分4646 使用 LlamaIndex 與 Zilliz Cloud Pipelines 構建可擴展的 RAG 應用
LlamaIndex 與 Zilliz Cloud Pipelines 整合，讓開發者以託管檢索服務構建可擴展的 RAG 應用。示範以 30 行程式碼構建支援 metadata filtering 的多租户 RAG 聊天機械人，並可不改程式碼由一名用户擴展至數百萬名用户。
LlamaIndex：產品、工程與評測AI 評分5656 Tonic Validate 與 LlamaIndex：實作 LlamaIndex 整合測試
LlamaIndex 的技術指南示範如何將 Tonic Validate 接入 LlamaIndex，並透過 pytest 和 GitHub Actions 建立 RAG 整合測試，以追蹤回答品質變化。
LlamaIndex：產品、工程與評測AI 評分5151 LlamaIndex 以 Alpha 調校提升 RAG 混合搜尋的檢索表現
LlamaIndex 使用 Retrieval Evaluation module，在 Weaviate 中按查詢類型調校 RAG 混合搜尋的 Alpha，並比較有無重排器的檢索結果。實驗涵蓋六類查詢，以及索引一篇或三篇論文的資料集，並以 Hit Rate 和 MRR 評估檢索表現。文中結果顯示，重排器提升所測資料的兩項指標，而 Alpha 的表現會隨查詢類型和索引文檔數量而異。
LlamaIndex：產品、工程與評測AI 評分4545 如何使用 LlamaIndex.TS 以 TypeScript 建立 LLM 智能體
LlamaIndex.TS 教程示範如何以 TypeScript 建立 LLM 智能體，讓它調用函數工具完成計算，並根據文件回答問題。文件流程以 VectorStoreIndex 和 SummaryIndex 建立查詢及摘要工具；使用前須執行 `npm install llamaindex` 並設定 `OPENAI_API_KEY`。
LlamaIndex：產品、工程與評測AI 評分4343 LlamaIndex 與 LanceDB：以多模態 RAG 進行進階影片處理
LlamaIndex 結合 OpenAI GPT4V 與 LanceDB，示範以多模態 RAG 處理影片，檢索影像及音訊轉寫內容。流程每 5 秒擷取 1 個影格（約 160 個），將音訊轉成文字，再用 OpenAI CLIP 為文字和影像生成嵌入向量，存入 LanceDB VectorStore。
LlamaIndex：產品、工程與評測AI 評分5151 LlamaIndex 示範如何以差分隱私生成合成資料，供跨網絡 RAG 檢索
LlamaIndex 示範以差分隱私將敏感資料轉成合成資料，再透過 NetworkRetriever 讓多個貢獻者跨網絡檢索。在包含 1,200 個樣本、24 種疾病標籤的 Symptom2Disease 示例中，NetworkRetriever 的 hit rate 和 mean reciprocal rank 高於單一貢獻者檢索器。
LlamaIndex：產品、工程與評測AI 評分5353 Protect AI 示範如何以 LLM Guard 和 LlamaIndex 加固 RAG
Protect AI 示範將 LLM Guard 整合至 LlamaIndex 建構的 RAG 應用，掃描輸入文件與模型輸出中的惡意內容。示例以藏於候選人履歷白字中的提示詞注入作測試，並為簡化流程在檢索階段掃描文件。文中指出文件理想上應在匯入前掃描，並需檢查從 API 即時檢索的資料。
LlamaIndex：產品、工程與評測AI 評分6363 教學：使用 LlamaIndex 與 llamafile 建立本機私隱研究助理
Mozilla 的客座文章示範使用 llamafile 在本機執行大語言模型，並配合 LlamaIndex 建立本機 RAG 研究助理。示例以同一個 llamafile 同時作為大語言模型和嵌入向量後端，將本機檔案與 Wikipedia 頁面建立向量索引，再透過 RAG 回答問題。整個助理在本機運行，毋須註冊雲端服務、支付 API 呼叫費用或把資料傳給第三方。
LlamaIndex：產品、工程與評測AI 評分4747 使用 MultiOn 與 LlamaIndex 自動化網上任務
MultiOn 與 LlamaIndex 的整合示例展示如何以 AI 智能體自動處理網上任務及電郵流程。示例以 OpenAIAgent 結合瀏覽器與 Gmail 搜尋工具，搜尋、摘要及開啟郵件，再根據郵件串起草回覆。
LlamaIndex：產品、工程與評測AI 評分5656 LlamaIndex 如何自訂 Property Graph Index：實作實體去重與自訂檢索器
LlamaIndex 的 Property Graph Index 教程示範以 schema 引導抽取來建構知識圖譜，並加入實體去重與自訂檢索器，以提高 GraphRAG 準確度。示例使用 Diffbot 新聞資料集中的 250 篇文章建圖，使用 GPT-4o 約需 7 分鐘；去重結合嵌入向量相似度與詞距，自訂檢索器則先抽取查詢中的實體，再逐一使用 VectorContextRetriever。
LlamaIndex：產品、工程與評測AI 評分4242 使用 LlamaParse 高效優化 RAG 流程的分塊大小
LlamaParse 提供索引複製、分塊視覺化與快速迭代功能，協助開發者測試和調整 RAG 流程的分塊大小，無須手動管理資料儲存或進行複雜重新索引。示例以 512 tokens 為基準，改用 Page 分段及 None 分塊設定後，回答更完整涵蓋 SWE-bench 的特徵。
LlamaIndex：產品、工程與評測AI 評分5656 使用 LlamaIndex 和 Azure OpenAI 構建無伺服器 RAG 應用程式指南
LlamaIndex 的指南介紹如何使用 LlamaIndex 和 Azure OpenAI，在 Microsoft Azure 上構建無伺服器 RAG 應用程式。
LlamaIndex：產品、工程與評測AI 評分3535 開發者專案聚焦：以 LlamaIndex 和 NVIDIA NIM 打造 AI 銷售助理
NVIDIA 使用 LlamaIndex 與 NVIDIA NIM 為銷售代表打造 AI 銷售助理，支援內部知識檢索、翻譯及撰寫電郵等任務。系統按查詢類型將問題交予 Llama 3.1 405b，或以 Llama 3.1 70b 執行多來源 RAG，以較快、較低成本處理大量文件。Chainlit 提供聊天介面，RAG 資料來源包括內部文件庫、NVIDIA 網站及公開互聯網。
LlamaIndex：產品、工程與評測AI 評分3030 OilyRAGs：打造由 RAG 驅動的 AI 維修技工助手
Jeff Davis 以 LlamaIndex 建成 OilyRAGs，這款多模態、免提式 RAG 維修技工助手的原型聚焦船艇維修。它可用手機辨識引擎型號、診斷問題及查詢零件，並生成數碼表格；作者稱操作速度提升 6,000%。該原型在 LlamaIndex 的 RAG-A-THON 獲第三名，數據可供 RAG 系統日後查詢。
LlamaIndex：產品、工程與評測AI 評分4646 使用 LlamaIndex 與 Memgraph 建構知識圖譜
Memgraph 示範如何透過 LlamaIndex 將非結構化文字建成可用自然語言查詢的知識圖譜。範例以 Charles Darwin 傳記抽取實體與關係，並透過查詢得出 Alfred Russel Wallace 是其合作者。
LlamaIndex：產品、工程與評測AI 評分5252 LlamaParse 如何結合 SharePoint 權限實現 RAG 內容檢索
LlamaParse 的 SharePoint 整合支援權限感知檢索，可將 SharePoint 的細粒度存取控制用於 RAG 應用中的文件存取。建立索引並同步文件後，可在 chunks 預覽查看 allowed_siteUser_ids 等權限欄位。更新 SharePoint 檔案的共享對象並再次同步，chunks 預覽中的允許使用者清單會隨之變更。
LlamaIndex：產品、工程與評測AI 評分5353 LlamaIndex 拆解 NVIDIA NIM microservices 網誌創作文件研究助手的多智能體架構
LlamaIndex 與 NVIDIA 合作設計並發布 NVIDIA AI Blueprint，提供一套以智能體驅動 RAG 研究、撰寫及修訂網誌文章的多智能體系統。
LlamaIndex：產品、工程與評測AI 評分5858 如何用 LlamaIndex Workflows 構建知識圖譜智能體
作者以 LlamaIndex Workflows 實作面向 Neo4j 知識圖譜的 text2cypher 智能體，展示查詢生成、失敗重試、結果評估與迭代規劃流程。
LlamaIndex：產品、工程與評測AI 評分3131 案例研究：Caidera.ai 如何藉助 LlamaIndex 加速生命科學市場推廣
Caidera.ai 採用 LlamaIndex 建構生命科學市場推廣自動化多智能體系統，處理科學資料擷取、內容生成及合規檢查。產品仍處於 beta 階段，早期採用者回報活動建立時間減少 70%、轉換率最高提升 2x、活動開發所需資源減少 40%，合規流程加快 3x。
LlamaIndex：產品、工程與評測AI 評分5656 LlamaParse 解析 PDF 實作指南
LlamaIndex 示範如何用 LlamaParse 解析 PDF，並將文件內容轉成供 LLM 應用使用的結構化資料。Python 範例展示如何輸出 Markdown、解析表格，並啟用 auto mode 擷取圖表；解析設定亦可指定頁碼、排除頁面區域或加入提示詞。提取結果可進一步存入向量資料庫。
LlamaIndex：產品、工程與評測AI 評分5656 超越聊天機械人：企業如何採用智能體文件工作流（ADW）
LlamaIndex 將 Agentic Document Workflow（ADW）作為企業文件流程的參考架構，以 Parse、Retrieve、Reason、Act 四階段把文件處理連接至業務動作，目標是超越「與文件聊天」原型。
LlamaIndex：產品、工程與評測AI 評分4747 LlamaIndex：靈活而不失穩的有效 AI 智能體設計模式
LlamaIndex 主張以 Workflows 設計 AI 智能體，在結構化執行與 LLM 自主決策之間取得平衡。Workflows 是支援 Python 和 TypeScript 的事件式系統，可編排智能體執行，並構建鏈式、分支、循環及扇出流程。文章建議將結構用於關鍵業務邏輯、易出錯操作和結構化輸出，將自主性用於非結構化輸入及新情況。
LlamaIndex：產品、工程與評測AI 評分3939 LlamaParse 擴展企業級 RAG 的 4 個方法
LlamaIndex 分享 LlamaParse 擴展企業級 RAG 的四項實務要點：多租户負載調度、存取控制、文件解析與故障處理。平台託管調度控制可處理不同用户的負載差異；資料來源連接器會把檔案權限作為 metadata 寫入向量資料庫，供檢索按權限篩選。LlamaParse 保留文件結構、將表格轉為 Markdown 並提取圖片；資料匯入亦須應對第三方 AI 服務的限流、延遲和停機。
LlamaIndex：產品、工程與評測AI 評分4747 LlamaIndex：甚麼是上下文工程，以及可考慮的技巧
LlamaIndex 闡釋上下文工程：為 AI 智能體挑選並整理相關資訊，以填充 LLM 的上下文窗口，而非只設計提示詞或處理 RAG 檢索。上下文可包括系統提示詞、用户輸入、短期及長期記憶、知識庫資料、工具定義與回應、結構化輸出及全局狀態。文章亦討論知識庫或工具的選擇，以及以摘要壓縮和排序，在有限的上下文窗口內保留相關資訊。
LlamaIndex：產品、工程與評測AI 評分4949 使用 DeepEval 和 LlamaIndex 評估 RAG
DeepEval 與 LlamaIndex 的示例展示如何評估 RAG 流程，檢視生成答案及檢索內容的品質。示例採用 Answer Relevancy、Faithfulness 和 Contextual Precision，分別評估答案相關性、事實忠實度與檢索排序。DeepEval 提供 50+ 預置指標及自訂指標建構器，可依評測分數調整模型、提示詞模板、top-K 設定和嵌入模型。
LlamaIndex：產品、工程與評測AI 評分3434 超越 OCR：LLM 如何革新企業文件處理中的 PDF 解析
LLM 正革新企業 PDF 解析，從單純讀取文字轉向理解文件版面與內容；LlamaParse 利用視覺語言模型處理文字和視覺元素，並保留文件結構。平台可處理表格、掃描文件、表單及技術圖紙，並透過 LlamaExtract 輸出 Markdown、JSON、XML 或自訂格式。服務提供免費及付費方案，實施指南涵蓋文件盤點、試點、擴展及正式部署。
LlamaIndex：產品、工程與評測AI 評分4747 使用 Oxylabs 與 LlamaIndex 構建更智能的 AI 智能體指南
Oxylabs 與 LlamaIndex 的整合指南示範如何設定專用讀取器，並構建可透過 Google 搜尋取得即時網頁資料的 AI 智能體。整合提供 Google、Amazon、YouTube 的資料讀取器，也支援一般網站抓取，並可解析 HTML、應對反抓取措施。範例使用 OpenAI 的 gpt-4o-mini，文章指出此方案可降低頻繁網頁搜尋的成本。
LlamaIndex：產品、工程與評測AI 評分4545 用文件智能體自動化工作流程：使用 LlamaParse 建構具上下文感知能力 AI 的完整教學
LlamaIndex 教學示範如何以 LlamaParse Index 配合開源智能體框架，建立可檢索企業文件並回答複雜問題的文件智能體。示例使用 JPMorgan Chase 存款帳户披露文件及利率協議，結合 Claude Sonnet 4、文件查詢工具和計算器，處理透支費用等多步推理任務。
LlamaIndex：產品、工程與評測AI 評分5454 如何透過 Bright Data 與 LlamaIndex 為 AI 智能體接入網頁資料
LlamaIndex 教程示範透過 Bright Data 工具為 LlamaIndex 的 AI 智能體接入網頁資料，支援按需取得更新資訊。範例以 `BrightDataToolSpec` 和 `FunctionAgent` 配置工具，展示網頁抓取、搜尋、結構化資料讀取及截圖，並提供完整 Python 程式碼。