使用 LlamaIndex 與 Zilliz Cloud Pipelines 構建可擴展的 RAG 應用
LlamaIndex 與 Zilliz Cloud Pipelines 整合,讓開發者以託管檢索服務構建可擴展的 RAG 應用。示範以 30 行程式碼構建支援 metadata filtering 的多租户 RAG 聊天機械人,並可不改程式碼由一名用户擴展至數百萬名用户。
LlamaIndex 與 Zilliz Cloud Pipelines 整合,讓開發者以託管檢索服務構建可擴展的 RAG 應用。示範以 30 行程式碼構建支援 metadata filtering 的多租户 RAG 聊天機械人,並可不改程式碼由一名用户擴展至數百萬名用户。
LlamaIndex 的技術指南示範如何將 Tonic Validate 接入 LlamaIndex,並透過 pytest 和 GitHub Actions 建立 RAG 整合測試,以追蹤回答品質變化。
LlamaIndex 發佈 v0.10.0,將核心功能與整合、模板拆分為獨立套件,並棄用 ServiceContext。新設的 `llama-index-core` 收納核心抽象,數百項整合和模板改為獨立套件,同時保留 `llama_index` 命名空間匯入;使用者可直接傳入參數,或透過全域 `Settings` 設定。
LlamaIndex 宣佈推出 LlamaParse 文件解析服務,並介紹面向大語言模型及 RAG 應用的託管資料導入與檢索 API。解析器針對含表格、圖表等嵌入物件的複雜 PDF,可輸出保留語義結構的 Markdown,並接入 LlamaIndex 的資料導入與檢索流程。公開預覽目前支援 PDF,每日用量上限為 1k 頁;託管 API 則以私有預覽方式開放予有限的企業設計合作夥伴。
LlamaIndex 推出 llama-index-networks 擴充套件,讓多個建基於外部資料來源的 RAG 組成可供查詢的網絡。資料供應方可用 ContributorService 暴露 QueryEngine,查詢方則用 NetworkQueryEngine 連接多個服務;每次查詢會送往所有 contributors,再綜合回應。
Langfuse 宣佈與 LlamaIndex 推出一鍵整合,讓 RAG 應用可在 Langfuse 中查看追蹤資料。
Mozilla 的客座文章示範使用 llamafile 在本機執行大語言模型,並配合 LlamaIndex 建立本機 RAG 研究助理。示例以同一個 llamafile 同時作為大語言模型和嵌入向量後端,將本機檔案與 Wikipedia 頁面建立向量索引,再透過 RAG 回答問題。整個助理在本機運行,毋須註冊雲端服務、支付 API 呼叫費用或把資料傳給第三方。
LlamaIndex 提供 Azure Code Interpreter 工具,讓智能體透過 Azure Container Apps dynamic sessions 沙箱執行 LLM 生成的程式碼。文章示範如何設定工具並接入 ReActAgent,讓智能體查詢西雅圖當前時間,以及讀取、排序和下載 CSV 檔案。
MultiOn 與 LlamaIndex 的整合示例展示如何以 AI 智能體自動處理網上任務及電郵流程。示例以 OpenAIAgent 結合瀏覽器與 Gmail 搜尋工具,搜尋、摘要及開啟郵件,再根據郵件串起草回覆。
LlamaIndex 發佈開源框架 llama-agents 的 alpha 版本,旨在簡化多智能體 AI 系統的構建、迭代與部署,並將智能體轉為生產環境微服務。
Arize AI 與 LlamaIndex 推出 LlamaTrace,這是一個原生支援 LlamaIndex 與 Arize 生態系的大語言模型追蹤及可觀測性託管平台。
Scaleport.ai 採用 LlamaParse 加快 AI 應用開發,並改善客户互動與銷售成果。團隊可在需求界定階段製作技術原型,即時展示實際價值;LlamaParse 在多項 OCR 任務上勝過 GPT-4 vision。為一名客户開發等效應用時,開發工時較採用 LlamaParse 前減少約 50-60%。
LlamaIndex 發佈 Python 版 0.11,新增以事件驅動架構構建生成式 AI 應用的 Workflows,以及 Instrumentation 功能。
LlamaIndex 的指南介紹如何使用 LlamaIndex 和 Azure OpenAI,在 Microsoft Azure 上構建無伺服器 RAG 應用程式。
LlamaIndex 發佈 llama-deploy,讓以 LlamaIndex Workflows 建立的智能體工作流可透過微服務部署及擴展。系統由訊息佇列、控制平面、協調器及工作流服務組成,並支援服務獨立擴展、重試和故障處理。
NVIDIA 使用 LlamaIndex 與 NVIDIA NIM 為銷售代表打造 AI 銷售助理,支援內部知識檢索、翻譯及撰寫電郵等任務。系統按查詢類型將問題交予 Llama 3.1 405b,或以 Llama 3.1 70b 執行多來源 RAG,以較快、較低成本處理大量文件。Chainlit 提供聊天介面,RAG 資料來源包括內部文件庫、NVIDIA 網站及公開互聯網。
Memgraph 示範如何透過 LlamaIndex 將非結構化文字建成可用自然語言查詢的知識圖譜。範例以 Charles Darwin 傳記抽取實體與關係,並透過查詢得出 Alfred Russel Wallace 是其合作者。
Caidera.ai 採用 LlamaIndex 建構生命科學市場推廣自動化多智能體系統,處理科學資料擷取、內容生成及合規檢查。產品仍處於 beta 階段,早期採用者回報活動建立時間減少 70%、轉換率最高提升 2x、活動開發所需資源減少 40%,合規流程加快 3x。
LlamaIndex 示範如何用 LlamaParse 解析 PDF,並將文件內容轉成供 LLM 應用使用的結構化資料。Python 範例展示如何輸出 Markdown、解析表格,並啟用 auto mode 擷取圖表;解析設定亦可指定頁碼、排除頁面區域或加入提示詞。提取結果可進一步存入向量資料庫。
LlamaIndex 主張以 Workflows 設計 AI 智能體,在結構化執行與 LLM 自主決策之間取得平衡。Workflows 是支援 Python 和 TypeScript 的事件式系統,可編排智能體執行,並構建鏈式、分支、循環及扇出流程。文章建議將結構用於關鍵業務邏輯、易出錯操作和結構化輸出,將自主性用於非結構化輸入及新情況。
Solace 平台現已全面整合至 LlamaDeploy,並可作為智能體間非同步事件分發的事件訊息代理。LlamaDeploy 原有選項包括 Kafka、Redis、Rocket MQ,現亦支援 Solace。兩者結合可在 10 分鐘內建立適用於 AI 的事件網格;Solace 亦提供免費及付費方案。
LlamaIndex 的 2025-05-06 電子報分享智能體建置、多語言多模態 RAG、文件處理及部署框架的更新。內容包括開源 PapersChat、支援 Solace message broker 的 LlamaDeploy,以及 Ollama 在 LlamaIndex 中支援 Qwen 3。
LlamaIndex 為 LlamaParse 發佈 2025 年 5 月更新,新增 OpenAI GPT 4.1、Google Gemini 2.5 Pro 支援及頁面方向與歪斜自動校正。
LlamaIndex 正式發佈 Workflows 1.0,這是供 Python 和 TypeScript 構建複雜多步驟 AI 智能體應用的輕量級框架。
LlamaIndex 分享 LlamaParse 擴展企業級 RAG 的四項實務要點:多租户負載調度、存取控制、文件解析與故障處理。平台託管調度控制可處理不同用户的負載差異;資料來源連接器會把檔案權限作為 metadata 寫入向量資料庫,供檢索按權限篩選。LlamaParse 保留文件結構、將表格轉為 Markdown 並提取圖片;資料匯入亦須應對第三方 AI 服務的限流、延遲和停機。
LlamaIndex 闡釋上下文工程:為 AI 智能體挑選並整理相關資訊,以填充 LLM 的上下文窗口,而非只設計提示詞或處理 RAG 檢索。上下文可包括系統提示詞、用户輸入、短期及長期記憶、知識庫資料、工具定義與回應、結構化輸出及全局狀態。文章亦討論知識庫或工具的選擇,以及以摘要壓縮和排序,在有限的上下文窗口內保留相關資訊。
LLM 正革新企業 PDF 解析,從單純讀取文字轉向理解文件版面與內容;LlamaParse 利用視覺語言模型處理文字和視覺元素,並保留文件結構。平台可處理表格、掃描文件、表單及技術圖紙,並透過 LlamaExtract 輸出 Markdown、JSON、XML 或自訂格式。服務提供免費及付費方案,實施指南涵蓋文件盤點、試點、擴展及正式部署。
LlamaIndex 教學示範如何以 LlamaParse Index 配合開源智能體框架,建立可檢索企業文件並回答複雜問題的文件智能體。示例使用 JPMorgan Chase 存款帳户披露文件及利率協議,結合 Claude Sonnet 4、文件查詢工具和計算器,處理透支費用等多步推理任務。
StackAI 將 LlamaParse API 整合至智能體開發平台,作為文件匯入核心步驟,為企業文件智能體提供高準確度檢索。LlamaParse 已為企業客户處理超過 1 million 份文件,支援保險、金融及法律領域的知識庫。採用後,StackAI 的下游智能體準確度提升,尤其針對掃描及低質素文件,文件預處理的開發工作亦有所減少。
LlamaIndex 電子報匯整產品與工程更新,涵蓋 llamactl、Workflow Debugger 及 Text-to-SQL 工作流。llamactl 可在本機開發及執行 LlamaAgents;Workflow Debugger 可即時檢視事件記錄、比較執行結果並監察工作流。
LlamaIndex 開放 LlamaAgents 預覽,結合 LlamaParse 文件處理能力與 Agent Workflows 編排,供開發者構建文件智能體。
LlamaIndex 示範以 Agent Workflows、OpenTelemetry 和 Jaeger,為財務文件分類及資料抽取流程建立可觀測性。範例用 LlamaClassify 將文件分類為損益表、現金流量表或資產負債表,再按類型以 LlamaExtract 擷取結構化資料;Jaeger 可查看一條 trace 中收集的五個 spans 和各步耗時。
LlamaIndex 示範如何結合 AgentFS、LlamaParse、Claude Agent SDK 和 LlamaIndex Workflows,為 Claude Code 建立受控的檔案存取環境。
LlamaIndex 電子報宣佈 LlamaParse v2,簡化設定並降低最高 50% 成本,另推出可自動分隔文件的 LlamaSplit Beta API。內容亦涵蓋採用虛擬檔案系統隔離的 Claude 安全編碼智能體、由 Gemini 3 Flash 驅動的檔案系統探索智能體,以及擴展支援 OpenAI Codex 的 AgentFS 整合。
LlamaIndex 推出新版 llama-cloud SDK 及 LlamaParse API v2,SDK 支援 Python 和 TypeScript,並將 v2 列為新專案建議路徑。
LlamaParse 與 LlamaAgents 結合,構建處理後勤文件的多步驟智能體工作流程。LlamaParse 提供 LlamaSplit、LlamaClassify、LlamaExtract 及保留語義結構的文件解析;LlamaAgents Workflows 負責協調多份文件並行處理,並支援人工介入。
LlamaIndex 推出 LlamaAgents Builder beta,讓 LlamaParse 使用者以自然語言描述文件處理需求,生成可部署的智能體工作流。
LlamaIndex 示範使用 LlamaAgents Builder 建立私募股權交易尋源智能體,用於分類交易並擷取初步評估指標。智能體會把交易歸入 buyout、growth 或 minority,並提取 Revenue、EBITDA、Growth rate、ARR / MRR、Margins 和 Debt levels。
LlamaIndex 本期電子報介紹其由 RAG 框架發展為智能體文件處理平台,並聚焦 LlamaParse、耐久工作流程及文件解析工具更新。平台服務 300k+ 用户、支援 50+ 格式;DBOS 整合提供自動步驟持久化與崩潰復原,另有簡報搜尋及 PDF 圖表解析工具。
LlamaParse 以多模態模型解析法律證據開示文件,可處理低畫質掃描件,並理解頁面版面、圖片、圖表及表格。它支援自訂解析指示,API 可回傳「markdown」、「text」及「items」等輸出。文章建議這類文件使用 `tier="agentic_plus"`,該層級針對複雜版面與視覺內容優化;所有 tier 均採用高解析度 OCR。