跳到正文

#RAG

今日 8 條
10月3日週六
  1. LlamaIndex:產品、工程與評測40

    RAGformation:自動生成雲端配置

    RAGformation 是一款開源 AI 工具,可根據用户的自然語言需求,自動選擇雲端服務、設計架構並估算價格。它運用 RAG 與 Llama Index Workflows 生成架構流程圖,並按需求調整推薦服務和配置。用户確認方案後,工具會生成包含流程圖、定價及所選服務摘要的報告,程式碼可在 GitHub 取得。

  2. LlamaIndex:產品、工程與評測52

    LlamaParse 如何結合 SharePoint 權限實現 RAG 內容檢索

    LlamaParse 的 SharePoint 整合支援權限感知檢索,可將 SharePoint 的細粒度存取控制用於 RAG 應用中的文件存取。建立索引並同步文件後,可在 chunks 預覽查看 allowed_siteUser_ids 等權限欄位。更新 SharePoint 檔案的共享對象並再次同步,chunks 預覽中的允許使用者清單會隨之變更。

  3. LlamaIndex:產品、工程與評測38

    LlamaIndex 2024-12-17 電子報

    LlamaIndex 推出文件智能體工作流程教學系列,涵蓋法律文件、發票及患者病例摘要。LlamaParse 新增可遵守 SharePoint 權限的 RAG 智能體內置支援,並可整合 Azure 企業資料來源、維持文件層級存取控制。LlamaIndex 亦為 Google 最新 Gemini 2.0 模型提供 day-0 支援。

  4. LlamaIndex:產品、工程與評測41

    LlamaReport 預覽版:將任何文件轉化為結構化報告

    LlamaReport 開放 beta,供部分早期用户將文件轉化為結構化報告。這款 API 優先工具支援上載來源文件與範本、規劃報告生成,並以 LLM 編輯報告;範本可採用 Markdown、提示詞或問卷。產品提供免費及付費方案,API 和 UI 預計於 early Q1 一般開放。

  5. LlamaIndex:產品、工程與評測43

    MCP 會淘汰向量搜尋嗎?

    MCP 不會取代向量搜尋:聯邦式 MCP 可讓智能體直接查詢結構化資料,但跨來源排序、延遲和供應商搜尋品質仍有限。企業資料中有 90% 是缺乏原生查詢 API 的 PDF、PPT、掃描檔和試算表,仍須經解析、抽取、分塊及索引;集中式檢索層則可快速查找語義相關內容。

  6. LlamaIndex:產品、工程與評測39

    LlamaParse 擴展企業級 RAG 的 4 個方法

    LlamaIndex 分享 LlamaParse 擴展企業級 RAG 的四項實務要點:多租户負載調度、存取控制、文件解析與故障處理。平台託管調度控制可處理不同用户的負載差異;資料來源連接器會把檔案權限作為 metadata 寫入向量資料庫,供檢索按權限篩選。LlamaParse 保留文件結構、將表格轉為 Markdown 並提取圖片;資料匯入亦須應對第三方 AI 服務的限流、延遲和停機。

  7. LlamaIndex:產品、工程與評測47

    LlamaIndex:甚麼是上下文工程,以及可考慮的技巧

    LlamaIndex 闡釋上下文工程:為 AI 智能體挑選並整理相關資訊,以填充 LLM 的上下文窗口,而非只設計提示詞或處理 RAG 檢索。上下文可包括系統提示詞、用户輸入、短期及長期記憶、知識庫資料、工具定義與回應、結構化輸出及全局狀態。文章亦討論知識庫或工具的選擇,以及以摘要壓縮和排序,在有限的上下文窗口內保留相關資訊。

  8. LlamaIndex:產品、工程與評測49

    使用 DeepEval 和 LlamaIndex 評估 RAG

    DeepEval 與 LlamaIndex 的示例展示如何評估 RAG 流程,檢視生成答案及檢索內容的品質。示例採用 Answer Relevancy、Faithfulness 和 Contextual Precision,分別評估答案相關性、事實忠實度與檢索排序。DeepEval 提供 50+ 預置指標及自訂指標建構器,可依評測分數調整模型、提示詞模板、top-K 設定和嵌入模型。

  9. LlamaIndex:產品、工程與評測34

    超越 OCR:LLM 如何革新企業文件處理中的 PDF 解析

    LLM 正革新企業 PDF 解析,從單純讀取文字轉向理解文件版面與內容;LlamaParse 利用視覺語言模型處理文字和視覺元素,並保留文件結構。平台可處理表格、掃描文件、表單及技術圖紙,並透過 LlamaExtract 輸出 Markdown、JSON、XML 或自訂格式。服務提供免費及付費方案,實施指南涵蓋文件盤點、試點、擴展及正式部署。

  10. LlamaIndex:產品、工程與評測45

    用文件智能體自動化工作流程:使用 LlamaParse 建構具上下文感知能力 AI 的完整教學

    LlamaIndex 教學示範如何以 LlamaParse Index 配合開源智能體框架,建立可檢索企業文件並回答複雜問題的文件智能體。示例使用 JPMorgan Chase 存款帳户披露文件及利率協議,結合 Claude Sonnet 4、文件查詢工具和計算器,處理透支費用等多步推理任務。

  11. LlamaIndex:產品、工程與評測38

    StackAI 使用 LlamaParse,為企業文件智能體提供高準確度檢索

    StackAI 將 LlamaParse API 整合至智能體開發平台,作為文件匯入核心步驟,為企業文件智能體提供高準確度檢索。LlamaParse 已為企業客户處理超過 1 million 份文件,支援保險、金融及法律領域的知識庫。採用後,StackAI 的下游智能體準確度提升,尤其針對掃描及低質素文件,文件預處理的開發工作亦有所減少。

  12. LlamaIndex:產品、工程與評測36

    LlamaIndex 電子報:2025-09-23

    LlamaIndex 本期電子報慶祝 LlamaParse 一週年,並介紹 SemTools 更新、文件處理指南及即將舉行的 Fullstack Agents Hackathon。SemTools 新增 workspace,使用 LanceDB 快取嵌入向量,使 1000 papers 的搜尋時間由數分鐘縮至數秒,並支援 npm 安裝。Hackathon 設有 $20k 獎金。

  13. LlamaIndex:產品、工程與評測50

    LlamaIndex:解析與擷取——理解文件處理的兩種基本方法

    文件處理中,解析會把文件轉成供 AI 使用、並保留內容、結構與脈絡的格式;擷取則依預設 schema 抽出指定欄位,輸出結構化資料。解析適用於搜尋問答、RAG,以及需要保留文件脈絡的場景;擷取則適用於填入資料庫、處理表單和自動化業務流程。擷取並非取代解析,而是建立在解析之上,須先將文件轉成機器可讀內容,再識別、驗證並整理目標欄位。

  14. LlamaIndex:產品、工程與評測65

    超越 OCR:DeepSeek-OCR 的視覺壓縮如何服務文件 AI

    LlamaIndex 解讀 DeepSeek-OCR 將文件圖像作為文字資訊的壓縮表示,並分析其與文件解析、LlamaParse 的關係。文中稱,論文示例把 1,000 個文字 tokens 壓至 100 個視覺 tokens,解碼準確率為 97%;20× 壓縮時準確率約為 60%。文章指出,RAG、文件問答和摘要等理解型用途可考慮視覺壓縮;若需要結構化資料、語義層級或精確文字操作,仍需文件解析。

  15. LlamaIndex:產品、工程與評測45

    LlamaIndex 電子報:2025-12-23

    LlamaIndex 電子報宣佈 LlamaParse v2,簡化設定並降低最高 50% 成本,另推出可自動分隔文件的 LlamaSplit Beta API。內容亦涵蓋採用虛擬檔案系統隔離的 Claude 安全編碼智能體、由 Gemini 3 Flash 驅動的檔案系統探索智能體,以及擴展支援 OpenAI Codex 的 AgentFS 整合。

  16. LlamaIndex:產品、工程與評測53

    LlamaIndex 指出檔案系統正成為智能體管理上下文的核心介面

    LlamaIndex 指出,智能體正以檔案及檔案系統管理長期對話、檢索外部上下文和載入技能,並將其視為重要的上下文介面。作者稱,實驗中配備檔案系統工具和語義搜尋的推理智能體可動態檢索上下文,而單靠檔案搜尋在中小型文件集合上亦勝過 naive semantic search(不計延遲)。

  17. LlamaIndex:產品、工程與評測38

    LlamaIndex 2026-03-10 電子報

    LlamaIndex 本期電子報介紹其由 RAG 框架發展為智能體文件處理平台,並聚焦 LlamaParse、耐久工作流程及文件解析工具更新。平台服務 300k+ 用户、支援 50+ 格式;DBOS 整合提供自動步驟持久化與崩潰復原,另有簡報搜尋及 PDF 圖表解析工具。

  18. LlamaIndex:產品、工程與評測37

    LlamaIndex 2026-03-31 電子報:推出 LiteSearch 並更新文件解析能力

    LlamaIndex 本期電子報宣佈推出 LiteSearch 本地文件檢索系統,並聚焦文件解析能力更新。LiteSearch 以 LiteParse 建構檢索流程,涵蓋解析、分塊、嵌入向量與向量儲存,無需外部依賴;電子報亦介紹 .docx 表格頁面定位改進,以及整合 Gemini 3.1 Live API 的語音助理示範。

  19. Cohere Labs:官方研究博客44

    大型語言模型在 RAG 中的檢索穩健性評估

    研究以涵蓋五個資料集、三類任務的 1,891 個樣本,評估 11 個 LLM 在實際 RAG 設定中的檢索穩健性;整體穩健性普遍偏高,但因任務而異。停用推理時,Qwen 和 GPT 模型的穩健性明顯下降,即使在單跳 QA 任務上亦然;把檢索文件作為工具回覆提供,則提升 Claude 模型表現、損害 Qwen 和 GPT 模型表現。研究指出,是否採用 RAG 仍須按個案判斷。

10月2日週五