跳到正文
10月3日週六
  1. LlamaIndex:產品、工程與評測58

    LlamaIndex 推出 Property Graph Index,擴展知識圖譜建模與查詢

    LlamaIndex 推出 Property Graph Index,以標記屬性圖表示擴展知識圖譜的建模、儲存與查詢能力。它支援 schema 引導、隱式及自由形式抽取,並可組合關鍵詞/同義詞、向量相似度、Cypher 查詢與自訂圖遍歷。圖譜節點預設會生成嵌入向量,底層儲存支援記憶體、磁碟及 Neo4j。

  2. LlamaIndex:產品、工程與評測56

    LlamaIndex 如何自訂 Property Graph Index:實作實體去重與自訂檢索器

    LlamaIndex 的 Property Graph Index 教程示範以 schema 引導抽取來建構知識圖譜,並加入實體去重與自訂檢索器,以提高 GraphRAG 準確度。示例使用 Diffbot 新聞資料集中的 250 篇文章建圖,使用 GPT-4o 約需 7 分鐘;去重結合嵌入向量相似度與詞距,自訂檢索器則先抽取查詢中的實體,再逐一使用 VectorContextRetriever。

  3. LlamaIndex:產品、工程與評測55

    LlamaParse 專為企業級 LLM 應用開發者打造

    LlamaIndex 已向用户廣泛提供 LlamaParse,面向企業級 LLM 和 RAG 應用,支援複雜文件解析、資料接入與檢索。它支援 50+ 種語言和 100+ 種文件格式,檢索可配置 hybrid search、reranking 和 metadata filtering。LlamaParse Playground 可在部署前測試和調整資料接入及檢索策略。

  4. LlamaIndex:產品、工程與評測63

    LlamaIndex 推出 LlamaExtract Beta,支援從非結構化文件抽取結構化資料

    LlamaIndex 宣佈推出 LlamaExtract Beta,這項託管服務可從非結構化文件推斷 schema,並按指定 schema 抽取結構化資料。用户可修改推斷出的 schema,或自行定義 schema;已有 schema 時,服務會逐份文件進行抽取。服務提供 UI 和 API,schema 推斷目前最多處理 5 個文件、每份最多 10 頁。

  5. LlamaIndex:產品、工程與評測63

    LlamaIndex 推出 workflows beta,提供事件驅動的複雜 AI 應用編排方式

    LlamaIndex 推出 workflows beta,讓複雜 AI 應用可透過事件驅動架構編排。工作流由 Python 函數步驟組成,步驟可用事件觸發迴圈、自我修正,並透過 Context 分享執行期間的狀態。功能亦支援非同步與 streaming,並提供可觀測性、工作流視覺化和逐步執行除錯。

  6. LlamaIndex:產品、工程與評測42

    使用 LlamaParse 高效優化 RAG 流程的分塊大小

    LlamaParse 提供索引複製、分塊視覺化與快速迭代功能,協助開發者測試和調整 RAG 流程的分塊大小,無須手動管理資料儲存或進行複雜重新索引。示例以 512 tokens 為基準,改用 Page 分段及 None 分塊設定後,回答更完整涵蓋 SWE-bench 的特徵。

  7. LlamaIndex:產品、工程與評測54

    LlamaParse 推出多模態 RAG 功能

    LlamaIndex 宣佈在企業級 RAG 平台 LlamaParse 推出多模態功能,讓開發者可在數分鐘內建立同時索引及檢索文字與圖像的 RAG 管線。啟用 Multi-Modal Indexing 後,系統會把頁面截圖與提取文字一併建立索引,並可透過 API 接入應用程式。

  8. LlamaIndex:產品、工程與評測55

    LlamaIndex 推出 LlamaParse Premium 文件解析模式

    LlamaIndex 推出 LlamaParse Premium,結合多模態模型與啟發式文本解析,處理複雜文件中的文本、表格和視覺內容。輸出可將文字、表格和圖像整理為結構化 Markdown,並把圖表轉成 Mermaid、公式輸出為 LaTeX,為所有圖像加上説明。

  9. LlamaIndex:產品、工程與評測42

    LlamaIndex 2024-10-01 電子報

    LlamaIndex 已整合 MistralAI 的 Pixtral 12B,提升圖表分析、圖像理解及圖像轉程式碼能力。本期亦提供以 OpenAI o1 和 LlamaParse 處理多工作表 Excel 的進階 RAG 指南,以及使用 LlamaParse 建立市場研究報告多模態 RAG 流程的教學。

  10. LlamaIndex:產品、工程與評測32

    LlamaIndex 2024-10-22 電子報

    LlamaIndex 本週推出 Mistral-3B 和 Mistral-8B 的 day-0 整合,並分享以 LlamaParse 從 ArXiv 論文知識庫生成綜述報告的遞迴式智能體工作流程。另有動態 few-shot prompting 專案,按查詢檢索相關示例以改善客户支援和 text-to-SQL,並列出多項 RAG、智能體應用案例及招聘職位。

  11. LlamaIndex:產品、工程與評測35

    開發者專案聚焦:以 LlamaIndex 和 NVIDIA NIM 打造 AI 銷售助理

    NVIDIA 使用 LlamaIndex 與 NVIDIA NIM 為銷售代表打造 AI 銷售助理,支援內部知識檢索、翻譯及撰寫電郵等任務。系統按查詢類型將問題交予 Llama 3.1 405b,或以 Llama 3.1 70b 執行多來源 RAG,以較快、較低成本處理大量文件。Chainlit 提供聊天介面,RAG 資料來源包括內部文件庫、NVIDIA 網站及公開互聯網。

  12. LlamaIndex:產品、工程與評測30

    OilyRAGs:打造由 RAG 驅動的 AI 維修技工助手

    Jeff Davis 以 LlamaIndex 建成 OilyRAGs,這款多模態、免提式 RAG 維修技工助手的原型聚焦船艇維修。它可用手機辨識引擎型號、診斷問題及查詢零件,並生成數碼表格;作者稱操作速度提升 6,000%。該原型在 LlamaIndex 的 RAG-A-THON 獲第三名,數據可供 RAG 系統日後查詢。

  13. LlamaIndex:產品、工程與評測40

    RAGformation:自動生成雲端配置

    RAGformation 是一款開源 AI 工具,可根據用户的自然語言需求,自動選擇雲端服務、設計架構並估算價格。它運用 RAG 與 Llama Index Workflows 生成架構流程圖,並按需求調整推薦服務和配置。用户確認方案後,工具會生成包含流程圖、定價及所選服務摘要的報告,程式碼可在 GitHub 取得。

  14. LlamaIndex:產品、工程與評測52

    LlamaParse 如何結合 SharePoint 權限實現 RAG 內容檢索

    LlamaParse 的 SharePoint 整合支援權限感知檢索,可將 SharePoint 的細粒度存取控制用於 RAG 應用中的文件存取。建立索引並同步文件後,可在 chunks 預覽查看 allowed_siteUser_ids 等權限欄位。更新 SharePoint 檔案的共享對象並再次同步,chunks 預覽中的允許使用者清單會隨之變更。

  15. LlamaIndex:產品、工程與評測38

    LlamaIndex 2024-12-17 電子報

    LlamaIndex 推出文件智能體工作流程教學系列,涵蓋法律文件、發票及患者病例摘要。LlamaParse 新增可遵守 SharePoint 權限的 RAG 智能體內置支援,並可整合 Azure 企業資料來源、維持文件層級存取控制。LlamaIndex 亦為 Google 最新 Gemini 2.0 模型提供 day-0 支援。

  16. LlamaIndex:產品、工程與評測41

    LlamaReport 預覽版:將任何文件轉化為結構化報告

    LlamaReport 開放 beta,供部分早期用户將文件轉化為結構化報告。這款 API 優先工具支援上載來源文件與範本、規劃報告生成,並以 LLM 編輯報告;範本可採用 Markdown、提示詞或問卷。產品提供免費及付費方案,API 和 UI 預計於 early Q1 一般開放。

  17. LlamaIndex:產品、工程與評測41

    LlamaIndex 電子報 2024-12-24:推出 LlamaReport 預覽版,LlamaParse 新增音訊轉文字

    LlamaIndex 推出 LlamaReport 預覽版,可將文件資料庫轉為可自訂報告;LlamaParse 新增音訊轉文字功能,並支援處理 PDF 和試算表。LlamaIndex 亦發布智能體文件工作流程 Notebook,示範簡化特定領域業務邏輯、處理汽車保險索償及統一供應商發票單位。

  18. LlamaIndex:產品、工程與評測43

    MCP 會淘汰向量搜尋嗎?

    MCP 不會取代向量搜尋:聯邦式 MCP 可讓智能體直接查詢結構化資料,但跨來源排序、延遲和供應商搜尋品質仍有限。企業資料中有 90% 是缺乏原生查詢 API 的 PDF、PPT、掃描檔和試算表,仍須經解析、抽取、分塊及索引;集中式檢索層則可快速查找語義相關內容。

  19. LlamaIndex:產品、工程與評測39

    LlamaParse 擴展企業級 RAG 的 4 個方法

    LlamaIndex 分享 LlamaParse 擴展企業級 RAG 的四項實務要點:多租户負載調度、存取控制、文件解析與故障處理。平台託管調度控制可處理不同用户的負載差異;資料來源連接器會把檔案權限作為 metadata 寫入向量資料庫,供檢索按權限篩選。LlamaParse 保留文件結構、將表格轉為 Markdown 並提取圖片;資料匯入亦須應對第三方 AI 服務的限流、延遲和停機。

  20. LlamaIndex:產品、工程與評測47

    LlamaIndex:甚麼是上下文工程,以及可考慮的技巧

    LlamaIndex 闡釋上下文工程:為 AI 智能體挑選並整理相關資訊,以填充 LLM 的上下文窗口,而非只設計提示詞或處理 RAG 檢索。上下文可包括系統提示詞、用户輸入、短期及長期記憶、知識庫資料、工具定義與回應、結構化輸出及全局狀態。文章亦討論知識庫或工具的選擇,以及以摘要壓縮和排序,在有限的上下文窗口內保留相關資訊。

  21. LlamaIndex:產品、工程與評測49

    使用 DeepEval 和 LlamaIndex 評估 RAG

    DeepEval 與 LlamaIndex 的示例展示如何評估 RAG 流程,檢視生成答案及檢索內容的品質。示例採用 Answer Relevancy、Faithfulness 和 Contextual Precision,分別評估答案相關性、事實忠實度與檢索排序。DeepEval 提供 50+ 預置指標及自訂指標建構器,可依評測分數調整模型、提示詞模板、top-K 設定和嵌入模型。

  22. LlamaIndex:產品、工程與評測34

    超越 OCR:LLM 如何革新企業文件處理中的 PDF 解析

    LLM 正革新企業 PDF 解析,從單純讀取文字轉向理解文件版面與內容;LlamaParse 利用視覺語言模型處理文字和視覺元素,並保留文件結構。平台可處理表格、掃描文件、表單及技術圖紙,並透過 LlamaExtract 輸出 Markdown、JSON、XML 或自訂格式。服務提供免費及付費方案,實施指南涵蓋文件盤點、試點、擴展及正式部署。

  23. LlamaIndex:產品、工程與評測45

    用文件智能體自動化工作流程:使用 LlamaParse 建構具上下文感知能力 AI 的完整教學

    LlamaIndex 教學示範如何以 LlamaParse Index 配合開源智能體框架,建立可檢索企業文件並回答複雜問題的文件智能體。示例使用 JPMorgan Chase 存款帳户披露文件及利率協議,結合 Claude Sonnet 4、文件查詢工具和計算器,處理透支費用等多步推理任務。

  24. LlamaIndex:產品、工程與評測38

    StackAI 使用 LlamaParse,為企業文件智能體提供高準確度檢索

    StackAI 將 LlamaParse API 整合至智能體開發平台,作為文件匯入核心步驟,為企業文件智能體提供高準確度檢索。LlamaParse 已為企業客户處理超過 1 million 份文件,支援保險、金融及法律領域的知識庫。採用後,StackAI 的下游智能體準確度提升,尤其針對掃描及低質素文件,文件預處理的開發工作亦有所減少。

  25. LlamaIndex:產品、工程與評測36

    LlamaIndex 電子報:2025-09-23

    LlamaIndex 本期電子報慶祝 LlamaParse 一週年,並介紹 SemTools 更新、文件處理指南及即將舉行的 Fullstack Agents Hackathon。SemTools 新增 workspace,使用 LanceDB 快取嵌入向量,使 1000 papers 的搜尋時間由數分鐘縮至數秒,並支援 npm 安裝。Hackathon 設有 $20k 獎金。