跳到正文

#部署/工程

今日 16 條
10月3日週六
  1. LlamaIndex:產品、工程與評測62

    LlamaIndex 推出 LlamaParse 文件解析服務及託管資料導入與檢索 API

    LlamaIndex 宣佈推出 LlamaParse 文件解析服務,並介紹面向大語言模型及 RAG 應用的託管資料導入與檢索 API。解析器針對含表格、圖表等嵌入物件的複雜 PDF,可輸出保留語義結構的 Markdown,並接入 LlamaIndex 的資料導入與檢索流程。公開預覽目前支援 PDF,每日用量上限為 1k 頁;託管 API 則以私有預覽方式開放予有限的企業設計合作夥伴。

  2. LlamaIndex:產品、工程與評測63

    教學:使用 LlamaIndex 與 llamafile 建立本機私隱研究助理

    Mozilla 的客座文章示範使用 llamafile 在本機執行大語言模型,並配合 LlamaIndex 建立本機 RAG 研究助理。示例以同一個 llamafile 同時作為大語言模型和嵌入向量後端,將本機檔案與 Wikipedia 頁面建立向量索引,再透過 RAG 回答問題。整個助理在本機運行,毋須註冊雲端服務、支付 API 呼叫費用或把資料傳給第三方。

  3. LlamaIndex:產品、工程與評測35

    開發者專案聚焦:以 LlamaIndex 和 NVIDIA NIM 打造 AI 銷售助理

    NVIDIA 使用 LlamaIndex 與 NVIDIA NIM 為銷售代表打造 AI 銷售助理,支援內部知識檢索、翻譯及撰寫電郵等任務。系統按查詢類型將問題交予 Llama 3.1 405b,或以 Llama 3.1 70b 執行多來源 RAG,以較快、較低成本處理大量文件。Chainlit 提供聊天介面,RAG 資料來源包括內部文件庫、NVIDIA 網站及公開互聯網。

  4. LlamaIndex:產品、工程與評測56

    LlamaParse 解析 PDF 實作指南

    LlamaIndex 示範如何用 LlamaParse 解析 PDF,並將文件內容轉成供 LLM 應用使用的結構化資料。Python 範例展示如何輸出 Markdown、解析表格,並啟用 auto mode 擷取圖表;解析設定亦可指定頁碼、排除頁面區域或加入提示詞。提取結果可進一步存入向量資料庫。

  5. LlamaIndex:產品、工程與評測47

    LlamaIndex:靈活而不失穩的有效 AI 智能體設計模式

    LlamaIndex 主張以 Workflows 設計 AI 智能體,在結構化執行與 LLM 自主決策之間取得平衡。Workflows 是支援 Python 和 TypeScript 的事件式系統,可編排智能體執行,並構建鏈式、分支、循環及扇出流程。文章建議將結構用於關鍵業務邏輯、易出錯操作和結構化輸出,將自主性用於非結構化輸入及新情況。

  6. LlamaIndex:產品、工程與評測39

    LlamaParse 擴展企業級 RAG 的 4 個方法

    LlamaIndex 分享 LlamaParse 擴展企業級 RAG 的四項實務要點:多租户負載調度、存取控制、文件解析與故障處理。平台託管調度控制可處理不同用户的負載差異;資料來源連接器會把檔案權限作為 metadata 寫入向量資料庫,供檢索按權限篩選。LlamaParse 保留文件結構、將表格轉為 Markdown 並提取圖片;資料匯入亦須應對第三方 AI 服務的限流、延遲和停機。

  7. LlamaIndex:產品、工程與評測47

    LlamaIndex:甚麼是上下文工程,以及可考慮的技巧

    LlamaIndex 闡釋上下文工程:為 AI 智能體挑選並整理相關資訊,以填充 LLM 的上下文窗口,而非只設計提示詞或處理 RAG 檢索。上下文可包括系統提示詞、用户輸入、短期及長期記憶、知識庫資料、工具定義與回應、結構化輸出及全局狀態。文章亦討論知識庫或工具的選擇,以及以摘要壓縮和排序,在有限的上下文窗口內保留相關資訊。

  8. LlamaIndex:產品、工程與評測34

    超越 OCR:LLM 如何革新企業文件處理中的 PDF 解析

    LLM 正革新企業 PDF 解析,從單純讀取文字轉向理解文件版面與內容;LlamaParse 利用視覺語言模型處理文字和視覺元素,並保留文件結構。平台可處理表格、掃描文件、表單及技術圖紙,並透過 LlamaExtract 輸出 Markdown、JSON、XML 或自訂格式。服務提供免費及付費方案,實施指南涵蓋文件盤點、試點、擴展及正式部署。

  9. LlamaIndex:產品、工程與評測45

    用文件智能體自動化工作流程:使用 LlamaParse 建構具上下文感知能力 AI 的完整教學

    LlamaIndex 教學示範如何以 LlamaParse Index 配合開源智能體框架,建立可檢索企業文件並回答複雜問題的文件智能體。示例使用 JPMorgan Chase 存款帳户披露文件及利率協議,結合 Claude Sonnet 4、文件查詢工具和計算器,處理透支費用等多步推理任務。

  10. LlamaIndex:產品、工程與評測38

    StackAI 使用 LlamaParse,為企業文件智能體提供高準確度檢索

    StackAI 將 LlamaParse API 整合至智能體開發平台,作為文件匯入核心步驟,為企業文件智能體提供高準確度檢索。LlamaParse 已為企業客户處理超過 1 million 份文件,支援保險、金融及法律領域的知識庫。採用後,StackAI 的下游智能體準確度提升,尤其針對掃描及低質素文件,文件預處理的開發工作亦有所減少。

  11. LlamaIndex:產品、工程與評測45

    LlamaIndex 2025-10-21 電子報

    LlamaIndex 電子報匯整產品與工程更新,涵蓋 llamactl、Workflow Debugger 及 Text-to-SQL 工作流。llamactl 可在本機開發及執行 LlamaAgents;Workflow Debugger 可即時檢視事件記錄、比較執行結果並監察工作流。

  12. LlamaIndex:產品、工程與評測56

    LlamaIndex 示範如何為智能體文件工作流程建立可觀測性

    LlamaIndex 示範以 Agent Workflows、OpenTelemetry 和 Jaeger,為財務文件分類及資料抽取流程建立可觀測性。範例用 LlamaClassify 將文件分類為損益表、現金流量表或資產負債表,再按類型以 LlamaExtract 擷取結構化資料;Jaeger 可查看一條 trace 中收集的五個 spans 和各步耗時。

  13. LlamaIndex:產品、工程與評測45

    LlamaIndex 電子報:2025-12-23

    LlamaIndex 電子報宣佈 LlamaParse v2,簡化設定並降低最高 50% 成本,另推出可自動分隔文件的 LlamaSplit Beta API。內容亦涵蓋採用虛擬檔案系統隔離的 Claude 安全編碼智能體、由 Gemini 3 Flash 驅動的檔案系統探索智能體,以及擴展支援 OpenAI Codex 的 AgentFS 整合。

  14. LlamaIndex:產品、工程與評測38

    LlamaIndex 2026-03-10 電子報

    LlamaIndex 本期電子報介紹其由 RAG 框架發展為智能體文件處理平台,並聚焦 LlamaParse、耐久工作流程及文件解析工具更新。平台服務 300k+ 用户、支援 50+ 格式;DBOS 整合提供自動步驟持久化與崩潰復原,另有簡報搜尋及 PDF 圖表解析工具。

  15. LlamaIndex:產品、工程與評測47

    解析難以辨讀的文件:LlamaParse 如何處理訴訟證據開示文件

    LlamaParse 以多模態模型解析法律證據開示文件,可處理低畫質掃描件,並理解頁面版面、圖片、圖表及表格。它支援自訂解析指示,API 可回傳「markdown」、「text」及「items」等輸出。文章建議這類文件使用 `tier="agentic_plus"`,該層級針對複雜版面與視覺內容優化;所有 tier 均採用高解析度 OCR。