RAGArch：LlamaIndex 驅動的無程式碼 RAG 流水線配置與一鍵程式碼生成工具
RAGArch 是 LlamaIndex 驅動的無程式碼工具，可配置及測試 RAG 流水線，並一鍵生成相應 Python 程式碼。它以 Streamlit 提供互動介面，支援設定 LLM、Embedding 模型、節點解析器、回應合成方法及向量儲存庫，並用自有資料即時測試。可選服務包括 OpenAI GPT-3.5、GPT-4、Gemini Pro 及 Cohere API，另提供免費和付費方案。
全部AI 動態
全部動態
今日 449 條LlamaIndex：產品、工程與評測AI 評分4444 LlamaIndex：產品、工程與評測AI 評分4545 如何使用 LlamaIndex.TS 以 TypeScript 建立 LLM 智能體
LlamaIndex.TS 教程示範如何以 TypeScript 建立 LLM 智能體，讓它調用函數工具完成計算，並根據文件回答問題。文件流程以 VectorStoreIndex 和 SummaryIndex 建立查詢及摘要工具；使用前須執行 `npm install llamaindex` 並設定 `OPENAI_API_KEY`。
LlamaIndex：產品、工程與評測AI 評分6161 LlamaIndex 發佈 v0.10.0，拆分核心與整合套件並棄用 ServiceContext
LlamaIndex 發佈 v0.10.0，將核心功能與整合、模板拆分為獨立套件，並棄用 ServiceContext。新設的 `llama-index-core` 收納核心抽象，數百項整合和模板改為獨立套件，同時保留 `llama_index` 命名空間匯入；使用者可直接傳入參數，或透過全域 `Settings` 設定。
LlamaIndex：產品、工程與評測AI 評分4343 LlamaIndex 與 LanceDB：以多模態 RAG 進行進階影片處理
LlamaIndex 結合 OpenAI GPT4V 與 LanceDB，示範以多模態 RAG 處理影片，檢索影像及音訊轉寫內容。流程每 5 秒擷取 1 個影格（約 160 個），將音訊轉成文字，再用 OpenAI CLIP 為文字和影像生成嵌入向量，存入 LanceDB VectorStore。
LlamaIndex：產品、工程與評測AI 評分6262 LlamaIndex 推出 LlamaParse 文件解析服務及託管資料導入與檢索 API
LlamaIndex 宣佈推出 LlamaParse 文件解析服務，並介紹面向大語言模型及 RAG 應用的託管資料導入與檢索 API。解析器針對含表格、圖表等嵌入物件的複雜 PDF，可輸出保留語義結構的 Markdown，並接入 LlamaIndex 的資料導入與檢索流程。公開預覽目前支援 PDF，每日用量上限為 1k 頁；託管 API 則以私有預覽方式開放予有限的企業設計合作夥伴。
LlamaIndex：產品、工程與評測AI 評分5050 如何使用 llama-index-networks 查詢 RAG 知識網絡
LlamaIndex 推出 llama-index-networks 擴充套件，讓多個建基於外部資料來源的 RAG 組成可供查詢的網絡。資料供應方可用 ContributorService 暴露 QueryEngine，查詢方則用 NetworkQueryEngine 連接多個服務；每次查詢會送往所有 contributors，再綜合回應。
LlamaIndex：產品、工程與評測AI 評分5959 LlamaIndex 推出全球首個 GenAI 原生文件解析平台 LlamaParse
LlamaIndex 宣佈推出全球首個 GenAI 原生文件解析平台 LlamaParse，並新增由 GenAI 驅動的解析指令，讓使用者以自然語言指定文件解析方式。
LlamaIndex：產品、工程與評測AI 評分5555 Langfuse 推出與 LlamaIndex 的一鍵開源 RAG 可觀測性整合
Langfuse 宣佈與 LlamaIndex 推出一鍵整合，讓 RAG 應用可在 Langfuse 中查看追蹤資料。
LlamaIndex：產品、工程與評測AI 評分4848 以 UpTrain 評測強化 LlamaIndex RAG 管線
LlamaIndex 與開源 LLM 評測框架 UpTrain 整合，讓開發者可評估 RAG 管線並試驗不同配置。UpTrain 提供 20+ 預設檢查，評估與分析均在本地執行（LLM 呼叫除外）；其 Callback Handler 可檢查生成回覆、RAG 擷取的上下文及中間步驟。
LlamaIndex：產品、工程與評測AI 評分5151 LlamaIndex 示範如何以差分隱私生成合成資料，供跨網絡 RAG 檢索
LlamaIndex 示範以差分隱私將敏感資料轉成合成資料，再透過 NetworkRetriever 讓多個貢獻者跨網絡檢索。在包含 1,200 個樣本、24 種疾病標籤的 Symptom2Disease 示例中，NetworkRetriever 的 hit rate 和 mean reciprocal rank 高於單一貢獻者檢索器。
LlamaIndex：產品、工程與評測AI 評分5353 Protect AI 示範如何以 LLM Guard 和 LlamaIndex 加固 RAG
Protect AI 示範將 LLM Guard 整合至 LlamaIndex 建構的 RAG 應用，掃描輸入文件與模型輸出中的惡意內容。示例以藏於候選人履歷白字中的提示詞注入作測試，並為簡化流程在檢索階段掃描文件。文中指出文件理想上應在匯入前掃描，並需檢查從 API 即時檢索的資料。
LlamaIndex：產品、工程與評測AI 評分6363 教學：使用 LlamaIndex 與 llamafile 建立本機私隱研究助理
Mozilla 的客座文章示範使用 llamafile 在本機執行大語言模型，並配合 LlamaIndex 建立本機 RAG 研究助理。示例以同一個 llamafile 同時作為大語言模型和嵌入向量後端，將本機檔案與 Wikipedia 頁面建立向量索引，再透過 RAG 回答問題。整個助理在本機運行，毋須註冊雲端服務、支付 API 呼叫費用或把資料傳給第三方。
LlamaIndex：產品、工程與評測AI 評分5353 LlamaIndex 透過 Azure Container Apps dynamic sessions 支援安全程式碼執行
LlamaIndex 提供 Azure Code Interpreter 工具，讓智能體透過 Azure Container Apps dynamic sessions 沙箱執行 LLM 生成的程式碼。文章示範如何設定工具並接入 ReActAgent，讓智能體查詢西雅圖當前時間，以及讀取、排序和下載 CSV 檔案。
LlamaIndex：產品、工程與評測AI 評分4747 使用 MultiOn 與 LlamaIndex 自動化網上任務
MultiOn 與 LlamaIndex 的整合示例展示如何以 AI 智能體自動處理網上任務及電郵流程。示例以 OpenAIAgent 結合瀏覽器與 Gmail 搜尋工具，搜尋、摘要及開啟郵件，再根據郵件串起草回覆。
LlamaIndex：產品、工程與評測AI 評分5858 LlamaIndex 推出 Property Graph Index，擴展知識圖譜建模與查詢
LlamaIndex 推出 Property Graph Index，以標記屬性圖表示擴展知識圖譜的建模、儲存與查詢能力。它支援 schema 引導、隱式及自由形式抽取，並可組合關鍵詞／同義詞、向量相似度、Cypher 查詢與自訂圖遍歷。圖譜節點預設會生成嵌入向量，底層儲存支援記憶體、磁碟及 Neo4j。
LlamaIndex：產品、工程與評測AI 評分5656 LlamaIndex 如何自訂 Property Graph Index：實作實體去重與自訂檢索器
LlamaIndex 的 Property Graph Index 教程示範以 schema 引導抽取來建構知識圖譜，並加入實體去重與自訂檢索器，以提高 GraphRAG 準確度。示例使用 Diffbot 新聞資料集中的 250 篇文章建圖，使用 GPT-4o 約需 7 分鐘；去重結合嵌入向量相似度與詞距，自訂檢索器則先抽取查詢中的實體，再逐一使用 VectorContextRetriever。
LlamaIndex：產品、工程與評測AI 評分6565 LlamaIndex 發佈 llama-agents alpha 開源框架，用於構建生產級多智能體 AI 系統
LlamaIndex 發佈開源框架 llama-agents 的 alpha 版本，旨在簡化多智能體 AI 系統的構建、迭代與部署，並將智能體轉為生產環境微服務。
LlamaIndex：產品、工程與評測AI 評分5555 LlamaParse 專為企業級 LLM 應用開發者打造
LlamaIndex 已向用户廣泛提供 LlamaParse，面向企業級 LLM 和 RAG 應用，支援複雜文件解析、資料接入與檢索。它支援 50+ 種語言和 100+ 種文件格式，檢索可配置 hybrid search、reranking 和 metadata filtering。LlamaParse Playground 可在部署前測試和調整資料接入及檢索策略。
LlamaIndex：產品、工程與評測AI 評分2929 案例研究：Lyzr 如何藉助 LlamaIndex 將自主 AI 智能體 ARR 推至 $1M+
LlamaIndex 助力 Lyzr 的企業自主 AI 智能體業務在不到 60 天內，ARR 由約 $100,000 升至約 $1.5 million。LlamaIndex 以數據連接器、RAG 上下文增強和彈性檢索支援其智能體；Lyzr 有 75% 客户使用兩個或以上 AI 智能體。
LlamaIndex：產品、工程與評測AI 評分5353 Arize AI 與 LlamaIndex 推出大語言模型應用評估平台 LlamaTrace
Arize AI 與 LlamaIndex 推出 LlamaTrace，這是一個原生支援 LlamaIndex 與 Arize 生態系的大語言模型追蹤及可觀測性託管平台。
LlamaIndex：產品、工程與評測AI 評分3434 案例研究：Scaleport.ai 如何藉 LlamaParse 加快開發並提升銷售
Scaleport.ai 採用 LlamaParse 加快 AI 應用開發，並改善客户互動與銷售成果。團隊可在需求界定階段製作技術原型，即時展示實際價值；LlamaParse 在多項 OCR 任務上勝過 GPT-4 vision。為一名客户開發等效應用時，開發工時較採用 LlamaParse 前減少約 50-60%。
LlamaIndex：產品、工程與評測AI 評分6363 LlamaIndex 推出 LlamaExtract Beta，支援從非結構化文件抽取結構化資料
LlamaIndex 宣佈推出 LlamaExtract Beta，這項託管服務可從非結構化文件推斷 schema，並按指定 schema 抽取結構化資料。用户可修改推斷出的 schema，或自行定義 schema；已有 schema 時，服務會逐份文件進行抽取。服務提供 UI 和 API，schema 推斷目前最多處理 5 個文件、每份最多 10 頁。
LlamaIndex：產品、工程與評測AI 評分4848 LlamaParse 動態檢索：按問題選用文件級或區塊級檢索
LlamaParse 推出文件級檢索 API，讓系統按問題需求取得整份文件內容，而不只檢索相關區塊。文件級檢索可按元資料或文件內容選擇文件，並支援調整 top-k 結果及按元資料篩選。配套 Jupyter notebook 示範讓智能體按問題在文件級與區塊級檢索間選擇。
LlamaIndex：產品、工程與評測AI 評分6363 LlamaIndex 推出 workflows beta，提供事件驅動的複雜 AI 應用編排方式
LlamaIndex 推出 workflows beta，讓複雜 AI 應用可透過事件驅動架構編排。工作流由 Python 函數步驟組成，步驟可用事件觸發迴圈、自我修正，並透過 Context 分享執行期間的狀態。功能亦支援非同步與 streaming，並提供可觀測性、工作流視覺化和逐步執行除錯。
LlamaIndex：產品、工程與評測AI 評分4242 使用 LlamaParse 高效優化 RAG 流程的分塊大小
LlamaParse 提供索引複製、分塊視覺化與快速迭代功能，協助開發者測試和調整 RAG 流程的分塊大小，無須手動管理資料儲存或進行複雜重新索引。示例以 512 tokens 為基準，改用 Page 分段及 None 分塊設定後，回答更完整涵蓋 SWE-bench 的特徵。
LlamaIndex：產品、工程與評測AI 評分6060 LlamaIndex 發佈 Python 版 0.11，新增 Workflows 並帶來多項破壞性變更
LlamaIndex 發佈 Python 版 0.11，新增以事件驅動架構構建生成式 AI 應用的 Workflows，以及 Instrumentation 功能。
LlamaIndex：產品、工程與評測AI 評分5656 使用 LlamaIndex 和 Azure OpenAI 構建無伺服器 RAG 應用程式指南
LlamaIndex 的指南介紹如何使用 LlamaIndex 和 Azure OpenAI，在 Microsoft Azure 上構建無伺服器 RAG 應用程式。
LlamaIndex：產品、工程與評測AI 評分5555 LlamaIndex 發佈 llama-deploy，支援以微服務部署 Workflows
LlamaIndex 發佈 llama-deploy，讓以 LlamaIndex Workflows 建立的智能體工作流可透過微服務部署及擴展。系統由訊息佇列、控制平面、協調器及工作流服務組成，並支援服務獨立擴展、重試和故障處理。
LlamaIndex：產品、工程與評測AI 評分5454 LlamaParse 推出多模態 RAG 功能
LlamaIndex 宣佈在企業級 RAG 平台 LlamaParse 推出多模態功能，讓開發者可在數分鐘內建立同時索引及檢索文字與圖像的 RAG 管線。啟用 Multi-Modal Indexing 後，系統會把頁面截圖與提取文字一併建立索引，並可透過 API 接入應用程式。
LlamaIndex：產品、工程與評測AI 評分5555 LlamaIndex 推出 LlamaParse Premium 文件解析模式
LlamaIndex 推出 LlamaParse Premium，結合多模態模型與啟發式文本解析，處理複雜文件中的文本、表格和視覺內容。輸出可將文字、表格和圖像整理為結構化 Markdown，並把圖表轉成 Mermaid、公式輸出為 LaTeX，為所有圖像加上説明。
LlamaIndex：產品、工程與評測AI 評分4242 LlamaIndex 2024-10-01 電子報
LlamaIndex 已整合 MistralAI 的 Pixtral 12B，提升圖表分析、圖像理解及圖像轉程式碼能力。本期亦提供以 OpenAI o1 和 LlamaParse 處理多工作表 Excel 的進階 RAG 指南，以及使用 LlamaParse 建立市場研究報告多模態 RAG 流程的教學。
LlamaIndex：產品、工程與評測AI 評分4040 LlamaIndex Agentic RAG-a-thon 2 得獎名單與活動回顧
LlamaIndex 公佈第二屆 Agentic RAG-a-thon 得獎項目及活動回顧。三日活動錄得逾 500 次註冊、45 個項目及 12 個贊助商，並頒發 $14,700 現金獎。首獎 Timeline of You 分析個人資料並生成職涯時間線；Closing.WTF 和 OilyRAGs 分獲二、三名。
LlamaIndex：產品、工程與評測AI 評分3232 LlamaIndex 2024-10-22 電子報
LlamaIndex 本週推出 Mistral-3B 和 Mistral-8B 的 day-0 整合，並分享以 LlamaParse 從 ArXiv 論文知識庫生成綜述報告的遞迴式智能體工作流程。另有動態 few-shot prompting 專案，按查詢檢索相關示例以改善客户支援和 text-to-SQL，並列出多項 RAG、智能體應用案例及招聘職位。
LlamaIndex：產品、工程與評測AI 評分3535 開發者專案聚焦：以 LlamaIndex 和 NVIDIA NIM 打造 AI 銷售助理
NVIDIA 使用 LlamaIndex 與 NVIDIA NIM 為銷售代表打造 AI 銷售助理，支援內部知識檢索、翻譯及撰寫電郵等任務。系統按查詢類型將問題交予 Llama 3.1 405b，或以 Llama 3.1 70b 執行多來源 RAG，以較快、較低成本處理大量文件。Chainlit 提供聊天介面，RAG 資料來源包括內部文件庫、NVIDIA 網站及公開互聯網。
LlamaIndex：產品、工程與評測AI 評分3030 OilyRAGs：打造由 RAG 驅動的 AI 維修技工助手
Jeff Davis 以 LlamaIndex 建成 OilyRAGs，這款多模態、免提式 RAG 維修技工助手的原型聚焦船艇維修。它可用手機辨識引擎型號、診斷問題及查詢零件，並生成數碼表格；作者稱操作速度提升 6,000%。該原型在 LlamaIndex 的 RAG-A-THON 獲第三名，數據可供 RAG 系統日後查詢。
LlamaIndex：產品、工程與評測AI 評分4040 RAGformation：自動生成雲端配置
RAGformation 是一款開源 AI 工具，可根據用户的自然語言需求，自動選擇雲端服務、設計架構並估算價格。它運用 RAG 與 Llama Index Workflows 生成架構流程圖，並按需求調整推薦服務和配置。用户確認方案後，工具會生成包含流程圖、定價及所選服務摘要的報告，程式碼可在 GitHub 取得。
LlamaIndex：產品、工程與評測AI 評分4646 使用 LlamaIndex 與 Memgraph 建構知識圖譜
Memgraph 示範如何透過 LlamaIndex 將非結構化文字建成可用自然語言查詢的知識圖譜。範例以 Charles Darwin 傳記抽取實體與關係，並透過查詢得出 Alfred Russel Wallace 是其合作者。
LlamaIndex：產品、工程與評測AI 評分5252 LlamaParse 如何結合 SharePoint 權限實現 RAG 內容檢索
LlamaParse 的 SharePoint 整合支援權限感知檢索，可將 SharePoint 的細粒度存取控制用於 RAG 應用中的文件存取。建立索引並同步文件後，可在 chunks 預覽查看 allowed_siteUser_ids 等權限欄位。更新 SharePoint 檔案的共享對象並再次同步，chunks 預覽中的允許使用者清單會隨之變更。
LlamaIndex：產品、工程與評測AI 評分5555 LlamaParse Auto Mode 按頁面條件切換解析模式以優化成本
LlamaParse 的 Auto Mode 以標準模式解析文件，並按頁面條件切換至 Premium 模式，以降低高階解析成本。觸發條件包括表格、圖片、指定文字及正則表達式，讓 Premium 解析只套用於符合條件的頁面。文章示範的能力包括將圖表轉成 Markdown 表格、渲染 Mermaid 圖表，以及提升表格讀取準確度。
LlamaIndex：產品、工程與評測AI 評分3838 LlamaIndex 2024-12-17 電子報
LlamaIndex 推出文件智能體工作流程教學系列，涵蓋法律文件、發票及患者病例摘要。LlamaParse 新增可遵守 SharePoint 權限的 RAG 智能體內置支援，並可整合 Azure 企業資料來源、維持文件層級存取控制。LlamaIndex 亦為 Google 最新 Gemini 2.0 模型提供 day-0 支援。