別再把 PDF 攤平成純文字:用文件理解與結構化分塊處理 RAG 和智能體
作者以 PDF 檢索案例指出,RAG 與智能體的檢索失誤可能源於攝取流程攤平文件結構,而非模型本身。文章示範以 Docling 和 LangChain 保留版面、表格、章節及頁碼資訊,再按文件結構分塊,並比較 parent-child retrieval、RAPTOR 與 ColPali 頁面影像檢索。
作者以 PDF 檢索案例指出,RAG 與智能體的檢索失誤可能源於攝取流程攤平文件結構,而非模型本身。文章示範以 Docling 和 LangChain 保留版面、表格、章節及頁碼資訊,再按文件結構分塊,並比較 parent-child retrieval、RAPTOR 與 ColPali 頁面影像檢索。
AI 英語培訓智能體的開發、上線及營運迭代流程涵蓋 LLM 微調、RAG 知識庫、語音互動和提示詞工程。上線前須進行合規審查、多維測試及小範圍灰度發布;上線後則透過學習數據、用戶反饋和錯題資料改進留存設計及模型。
文章以 Phidata 2.x 和 Qdrant 1.x 構建旅行 AI Agent,串連對話、知識檢索與交易鏈路,涵蓋從目的地問答到酒店及機票預訂。實作接入 RollingGo 的酒店及機票 MCP,提供搜索、比價、鎖房、預訂、支付和取消工具,並可在鎖價後、支付前加入人工確認。固定評估集測試顯示,工具調用準確率由 71% 提升至 94%。
MaxCompute 透過存儲接入、計算推理及治理索引三層能力,支援 PB 級離線 AI 語料清洗、多模態解碼、批量向量化及可信樣本交付。使用前提包括符合離線批量處理節奏、依賴 MaxFrame 生態、啟用向量能力,以及具備 GPU 配額和鏡像管理。它定位為語料產線的編排與治理中樞,不替代實時引擎或專用模型服務。
GEO 透過調整內容的語義結構、資訊層級與權威性信號,提升內容被大語言模型抓取、理解和引用的機會。研究顯示,引用可信外部來源可令可見度提升最高約 115.1%,加入具體統計數據與數字則最高約 40%。GEO 與 SEO 相輔相成,落地需結合內容結構化、多源驗證及持續監測。
這篇教學示範如何以 Langfuse 追蹤 AI 工作流程,將錯誤回應、延遲及成本問題定位到單次任務的執行步驟。示例使用 Python SDK 4.17.0,以硬編碼資料模擬檢索和生成,沒有呼叫真實模型,也沒有虛構 token 或成本數據。文章亦説明提示詞版本管理、評估、資料遮罩和自架部署要點,並指出 Langfuse 不會驗證答案正確性或執行業務權限。
報告分析面向企業的商業化 AI 文章批量生成服務,涵蓋產業現狀、四層技術架構、服務商梯隊、應用場景及選型評估。報告列出2025年市場規模為3862億元、同比增長60.0%,行業集中度CR5達61.3%。競爭重點正由單純提升效率,轉向內容質量、合規管控與知識融合。
AI 系統團隊應先判斷所建系統是否需要具備目標、決定下一步及處理失敗的智能體,而非把所有工具呼叫或帶記憶的聊天機械人都稱為智能體。文章指出,生產環境的智能體多為專用流程,成效更取決於工具設計、失敗處理和可觀測性,而非單純更換最新模型或框架。RAG 檢索結果不理想,問題亦往往在分塊或元數據,而非嵌入模型。
作者指出,建立 AI 專業能力的窗口正比預期更快關閉,工程師應專注於打造可信賴、可維護的 AI 系統,而非追逐基準測試。現時多數生產環境中的 AI 智能體用途狹窄,成效取決於工具設計、失敗處理及可觀測性。文章亦指出,架構模式比框架更重要,而 RAG 的檢索問題往往出在分塊或中繼資料。
作者提出一套餐廳菜單助手的檢索設計,先為每種回答訂明檢索契約,再按資訊是否會變動,結合索引檢索與即時檢索。契約應涵蓋菜式文字、穩定文件識別碼、來源 URL(如有)、資料時效類別,以及適用分店或服務日期;精確元資料篩選用來縮小候選集,再由語義排序排列結果。
電科金倉發布 KES AI資料庫,將語義構建、向量計算與推理、權限管控納入資料庫內核,讓數據留在庫內供 AI 應用使用。官方公佈的實測條件為1億條768維向量、98%召回率,峯值記憶體開銷較業界降低95.4%,查詢延遲降低80%;作者未在生產環境復測,建議企業上線前以自身數據和查詢場景測試。
RAG 管線即使沒有模型或提示詞變更,準確度仍可能因索引與來源文件不同步而下降。文章建議為來源內容及嵌入模型版本留存雜湊與版本資料,定期檢查過期或孤立的文本區塊,並將檢索評估與生成評估分開。對低相關或沒有結果的檢索,文章建議記錄未命中情況,以監察語料未涵蓋的用戶需求。
平台以公共專利數據和《專利審查指南》知識庫,建設教練式專利撰寫輔助場景,透過實時診斷、判例比對及條款溯源協助用戶撰寫。平台整合1985—2026年專利公開數據,並將指南切分為3000+個條款、編碼為768維向量。教練模式只作診斷和引導,不代筆,申請文件由用戶執筆定稿。
AI 智能體個人化架構以個人資料、事件記錄和處理程序三層記憶保存用戶資訊,並在每次呼叫時重建系統提示詞。LLM 從用戶明確提供的資料中提取事實,不作猜測。RAG 可設為智能體按問題決定是否呼叫的工具,避免不必要的延遲和成本。
這篇教學示範如何結合 Milvus、BGE-M3 和 Ollama,建構可在本機執行的私隱醫療 RAG 系統,從醫療 PDF 和 Markdown 健康筆記檢索資料並回答問題。系統以混合搜尋結合密集與稀疏向量,並透過重新排序整理結果,再由本機 LLM 生成回答。
MySQL 26.10.0 Innovation Release 與 9.7.4 LTS、8.4.13 LTS 一同發佈,並為社羣版加入 Health Monitor、WebAuthn 認證及 MySQL REST Service。
作者以其負責的 SaaS 客服升級項目為例,示範用 Vue3、Spring Boot 和阿里雲百鍊搭建 AI 客服系統,並涵蓋知識庫、流式對接、上下文管理及人工轉接。文中稱系統上線後 AI 自主解決率達 70%,平均首次回應時間由 5 分鐘降至 2 秒,客戶滿意度由 72% 升至 93%。文章並提供 5 個生產環境問題處理示例、客服方案選型決策樹和上線檢查清單。
文章建議在事實問答中先檢索依據,檢索不足時讓大語言模型拒答,並核對答案是否受來源支持。示例以檢索分數低於 0.42 時拒答,並建議逐項引用來源、對高風險答案進行忠實度檢查,評估時分開統計回答、拒答及有無來源支持。文中亦指出,檢索或文件問題可能造成失誤,提供資料作依據不能保證答案正確。
RAG 分塊把來源資料切成可檢索單元,其邊界和中繼資料會影響系統能否找到並一併呈現相關證據。文章以五個階段説明分塊流程,並指出應以答案所需內容的檢索表現作評估。
Firecrawl 可將網頁主要內容擷取為 Markdown,文章示範透過 Python、Node.js、curl 或 CLI 設定並執行單頁擷取。同一客戶端亦可搜尋網站網址、批次擷取多個網址及爬取文件網站;文章另示範將其接入 Claude Code 或 Cursor,作為技能或 MCP 伺服器。
這篇教學説明如何使用 Python、LangChain 和 OpenAI 建立面向企業的 RAG 聊天機械人,讓模型根據企業文件回答問題,無須重新訓練模型。RAG 可在文件更新後重新索引,並提供答案來源引用;以 GPT-4o-mini 生成答案時,每次查詢成本約為 $0.001。文章亦介紹文件載入、嵌入向量生成、向量儲存和答案生成四個核心環節。
Qdrant 1.20 在全文索引內加入 BM25 關鍵詞排序,並自行計算包括平均文件長度在內的統計資料,讓評分隨文件變動保持準確。新的程式碼 tokenizer 令 getUserName、get_user_name 和 user name 可相互匹配;巢狀篩選的 per-element indexes 在 100,000 個點的測試中,比一般索引快 7 至 38 倍。
TRIO 是一套多智能體 RAG 框架,協調 Query Agent、Judge Agent 和 Answer Agent,分別優化檢索、證據評估和答案推理。它在五個問答基準中取得最高平均 Exact Match,並在未見過的 PubMedQA 上達到 76.6% 準確率。使用 4B 和 8B 模型時亦表現出色。
一個用於回答股市查詢的 RAG 系統,在 100 條股市相關查詢的數據集上測試,ROUGE-1、ROUGE-2 和 ROUGE-L 均取得高分。系統平均回應時間為 1.16 秒,研究以此評估回應速度。
這個 PHP 範例以 AIOrchestrator 展示基本的 AI 編排流程,依次分類用戶查詢、擷取相關資訊、生成回覆並進行驗證。範例以規則判斷意圖、從靜態陣列擷取內容,再用範本組成回覆;實際應用可改由語言模型處理分類和生成。
d3kOS 是一款為船隻而設的開源海事作業系統,現行版本 v0.9.9.5.1 可在 Raspberry Pi 上運行,透過 Signal K 整合船上裝置已有的數據。它提供 AI 航海問答、引擎監測、語音助理及碰撞預警等工具,支援離線核心功能,並非經認證的導航儀器。
文章示範如何在 Next.js 中以 PostgreSQL、pgvector、RLS 和整合測試,為多租戶 RAG 建立租戶隔離,避免未授權文件進入模型提示詞。租戶 ID 應由伺服器端驗證後取得,並在檢索查詢中套用篩選;RLS 可補足遺漏的篩選,但不能防範可執行任意 SQL 的攻擊者。共享近似最近鄰索引也可能影響召回率和效能,因此應按實際租戶資料分佈進行測量。
以 GPT-4o 執行 30 輪推理鏈測試,比較完整上下文、選擇性回憶及外部記憶,結果顯示記憶策略左右 Token 用量與成本。完整上下文準確率為 0.94,成本為 $0.1122;外部記憶準確率為 0.84,成本為 $0.0434。文章指出,外部記憶較適合長流程,完整上下文則會隨工作流程延長而推高成本。
文章建議10月末仍未獲 offer 的測試應屆生,未來60天應按能力和準備方向匹配職位,而非增加投遞公司數量。2026年的測試職位分為功能測試、測試開發、AI測試/質量效能三條路線,考察重點和薪酬各有不同。求職者應聚焦補錄或急招職位,對照職位要求調整履歷,並準備面試真題。
作者主張,品牌進入 AI 答案仍依賴 SEO,關鍵是讓搜尋引擎找到網站,並透過一致資料辨認正確實體。作者以自己的姓名測試 ChatGPT、Gemini 和 Perplexity,前兩者辨認正確,Perplexity 首次認錯;其爬蟲在作者網站的 30 天請求數為 0。
Rudratosh Shastri 整理了一份涵蓋 Claude、GPT、Gemini、Copilot、Cursor 及開源模型生態的 AI 智能體攻擊指南,説明間接提示詞注入如何令智能體把不可信內容當成指令。
Ouija Compiler 是一款離線終端 AI 應用,讓用戶向 COBOL、Fortran 和 Pascal 等已淘汰或舊式程式語言提問,並以詭異文風提供可執行程式碼。它使用 Gemma 3 (4B)、Ollama 和檢索增強生成,並在展示答案前以真實編譯器編譯及執行程式碼;每個問題需等待數十秒。
People of the Past 將應用分為 Ghost Gallery 和 TYLO:前者讓用戶與歷史人物對話,後者根據用戶提供的資料和回憶建立 AI 記憶伴侶。作者把 TYLO 設計成記憶系統,而非只靠提示詞的聊天機械人,結合個人檔案、近期對話、已儲存記憶及透過向量搜尋找出的舊對話。TYLO 不會讓逝者復生,也不會重現其意識。
Node.js 整合 OpenAI GPT API 為私人遊戲知識庫生成摘要時,應以檢索來源片段、保留遊戲機制與數值,並拒絕無法引用來源的答案作為品質把關。系統應監察從玩家提問到有來源依據的摘要顯示所需的 p95 時間,以及摘要遺漏內容的情況。原文亦提供一段 Go 範例,示範以低温度、輸出 token 上限和重試機制呼叫 OpenAI 相容 API。
Ofrenda 是一款在本機運行的工具,會讀取已停更 GitHub 專案的 Git 歷史與文件,生成墓誌銘,並讓用戶向代表專案的 3D 骷髏提問。Gemma 3 生成墓誌銘、訃告及專案留下的三件事,EmbeddingGemma 則檢索 README 和 Markdown 文件,為骷髏的回答提供依據。工具支援英文和西班牙文介面切換,AI 運算全程在本機進行。
Michael Shadpour 以 Agnos 2.3.2 檢視 25 份美國聯邦機構 PDF,發現頁首及頁尾清理既會漏掉重複內容,也會誤刪正文。工具從 24 份文件移除 2,063 行頁面元素,其中 200 行經核查看似正文,包括表格內容、欄標題及電話號碼。文章提供以 Python 找出重複行的腳本,並列出索引前核對移除記錄及跨頁分塊等檢查方法。
文章示範以 .NET 10 和 C# 透過 Pinecone REST API 整合向量資料庫,建立可按語義相似度儲存、搜尋及取回資訊的應用程式。嵌入向量模型負責將文字轉換為數值表示,Pinecone 則負責儲存及搜尋向量。文章指出,Pinecone 官方 C# SDK 的程式碼庫已於 2026 年 7 月封存。
作者以 Willow 和 Gemma 3 4B 在未連接互聯網的筆電上製作降靈演示,要求模型只依據檔案段落回答,並拒收未通過引用核對的回覆。新增的 shell-history 外掛把 bash、zsh 和 fish 命令歷史轉成日期紀錄,讓演示從歷史紀錄找到已刪除檔案中的秘密。
Ofrenda 使用 TabPFN 分析 150 個開源專案,檢驗維護者停止回覆陌生用戶是否早於程式碼活動停止,並研究兩者之間的「Ghosting Band」。以 request/request 為案例,專案記錄回覆率歸零至最後提交之間相隔 771 天,並提供由 Gemma 驅動、透過 BM25 檢索 11,748 份文件的訪談系統,要求回答附上引文,否則拒答。
Cristián Labra 在 penta-agent 中整合多智能體路由、混合記憶與 Harness2,建立以本機驗證和人工審批控制改動的自我改進閉環。混合記憶結合 SQLite FTS5、Qdrant 與 Qwen3-Embedding-0.6B,p95 延遲為 0.07 s。