RAG 智能體為何會自信引用過時文件,以及本週推出的 4 項檢索改動如何減少 token 消耗
PipesHub 針對 RAG 智能體引用過時文件及 token 消耗問題,於本週推出 4 項檢索改動。改動包括在檢索時顯示關聯記錄的日期和狀態、按時間順序逐段搜尋、先定位所需內容再讀取,以及讓呼叫方略過查詢改寫。這套架構在 EnterpriseRAG-Bench 得分 93.24(總排名第 1),在 Google FRAMES 得分 92.7%。
PipesHub 針對 RAG 智能體引用過時文件及 token 消耗問題,於本週推出 4 項檢索改動。改動包括在檢索時顯示關聯記錄的日期和狀態、按時間順序逐段搜尋、先定位所需內容再讀取,以及讓呼叫方略過查詢改寫。這套架構在 EnterpriseRAG-Bench 得分 93.24(總排名第 1),在 Google FRAMES 得分 92.7%。
處理空向量搜尋結果時,應將零候選或低於相似度門檻的結果送入明確回退流程,先搜尋本地關鍵字索引,仍無結果才搜尋網絡。追蹤紀錄應保留門檻、分塊策略、內容更新時間、回退階段及最終匹配來源;各階段均無結果時應返回未知,不可在沒有證據下判定重複。
法律合約審閲工作區應在搜尋前、搜尋期間及生成前設置租戶隔離檢查,並以伺服器端取得的租戶身份限制檢索範圍。文章比較共享索引、每租戶索引和獨立資源的適用條件與運維成本。跨租戶候選或缺少可信租戶範圍時,應在請求抵達生成階段前拒絕,並透過涵蓋不同檢索路徑的測試與監控驗證。
PDF 表格抽取即使保留所有數值,仍可能把註腳錯誤套用到其他資料列,令 RAG 回答加入來源未提供的條件。文中以數值同為 95 的 A、B 兩列説明,只有 A 的測量值帶有 a 註腳,指出數值是在較低負載下測量。建議在分塊前保存註腳與目標儲存格的連結,並分開測試抽取關係、檢索內容及最終答案;無法確定範圍時,應保留待審核,而非套用至所有資料列。
SynapCores 2.5 將 SQL、向量、圖、Agent 記憶及本地推理整合在單一程序中,並支援 Ollama API,模型名稱亦毋須更改。它內置資料儲存、RAG 和預設啟用的驗證,讓用戶可在資料庫中執行模型並以 API key 控制存取。若只需在終端機執行模型,文章指出 Ollama 仍然合適。
Cohere 的 Embed 5 和 Rerank 5 現已在 OpenRouter 上線,文章示範透過單一 API 將兩者組成 RAG 流程。流程以 Embed 5 Pro 建立索引、Embed 5 Fast 搜尋,再用 Rerank 5 重排候選內容,並由聊天模型根據來源生成附引用答案。
企業知識庫以統一文件底座承載權威知識,並由內置 AI、開放介面和 CLI 分別支援員工、業務系統及外部 AI 助手使用。以 zyplayer-doc 為例,底座涵蓋多格式文件、細緻權限、私有化部署及長期維護。接入時須處理帳號身份、權限、來源展示,以及外部內容副本的同步和更新。
Rokkhe 研究團隊依據 OWASP LLM Top 10 2025,整理出防範 LLM 應用提示詞注入的加固清單。清單建議由應用程式以工具白名單和用戶權限檢查控制工具呼叫,將不可信內容與系統指令隔離,並在輸出進入瀏覽器或其他解譯器前作安全處理。
InfoQ 開放六個線上 cohort 工作坊報名,課程涵蓋 AI 工程、軟件架構及高效能團隊,為期五週,於 1 月 9 日至 22 日開始。每週包括四小時導師帶領的直播、獨立應用練習及課程專屬總結項目,參加者會將框架應用於工作中的決策。每人費用為 USD 1,470;完成課程需出席、積極參與並完成總結項目。
Sunnatulla 測試 12 個框架的 pgvector 多租戶 RAG 查詢,發現單筆租戶 recall@10 僅 0.10,90% 查詢回傳空結果。在 generic plan 下,為租戶欄位或相符的 JSON 表達式建立索引,測試列出的租戶規模 recall 均達 1.00;作者亦建議啟用 hnsw.iterative_scan。
將 AI 整合至現有軟件產品,不只是連接 API,還要先界定合適用途,並評估現有架構、數據質素、安全、效能及維護需要。常見整合方式包括 API、專用 AI 微服務及事件驅動架構,各有延遲、成本、營運複雜度和可擴展性方面的取捨。開發者亦應處理數據準備、私隱、提示詞注入、AI 成本及功能測試。
面向 2027 年,AI 工程團隊須由製作原型轉向營運可靠的生產系統,並重視智能體權限邊界、RAG 評估、安全及整體工程能力。2026 年一份報告指出,30 個主要醫療系統中,43% 的高管表示正試行或測試智能體 AI,但只有 3% 表示已部署至實際工作流程。項目投入生產前,團隊亦應測試失敗情境、限制工具權限、保護敏感資料,並監察延遲和營運成本。
企業將 AI 接入既有業務系統,應先評估現有基礎設施、資料來源及工作流程,再以整合層管理資料存取、轉換、權限驗證和監察。架構可按用途選用 API 模型整合、RAG 或獨立 AI 服務,並確保沿用現有存取權限。系統亦需兼顧擴展性、可靠性,並以回應準確度、處理時間、成本及工作流程完成時間等指標評估成效。
工程機械配件難獲 AI 推薦,關鍵在於資料未能把配件身份、設備適配、技術證據及供應狀態連成可搜尋、可核驗的關係。「AI推薦信號」是企業分析產品資料完整性和搜尋可見性的實踐框架,並非統一評分指標。文章建議以規則初篩、技術證據檢索及 AI 解釋整理適配資料;資料不足時應要求補充資訊或標示待核驗,而非推斷配件適用。
作者為 FastAPI 支援閘道加入 OpenTelemetry 追蹤、成本量度及評測部署閘門;兩個檢索版本在 24 條問題中同得 18/24,閘門返回 HOLD。
AWS 為 Amazon Bedrock Managed Knowledge Base 加入表格搜尋,讓智能體檢索可回答依賴 CSV、XLSX 和 XLS 資料的問題。
這份教學説明如何結合 AI 內容生成與結構化數據,建立房地產超本地化內容引擎,以擴大本地搜尋引擎優化所需的內容產出。架構涵蓋本地資料匯集、AI 草稿生成、人工審核、結構化標記及發布,並透過成效監測回饋持續改進。生成內容包括社區指南、物業類型説明及常見問題。
JeecgBoot低代碼平台結合低代碼與AI,透過自然語言開發及企業級應用底座,支援業務應用構建與自動化執行。平台提供AI Skills、MCP插件及RAG知識庫問答,並支援對接主流大模型。Gartner預測,2026年全球80%的新應用將透過低代碼構建。
DeepStress 對檢索來源施加合成退化後發現,受測智能體即使取得可信度為 0 % 的文件,仍常給出確定答案。在 HotpotQA 和 BrowseComp-Plus 測試中,Search-R1 的正確率在不同可信度下維持 78 % 至 80 %,棄答率沒有明顯變化。
2026 年智能客服的競爭重心由回答準確度轉向任務執行,Agent 透過編排多個系統接口,完成退款、改地址等流程。阿里雲瓴羊 Quick Service 支援十餘類高頻操作,複雜業務處理時長可縮短約 60%,單筆業務處理時間可由十分鐘級縮至五秒內。選型應評估任務辦結率、多輪韌性、跨渠道連貫等六個維度,並預先訂明執行權限、數據隔離及人工複核要求。
阿里雲瓴羊 Quick Service 以 AI Agent 為核心,連接訂單、物流及售後系統,讓用戶在對話中完成改地址、退換貨等任務,將智能客服從回答問題延伸至執行操作。公開數據顯示,其 AI 自主解決率超過80%,複雜多輪業務辦理成功率達87%,複雜業務處理時間縮短約60%。平台支援多模型調度、全渠道接入及人機協同。
文章比較企業級 RAG 系統的大規模向量索引方案 HNSW 與 IVF-PQ,評估兩者的搜尋表現、記憶體佔用及建置成本。HNSW 經適當調校後,召回率通常為 95% 至 99%+,查詢延遲可低於 15ms,但記憶體佔用較高、建置較慢。IVF-PQ 可大幅壓縮向量、降低記憶體需求,但需要訓練階段,召回率亦受中心點及碼本訓練影響。
Sushil Barwal 提供 Python 計算器,按每月對話量、每段對話回合數及每次呼叫的輸入、輸出 token,估算客戶服務聊天機械人的每月 AI 模型費用。
指南規劃以自託管 n8n、Ollama 或 vLLM 本地 LLM、PostgreSQL 16、pgvector 和 Redis 建立雲端 VPS 自動化架構。14B 模型使用 GGUF Q4_K_M 量化,在 4–8 個 CPU 核心上可達每秒 14–22 個 tokens;建議伺服器配備 16–24 GB RAM,月費為 $14.00–$19.00。
文章主張,電商產品檢索應以只追加的審計事件記錄決策輸入、候選項目、政策版本及引用證據,而非把最終答案或一般應用程式日誌當作充分紀錄。建議保存穩定文件修訂 ID、候選排序與分數、准入證據和引用 ID,並以帶密鑰的 HMAC 指紋代替預設保存原始查詢或內容;使用唯一 event ID 和冪等寫入處理重複投遞。
Harmonic RAG 將檢索文件的矛盾視為檢索問題,主張先辨識並處理衝突,再讓模型生成答案。流程會擴大檢索範圍,按時效、來源、範圍及其他文件的支持度評分,並以 NLI 模型判斷文件是否真正矛盾。若衝突未解,最多再搜尋 3 次;仍無法定出勝方時,互動情境會詢問用戶,非互動情境則以圖中心性打破平局並交代理由及保留事項。
AI智慧醫院系統原始碼開發聚焦整合智能導診、AI輔助問診、患者服務管理、醫生工作站及醫院管理後台,並探討醫療系統對接、AI模型集成、數據安全與系統擴展。AI生成內容只供醫生參考,診斷、處方及治療方案仍須由具備資質的醫務人員決定。
Node.js PDF 檢索方案以明確集合、受限查詢和可追溯來源上下文,分開管理資料匯入、搜尋與答案引用。文章建議按信任邊界劃分集合,為分塊保留文件 ID、頁碼、字符偏移和內容雜湊,並在語言模型接收上下文前執行 ACL 或工作區標籤過濾。
Novo Nordisk 製造技術團隊利用 Amazon Bedrock AgentCore 建立製程智能助理,結合知識圖譜與混合搜尋,為受規管製造文件提供有引文支持的答案。
Amazon Bedrock Managed Knowledge Base 透過 memoryConfiguration 接入 AgentCore memory,處理對話還原、相關記憶搜尋及回存。
推薦理由:文章以員工助理示範結合對話記憶與知識庫檢索,並以已驗證身份及 IAM 條件分別控制文件存取和用戶記憶隔離。
教程示範如何安裝和使用開源工具 Promptfoo,設定並跑通基礎 LLM、Agent 和 RAG 評測,並介紹紅隊測試的配置流程。示範環境使用智譜 GLM-5.3,內容涵蓋 CLI 命令、本地控制台,以及以 YAML 配置模型、提示詞、測試用例和斷言。
騰訊優圖實驗室研究總監、專家研究員孫星已離職。他於2016年加入騰訊優圖實驗室,早期研究醫療影像 AI,參與肺癌識別和糖尿病視網膜病變篩查研究。進入大模型時代後,他轉向多模態大模型、Agent 與 RAG,參與 Video-MME、VITA、Youtu-VL、Youtu-Agent 和 Youtu-GraphRAG 等項目。
Amazon Bedrock Managed Knowledge Base 可透過檢索指令,為不同租戶設定各自的回答語氣、格式、檢索指引及回答政策。檢索指令本身不限制可檢索的文件,需配合 metadata filter 或分開的知識庫控制租戶資料存取。文章亦示範如何固定指令版本、逐租戶推出更新,並從 Planning trace 確認回應採用的指令版本。
推薦理由:文章拆解租戶指令與 metadata filter 的分工,並示範如何固定版本、追蹤回應及逐租戶推出變更,以管理指令更新。
Amazon Bedrock Managed Knowledge Base 現已支援表格搜尋,可透過 AgenticRetrieveStream 請求結合 CSV、XLSX 或 XLS 表格計算與相關文件資訊,回答分析問題。
推薦理由:文章以財務政策、結賬備忘錄及 P&L 活頁簿示範如何結合文件規則與全表計算,並透過追蹤記錄查看程式讀取的檔案。
Edoardo Dusi 以 gzip 搭建沒有神經網絡、GPU 或模型權重的聊天示範,説明壓縮與預測可以視為同一類工作。示範使用其網站整理的 477 條問題、104 個答案及 26 KB 資料,按壓縮距離檢索相近問答,距離高於 0.45 時拒答。在 20 條測試問題中,它對 15 條有答案的問題答對 10 條,並拒絕全部 5 條沒有答案的問題;作者説這只是示範數字,並非基準測試。
Uber 的 Legal Redlining Agent 將平均合約審核時間縮短逾 20%,AI 生成決策的準確率為 91%。該 Agent 整合於 Microsoft Word,結合 RAG、律師歷史回饋及確定性規則,分析外部人士提出的條款修改、評估法律風險,並建議接受、拒絕或修改條款;律師仍負責審核和批准建議。
文章為私隱導向的個人知識管理器提出一套便於遷移的 PDF 檢索架構,透過分階段處理、明確指定資料集合、限制查詢範圍及保留來源脈絡,讓更換向量服務時毋須改寫答案層。檢索單位應包含文件、頁碼、章節、來源版本和存取範圍等中繼資料,並按新鮮度及權限篩選結果;答案須附帶來源引用。文章以 Infrai 的 REST API 作為適配器例子,並建議用具代表性的 PDF 測試召回率、引用正確度及舊版本比例。
miPDFlib 可在 .NET 服務中分析 PDF 版面並匯出 Markdown,亦可按標題切分供 RAG 使用的內容區塊,無需 Python 或原生程式庫。在 42 篇未參與欄位偵測開發的近期 arXiv 論文中,跨欄文字順序與 LaTeX 原文平均匹配率為 96.9%,完整分析約需每頁 5 ms。工具不提供 OCR,依賴啟發式版面分析,環繞圖片的雜誌排版及部分表格仍可能處理不完善。
小型團隊是否適合自託管 LLM,取決於資料是否必須留在內部、請求量是否穩定,以及工作是否需要判斷力。作者以 36 封真實財務電郵測試,託管模型正確抽取 32 封的答案,本地 4B 模型則抽取正確 13 封;兩者平均每次呼叫分別約需 2 秒和 23 秒,整個 Agent 羣組的託管 API 費用每日約五美仙,因此作者把判斷工作轉至託管 API,保留 embeddings 在本地。
Decodo 的教學示範如何用 /map API 擷取網站 Sitemap 和頁面連結,再按路徑篩選納入 RAG 的頁面。在 modelcontextprotocol.io 的例子中,361 個 URL 經篩選後剩下 57 個,對應 2026-07-28 規格版本。教學亦示範定期重新執行 /map,比對已儲存清單以找出新增和移除的頁面。