跳到正文
11月18日週三
  1. DEV Community46

    RAG 智能體為何會自信引用過時文件,以及本週推出的 4 項檢索改動如何減少 token 消耗

    PipesHub 針對 RAG 智能體引用過時文件及 token 消耗問題,於本週推出 4 項檢索改動。改動包括在檢索時顯示關聯記錄的日期和狀態、按時間順序逐段搜尋、先定位所需內容再讀取,以及讓呼叫方略過查詢改寫。這套架構在 EnterpriseRAG-Bench 得分 93.24(總排名第 1),在 Google FRAMES 得分 92.7%。

  2. DEV Community58

    如何處理空向量搜尋結果:先搜尋較新的本地記錄,再回退至網絡搜尋

    處理空向量搜尋結果時,應將零候選或低於相似度門檻的結果送入明確回退流程,先搜尋本地關鍵字索引,仍無結果才搜尋網絡。追蹤紀錄應保留門檻、分塊策略、內容更新時間、回退階段及最終匹配來源;各階段均無結果時應返回未知,不可在沒有證據下判定重複。

  3. DEV Community61

    法律合約審閲工作區如何在檢索架構各邊界落實租戶隔離

    法律合約審閲工作區應在搜尋前、搜尋期間及生成前設置租戶隔離檢查,並以伺服器端取得的租戶身份限制檢索範圍。文章比較共享索引、每租戶索引和獨立資源的適用條件與運維成本。跨租戶候選或缺少可信租戶範圍時,應在請求抵達生成階段前拒絕,並透過涵蓋不同檢索路徑的測試與監控驗證。

11月17日週二
  1. DEV Community60

    PDF 表格註腳在 RAG 中可能錯誤關聯至其他資料列

    PDF 表格抽取即使保留所有數值,仍可能把註腳錯誤套用到其他資料列,令 RAG 回答加入來源未提供的條件。文中以數值同為 95 的 A、B 兩列説明,只有 A 的測量值帶有 a 註腳,指出數值是在較低負載下測量。建議在分塊前保存註腳與目標儲存格的連結,並分開測試抽取關係、檢索內容及最終答案;無法確定範圍時,應保留待審核,而非套用至所有資料列。

  2. DEV Community42

    Ollama 負責執行模型,其他部分由誰處理?

    SynapCores 2.5 將 SQL、向量、圖、Agent 記憶及本地推理整合在單一程序中,並支援 Ollama API,模型名稱亦毋須更改。它內置資料儲存、RAG 和預設啟用的驗證,讓用戶可在資料庫中執行模型並以 API key 控制存取。若只需在終端機執行模型,文章指出 Ollama 仍然合適。

  3. Cohere 產品與研究博客58

    Cohere Embed 5 和 Rerank 5 現已登陸 OpenRouter

    Cohere 的 Embed 5 和 Rerank 5 現已在 OpenRouter 上線,文章示範透過單一 API 將兩者組成 RAG 流程。流程以 Embed 5 Pro 建立索引、Embed 5 Fast 搜尋,再用 Rerank 5 重排候選內容,並由聊天模型根據來源生成附引用答案。

  4. 阿里雲開發者社區 AI44

    企業文件底座如何支撐 AI 知識中樞:內置 AI、開放介面與 CLI 的分工

    企業知識庫以統一文件底座承載權威知識,並由內置 AI、開放介面和 CLI 分別支援員工、業務系統及外部 AI 助手使用。以 zyplayer-doc 為例,底座涵蓋多格式文件、細緻權限、私有化部署及長期維護。接入時須處理帳號身份、權限、來源展示,以及外部內容副本的同步和更新。

  5. InfoQ36

    InfoQ 開放 1 月 6 日梯次報名:涵蓋生產級 AI、架構取捨與團隊設計

    InfoQ 開放六個線上 cohort 工作坊報名,課程涵蓋 AI 工程、軟件架構及高效能團隊,為期五週,於 1 月 9 日至 22 日開始。每週包括四小時導師帶領的直播、獨立應用練習及課程專屬總結項目,參加者會將框架應用於工作中的決策。每人費用為 USD 1,470;完成課程需出席、積極參與並完成總結項目。

  6. DEV Community26

    將 AI 整合至現有軟件:架構、API 與開發考量

    將 AI 整合至現有軟件產品,不只是連接 API,還要先界定合適用途,並評估現有架構、數據質素、安全、效能及維護需要。常見整合方式包括 API、專用 AI 微服務及事件驅動架構,各有延遲、成本、營運複雜度和可擴展性方面的取捨。開發者亦應處理數據準備、私隱、提示詞注入、AI 成本及功能測試。

  7. DEV Community41

    2027 年打造可投入生產環境的 AI:超越原型的 5 項工程教訓

    面向 2027 年,AI 工程團隊須由製作原型轉向營運可靠的生產系統,並重視智能體權限邊界、RAG 評估、安全及整體工程能力。2026 年一份報告指出,30 個主要醫療系統中,43% 的高管表示正試行或測試智能體 AI,但只有 3% 表示已部署至實際工作流程。項目投入生產前,團隊亦應測試失敗情境、限制工具權限、保護敏感資料,並監察延遲和營運成本。

  8. DEV Community26

    企業 AI 整合:如何連接現有業務系統

    企業將 AI 接入既有業務系統,應先評估現有基礎設施、資料來源及工作流程,再以整合層管理資料存取、轉換、權限驗證和監察。架構可按用途選用 API 模型整合、RAG 或獨立 AI 服務,並確保沿用現有存取權限。系統亦需兼顧擴展性、可靠性,並以回應準確度、處理時間、成本及工作流程完成時間等指標評估成效。

  9. 阿里雲開發者社區 AI44

    工程機械配件為何難獲 AI 推薦?從零件號到證據鏈逐項排查

    工程機械配件難獲 AI 推薦,關鍵在於資料未能把配件身份、設備適配、技術證據及供應狀態連成可搜尋、可核驗的關係。「AI推薦信號」是企業分析產品資料完整性和搜尋可見性的實踐框架,並非統一評分指標。文章建議以規則初篩、技術證據檢索及 AI 解釋整理適配資料;資料不足時應要求補充資訊或標示待核驗,而非推斷配件適用。

  10. DEV Community28

    如何用 AI 和結構化數據為房地產建立超本地化內容引擎

    這份教學説明如何結合 AI 內容生成與結構化數據,建立房地產超本地化內容引擎,以擴大本地搜尋引擎優化所需的內容產出。架構涵蓋本地資料匯集、AI 草稿生成、人工審核、結構化標記及發布,並透過成效監測回饋持續改進。生成內容包括社區指南、物業類型説明及常見問題。

  11. 阿里雲開發者社區 AI25

    AI與低代碼雙向賦能,助力企業數碼轉型

    JeecgBoot低代碼平台結合低代碼與AI,透過自然語言開發及企業級應用底座,支援業務應用構建與自動化執行。平台提供AI Skills、MCP插件及RAG知識庫問答,並支援對接主流大模型。Gartner預測,2026年全球80%的新應用將透過低代碼構建。

  12. 阿里雲開發者社區 AI45

    大模型驅動下的服務智能化轉型:2026 年前沿 AI 客服產品推薦

    2026 年智能客服的競爭重心由回答準確度轉向任務執行,Agent 透過編排多個系統接口,完成退款、改地址等流程。阿里雲瓴羊 Quick Service 支援十餘類高頻操作,複雜業務處理時長可縮短約 60%,單筆業務處理時間可由十分鐘級縮至五秒內。選型應評估任務辦結率、多輪韌性、跨渠道連貫等六個維度,並預先訂明執行權限、數據隔離及人工複核要求。

  13. 阿里雲開發者社區 AI29

    2026年智能客服系統推薦:阿里雲瓴羊 Quick Service 如何提升企業服務響應效率

    阿里雲瓴羊 Quick Service 以 AI Agent 為核心,連接訂單、物流及售後系統,讓用戶在對話中完成改地址、退換貨等任務,將智能客服從回答問題延伸至執行操作。公開數據顯示,其 AI 自主解決率超過80%,複雜多輪業務辦理成功率達87%,複雜業務處理時間縮短約60%。平台支援多模型調度、全渠道接入及人機協同。

  14. DEV Community30

    大規模設計高效能向量索引:企業級 RAG 系統中的 HNSW 與 IVF-PQ

    文章比較企業級 RAG 系統的大規模向量索引方案 HNSW 與 IVF-PQ,評估兩者的搜尋表現、記憶體佔用及建置成本。HNSW 經適當調校後,召回率通常為 95% 至 99%+,查詢延遲可低於 15ms,但記憶體佔用較高、建置較慢。IVF-PQ 可大幅壓縮向量、降低記憶體需求,但需要訓練階段,召回率亦受中心點及碼本訓練影響。

  15. DEV Community59

    2026 年 Postgres 電商產品檢索證據保留:審計日誌設計

    文章主張,電商產品檢索應以只追加的審計事件記錄決策輸入、候選項目、政策版本及引用證據,而非把最終答案或一般應用程式日誌當作充分紀錄。建議保存穩定文件修訂 ID、候選排序與分數、准入證據和引用 ID,並以帶密鑰的 HMAC 指紋代替預設保存原始查詢或內容;使用唯一 event ID 和冪等寫入處理重複投遞。

  16. DEV Community46

    檢索文件互相矛盾時,別把判斷交給模型:Harmonic RAG

    Harmonic RAG 將檢索文件的矛盾視為檢索問題,主張先辨識並處理衝突,再讓模型生成答案。流程會擴大檢索範圍,按時效、來源、範圍及其他文件的支持度評分,並以 NLI 模型判斷文件是否真正矛盾。若衝突未解,最多再搜尋 3 次;仍無法定出勝方時,互動情境會詢問用戶,非互動情境則以圖中心性打破平局並交代理由及保留事項。

  17. 阿里雲開發者社區 AI18

    AI智慧醫院系統原始碼開發探索:智能導診、輔助問診與醫療服務如何融合?

    AI智慧醫院系統原始碼開發聚焦整合智能導診、AI輔助問診、患者服務管理、醫生工作站及醫院管理後台,並探討醫療系統對接、AI模型集成、數據安全與系統擴展。AI生成內容只供醫生參考,診斷、處方及治療方案仍須由具備資質的醫務人員決定。

  18. DoNews38

    騰訊優圖實驗室研究總監孫星離職

    騰訊優圖實驗室研究總監、專家研究員孫星已離職。他於2016年加入騰訊優圖實驗室,早期研究醫療影像 AI,參與肺癌識別和糖尿病視網膜病變篩查研究。進入大模型時代後,他轉向多模態大模型、Agent 與 RAG,參與 Video-MME、VITA、Youtu-VL、Youtu-Agent 和 Youtu-GraphRAG 等項目。

  19. AWS Machine Learning Blog64

    Amazon Bedrock Managed Knowledge Base 如何按租戶自訂回答

    Amazon Bedrock Managed Knowledge Base 可透過檢索指令,為不同租戶設定各自的回答語氣、格式、檢索指引及回答政策。檢索指令本身不限制可檢索的文件,需配合 metadata filter 或分開的知識庫控制租戶資料存取。文章亦示範如何固定指令版本、逐租戶推出更新,並從 Planning trace 確認回應採用的指令版本。

    推薦理由:文章拆解租戶指令與 metadata filter 的分工,並示範如何固定版本、追蹤回應及逐租戶推出變更,以管理指令更新。

  20. AWS Machine Learning Blog69

    Amazon Bedrock Managed Knowledge Base 支援表格搜尋

    Amazon Bedrock Managed Knowledge Base 現已支援表格搜尋,可透過 AgenticRetrieveStream 請求結合 CSV、XLSX 或 XLS 表格計算與相關文件資訊,回答分析問題。

    推薦理由:文章以財務政策、結賬備忘錄及 P&L 活頁簿示範如何結合文件規則與全表計算,並透過追蹤記錄查看程式讀取的檔案。

11月16日週一
  1. DEV Community61

    大語言模型是壓縮器:Edoardo Dusi 用 gzip 示範聊天機制

    Edoardo Dusi 以 gzip 搭建沒有神經網絡、GPU 或模型權重的聊天示範,説明壓縮與預測可以視為同一類工作。示範使用其網站整理的 477 條問題、104 個答案及 26 KB 資料,按壓縮距離檢索相近問答,距離高於 0.45 時拒答。在 20 條測試問題中,它對 15 條有答案的問題答對 10 條,並拒絕全部 5 條沒有答案的問題;作者説這只是示範數字,並非基準測試。

  2. DEV Community55

    私隱 PDF 檢索的分塊邊界:一套便於遷移的架構

    文章為私隱導向的個人知識管理器提出一套便於遷移的 PDF 檢索架構,透過分階段處理、明確指定資料集合、限制查詢範圍及保留來源脈絡,讓更換向量服務時毋須改寫答案層。檢索單位應包含文件、頁碼、章節、來源版本和存取範圍等中繼資料,並按新鮮度及權限篩選結果;答案須附帶來源引用。文章以 Infrai 的 REST API 作為適配器例子,並建議用具代表性的 PDF 測試召回率、引用正確度及舊版本比例。

  3. DEV Community56

    miPDFlib 如何在 .NET 服務中將 PDF 轉成供大語言模型流程使用的 Markdown,免用 Python 和原生程式庫

    miPDFlib 可在 .NET 服務中分析 PDF 版面並匯出 Markdown,亦可按標題切分供 RAG 使用的內容區塊,無需 Python 或原生程式庫。在 42 篇未參與欄位偵測開發的近期 arXiv 論文中,跨欄文字順序與 LaTeX 原文平均匹配率為 96.9%,完整分析約需每頁 5 ms。工具不提供 OCR,依賴啟發式版面分析,環繞圖片的雜誌排版及部分表格仍可能處理不完善。

  4. DEV Community64

    小型團隊何時值得自託管 LLM:成本、硬件與任務取捨

    小型團隊是否適合自託管 LLM,取決於資料是否必須留在內部、請求量是否穩定,以及工作是否需要判斷力。作者以 36 封真實財務電郵測試,託管模型正確抽取 32 封的答案,本地 4B 模型則抽取正確 13 封;兩者平均每次呼叫分別約需 2 秒和 23 秒,整個 Agent 羣組的託管 API 費用每日約五美仙,因此作者把判斷工作轉至託管 API,保留 embeddings 在本地。

  5. DEV Community61

    Decodo 的 /map API 如何列出網站頁面

    Decodo 的教學示範如何用 /map API 擷取網站 Sitemap 和頁面連結,再按路徑篩選納入 RAG 的頁面。在 modelcontextprotocol.io 的例子中,361 個 URL 經篩選後剩下 57 個,對應 2026-07-28 規格版本。教學亦示範定期重新執行 /map,比對已儲存清單以找出新增和移除的頁面。