跳到正文

#RAG

今日 8 條
今天11月22日週日8 則
  1. DEV Community57

    AI 客服幻覺:六個真實案例與修正方法

    作者整理了一套支援八種語言、為電動單車品牌處理電郵及即時通訊的 AI 客服系統中六個錯誤回覆案例,並説明各自成因與修正方法。修正措施包括把長對話整理成附來源和日期的事實、為每封草稿先搜尋知識庫,以及按新郵件重新生成自動回覆。個別訂單的對話輸入由 37,604 tokens 減至 4,722,該次回覆中的每項內容均正確。

  2. DEV Community61

    RAG 助手答對 7/10,如何找出其餘 3 題的失敗原因

    RAG 助手答錯時,先檢查實際檢索到的頁面,便可分辨問題出在未找對資料,還是模型未能正確使用資料。文章將基本 RAG 失效歸納為六類,包括漏檢、排名過低、分塊遺失標題、舊版本優先、模型誤用內容,以及答案分散在多頁。案例中,若混合搜尋和重排器分別修復兩題,答對率可由 70% 升至 90%;作者建議先處理低成本的常見問題,再考慮智能體循環或知識圖譜。

  3. DEV Community54

    招聘候選人搜尋如何平衡檢索品質與延遲備援

    文章提出,招聘候選人搜尋應把檢索品質與延遲視為同一回應契約,只執行預算內可完成且能提供證據的檢索,並明確標示降級結果。先套用硬性資格條件,若結果證據不足,只在剩餘預算內啟用一種備援;無匹配、證據不足與階段超時應分開記錄。作者建議以本地查詢重播調校門檻,並記錄各階段耗時、證據數量、語料快照及備援原因;違反硬性條件的結果不可因延遲壓力而接受。

  4. DEV Community56

    提示詞工程並不足夠:如何構建可靠的 LLM 應用

    可靠的 LLM 應用不能只靠提示詞工程,還須在 LLM API 外建立控制層,處理輸出驗證、逾時與重試,以及檢索內容檢查。文章建議以 Pydantic 在執行時驗證輸出結構,為 API 呼叫設定逾時和指數退避重試,並在 RAG 流程中篩選及核對檢索內容。提示詞應納入版本控制,部署前以結構化基準測試,並追蹤正式環境輸出,以留意模型更新時的漂移。

11月21日週六
  1. DEV Community54

    多租戶支援中心檢索架構:具新鮮度感知的 Schema 設計

    多租戶 SaaS 支援中心的檢索架構應把文章、修訂版本和文字分塊分表保存,以 tenant_id 隔離資料,並由來源記錄重建檢索索引。候選檢索和重複項分組都要套用租戶條件;發布前須確認任務對應的仍是最新修訂版本,避免舊分塊進入可搜尋狀態。文章亦建議先以向量搜尋提出候選,再以標準化文字等確定性檢查確認重複項。

  2. DEV Community55

    Python 刷新 Lever 職位空缺資料:區分新職位與內容變更

    這套 Python 流程透過定期擷取 Lever 職位空缺快照及比對指定事實欄位的內容雜湊,識別既有職位的內容改寫,而非只靠 `onlyNewSinceLastRun` 尋找新職位。內容未變時只更新來源記錄,改寫時則完整替換職位資料並停用舊文本分塊;`scrapedAt` 只保留作來源追溯,不納入雜湊。API 沒有更新或關閉時間戳,因此快照中缺席的職位應標記為未觀察,不能直接視為已關閉。

  3. DEV Community55

    如何設計寧可回答「不知道」的醫院 RAG:編碼前發現的 9 個陷阱

    作者提出一套醫院內部 RAG 助理架構,要求每項回答附上院內資料來源,資料未記錄時便不作推斷。設計以 EHR 為事實來源,並加入權限檢查、資料狀態區分、來源重新核對及逐項引用驗證等機制。這是根據設計檢視及假設情境提出的方案,並非正式實作、臨牀驗證或效能基準。

  4. DEV Community63

    RAG 系統仍會引用已刪除文件,因索引未同步

    RAG 系統可能在來源文件刪除或修改後,仍從未同步更新的索引檢索舊內容,因來源與索引是分開維護的副本。文章建議以文件而非個別分塊為同步單位,處理建立、編輯、刪除、移動及權限變更,並逐項測試索引是否及時反映。Microsoft 的 Azure AI Search 指引指出,軟刪除策略須在首次執行索引器前設置;事後補設仍不能移除先前已刪除、但留在索引中的文件。

  5. 阿里雲開發者社區 AI34

    LLM 文本私隱與匿名化方法綜述

    這項綜述梳理 LLM 文本私隱與匿名化方法的演進,指出研究已由靜態移除個人可識別資訊(PII),轉向兼顧語義效用、任務需求與合規性的動態決策。文中整理語義重寫、局部差分私隱、基準評估及代理私隱對齊等路線,並比較各自在表示質素、適應效率與計算成本上的取捨。

  6. DEV Community64

    RAG 架構圖:檢索增強生成應用如何組成

    這份 RAG 架構指南把應用拆成持續執行的資料匯入路徑,以及逐題執行的查詢路徑,兩者共用嵌入模型、向量索引和中繼資料儲存區。資料匯入路徑負責解析及切分文件、生成向量並保存權限標籤;查詢路徑則進行混合搜尋、權限過濾和重排,再讓 LLM 根據所選區塊生成附來源的答案。文中以取回 50 個候選、重排後選 8 個區塊為例,並建議固定嵌入模型版本、記錄各步驟,以及用固定問題集評估檢索來源和答案。

  7. 阿里雲開發者社區 AI44

    Qwen3.8-Flash 深度解讀:模型定位、特性、能力與訂閲收費説明

    Qwen3.8-Flash 是面向高頻、低延遲及成本敏感任務的輕量模型,適合批量內容處理、客服問答和資訊抽取等場景。它支援 JSON 結構化輸出、工具調用及文字與圖像輸入,並可透過百煉平台調用,兼容 OpenAI 與 Anthropic 風格接口。個人版 Token Plan 月費由 39 元至 312 元,額度按月重置、不結轉。

  8. DEV Community60

    mycs 扁平問答流程:先發布,才讓模型讀取

    mycs 以扁平問答整理知識庫,只有正式發布的條目才會進入模型的候選清單,答覆再由程式核對是否有原文依據。同一組 13 道題中,完全正確的題目由 7 道增至智譜版本的 10 道,再在 Qwen3.6 上增至 11 道;年假例子則由程式按已有 8 天、新增 15 天及上限 30 天算出 23 天。

  9. DEV Community28

    我打造了 Deskwise:供公司文件使用的私有 AI 助理(Django + Next.js)

    Deskwise 是作者打造的私有 AI 助理,能根據公司文件回答問題並標示來源頁面。系統按公司、部門或指定人士設定存取權限,並記錄上載、提問及下載;搜尋結合 70% 向量相似度與 30% BM25。產品已可運作,但尚未有收入或客戶;作者正出售完整原始碼及知識產權,並提供交接。

  10. DEV Community63

    GraphRAG 與 RAG 的差異在問題類型,而非準確率

    文章比較 Vector RAG 與 GraphRAG,指出應按問題類型選擇,而非只看準確率差距。作者在五章語料庫的 GraphRAG 測試中,索引約需 12 min 19 s,MCP query_graph 工具的平均查詢延遲為 22.5 s。作者未以同一組問題測試 vector-only 系統;這組數據來自一個小型語料庫,採詞彙實體和有序短語匹配衡量召回,並非跨項目比較。

  11. DEV Community51

    如何用 Python 建立本地化 SERP 監測流程

    教程示範如何用 Python 建立本地化 SERP 監測流程,涵蓋搜尋結果採集、解析、SQLite 儲存,以及按地點、語言、裝置和時間比較變化。文章建議保留原始回應,並把各項搜尋請求背景存為獨立資料,避免混合不同搜尋環境進行比較。SERP 數據亦可接入 AI Agent 或 RAG 工作流,並保留來源 URL、標題、摘要、擷取時間及搜尋查詢,以便審核。

  12. DEV Community61

    TypeScript 檢索狀態機:法律合約審查中的 4 種失效模式

    法律合約審查知識庫的 TypeScript 檢索方案以文件狀態機管理索引恢復,並在無法確認來源版本一致時拒絕生成答案。文件分為 pending、verified、stale 或 quarantined 狀態;候選索引須通過區塊數和 contentDigest 驗證,才可透過 manifest 原子發佈。文章亦列出重試、競爭發佈及摘要不符等測試情境。

  13. DEV Community62

    如何在不中斷服務下替換嵌入模型並重建物業知識索引

    作者提出一套供物業管理機械人在不中斷服務下替換嵌入模型的索引遷移方案:並行建立新舊索引、重播後續編輯與刪除,再原子切換配對的查詢編碼器和索引。Go 示例使用標準庫及確定性測試替身,演示變更重播、切換與回滾,但不代表實際檢索質素或吞吐量。方案要求核對新鮮度、引用和刪除狀態,並在回滾窗口內持續更新舊索引。

  14. DEV Community51

    餐廳菜單助理的向量搜尋與網頁搜尋:如何劃定爬取邊界

    餐廳菜單助理應採用分階段檢索:網頁搜尋只用於受限地發現候選菜單頁,答案則從指定向量集合取得,並為每個檢索片段附上來源 URL。流程按允許清單抓取並索引菜單,只查詢相應餐廳集合,並設定各階段逾時、結果上限和文件時效;證據不足時應追問或拒答。Infrai 可作為統一 REST 介面選項,其即時探索功能提供 295 個路由、涵蓋 20 個模組,但允許清單、資料保留和處理方邊界仍由應用程式負責。

  15. DEV Community47

    Node.js 教育科技搜尋:如何排查部署後找不到向量集合的環境設定問題

    Node.js 教育科技搜尋服務部署後出現「找不到向量集合」,通常是新環境設定的集合名稱未在該環境建立;啟動時應列出集合並核對設定名稱,缺少時令部署失敗。集合建立應放在明確且可重複執行的設定工作中,並於批量匯入前完成,不應放在學員的搜尋請求路徑。

  16. DEV Community55

    Node.js 候選人搜尋檢索管線採用 3 階段證據回退

    Node.js 候選人搜尋方案以 3 階段檢索處理回退:先查租戶私有索引,證據不足時再查經政策批准的共享人才池,最後查找公開網頁上的作品集資料。各階段沿用相同結果格式,保留來源識別資料與引用,並在合併結果後再次檢查授權;網頁結果標記為外部、信任度較低。程式範例為各階段設定時限,並只對 HTTP 429 重試一次。

  17. DEV Community50

    語義檢索如何改善房源搜尋與來源去重測試

    房地產房源搜尋的語義檢索問題,往往源自重複庫存和過時記錄;文章建議以分階段檢索、明確的資料集、有限查詢及可追溯的來源脈絡,建立可測試的檢索流程。比較 Pinecone、Weaviate、Elasticsearch 和 Infrai 時,應使用相同的標註問題集,評估召回率、重複率、過時結果率和來源網址引用能力。去重應在限定 top-k 檢索後按標準房源 ID 分組,保留最新記錄。

  18. DEV Community51

    旅行行程規劃器的語義檢索:處理刪除語義的 3 條規則

    文章提出,旅行行程規劃器應把刪除視為語義檢索契約,並在舊項目進入答案前,按穩定 item_id 移除或排除。流程分為資料攝取時套用刪除標記、查詢時按目的地和日期篩選有限候選集,以及按身份合併結果並在引用中帶上 source_url 和 updated_at;文中以 Infrai REST API 示範查詢邊界。

  19. DEV Community48

    AI 工作無聲失效:一位網絡工程師帶回的運維習慣

    Paul David Thompson 的 Whisper 轉錄流程因後端帳單問題停止運作,卻沒有觸發警報,直到有人發現才修復。他將網絡工程經驗帶入 AI 工具開發,主張從自有流程的瓶頸着手,並為排程工作加入故障監測、限制智能體的操作範圍及預備回滾。實際案例中,每宗交易的承保時間由 2 小時減至 15 分鐘。

  20. DEV Community59

    RAG 全流程:各階段解決甚麼問題,失效時又會怎樣

    Deployed Lab 的文章逐一説明 RAG 的搜尋、權限檢查、重排序與生成階段各自修正的問題,以及失效時會造成的結果。文中的虛構分數示例顯示,混合語義與關鍵字搜尋可讓現行退款政策升至首位,答案為 30 天;只有權限篩選會移除僅限法律部門閲讀的頁面。文章提醒,重排序無法補回搜尋未找到的頁面,提示詞中的保密規則亦不能取代在組成提示詞前執行權限控制。

  21. DEV Community50

    大規模內部工程文件的語義檢索評估集設計方法

    作者提出一套面向大規模內部工程文件的語義檢索流程,先訂立檢索契約,再以小型標註集評估有用上下文召回和固定成本下的取捨。評估集可從支援工單及 on-call 搜尋抽取 30–100 條真實問題,標註預期文件、可接受替代項和無答案案例,並追蹤 recall@k、結果新鮮度、引用覆蓋及向量數量。

  22. DEV Community46

    房地產房源探索的語義檢索:可靠的來源去重方法

    房地產房源搜尋應採用分階段檢索,先按穩定的房源身份去重,再對結果排序,並為每段內容保留來源連結和更新時間。Infrai 可透過純 HTTP 提供集合建立、資料寫入及查詢,但房源身份識別仍須由應用程式處理。生產環境應使用具冪等性的批次寫入,並透過變更佇列執行。

  23. DEV Community61

    本地 RAG 如何在證據不足時拒答

    文章提出一套本地 RAG 流程,要求答案以穩定來源 ID 引用直接支持的段落,並在資訊不足時返回 INSUFFICIENT_EVIDENCE。流程建議保留來源路徑、標題和內容雜湊,並用可回答、缺少事實及相關但不足的問題測試答案與拒答。相似度門檻應按自有數據校準,並在嵌入模型、語料或距離計算改變時重新測試。

  24. DEV Community66

    RAG 聊天機械人需要懂得何時不應回答

    Wei Chen 提出一套 RAG 聊天機械人的拒答設計與評估方法,讓系統在證據不足時避免編造答案,同時減少不必要的拒答。方法包括把回答標記為 answered、partial 或 insufficient,衡量 unsupported answer rate 和 unnecessary abstention rate,並分開排查檢索與生成失誤。

11月20日週五