跳到正文
10月24日週六
  1. DEV Community36

    RAG 解説:如何讓 LLM 使用你的專屬資訊

    RAG(檢索增強生成)會在收到問題時搜尋相關文件片段,連同問題提供給 LLM,讓模型根據可控的實際內容作答,而非只依賴既有知識。文件切分、嵌入向量和向量資料庫都會影響效果;更新文件即可改善助理,無須重新訓練,並可引用資料來源以供核實。

  2. LangChain:Blog64

    LangChain 解説智能體上下文工程如何從檢索開始

    LangChain 以 Deep Agents 為例,説明智能體如何透過檢索按需取得資訊,並控制搜尋效率、上下文用量及資料相關性。文章建議按任務選用 glob、grep、語義搜尋或搜尋 API,分頁讀取大型檔案,並把檢索結果交由子智能體篩選後再摘要。文章亦提醒使用時效資料來源、核對引用來源與主張,並將檢索文字視為不可信資料,以應對提示詞注入風險。

  3. DEV Community54

    Go 市場平台刊登檢索:四道私隱閘門及有界檢索設計

    文章為市場平台刊登檢索提出四道私隱閘門和有界檢索設計,並附上 Go 集合發現範例。設計要求明確指定集合、核對受眾、限制候選結果數量,並保留來源脈絡;更新和刪除須以冪等方式處理。索引推廣前應以小型標註集評估檢索品質和延遲,Go 範例則透過 Infrai REST API 列出向量集合,並支援 HTTP 429 的 Retry-After 重試。

  4. 阿里雲開發者社區 AI44

    解決大模型單輪對話侷限:DAG 與狀態機工作流編排原理、差異對比及應用實踐 26.7

    DAG 與狀態機是大模型工作流編排的兩種核心範式,分別以任務依賴和狀態流轉為重點。DAG 適合流程固定、無循環的批量任務,例如 RAG 流水線;狀態機則適合具備動態分支、循環或回滾需求的智能體交互場景,實際應用可按任務複雜度與交互需求選用或結合兩者。

  5. AWS Machine Learning Blog63

    Bayer Crop Science 如何透過 Amazon Bedrock AgentCore 與 AWS Unified Operations 建構 Agentic Decision Engine(ADE)

    Bayer Crop Science 基於 Amazon Bedrock AgentCore 建構 Agentic Decision Engine(ADE),作為 Connected Decision Engine(CDE)的多智能體自然語言介面,讓用戶查詢工作流程狀態、結果、模型行為及故障。

    推薦理由:文章整理 ADE 從設計到投產的關鍵工程取捨,涵蓋狀態持久化、身份與工具權限、任務級監測及成本歸因,提供多智能體系統落地的具體參照。

10月23日週五
  1. DEV Community45

    具備產品思維的軟件工程師

    具備產品思維的軟件工程師須瞭解業務,並以工作對公司的實際成效衡量成果;單有技術能力已不足以構成差異。AI 已承擔編寫程式碼的工作,因此理解業務、決定要構建甚麼,以及判斷程式碼能否解決問題,變得更重要。文章亦指出,清晰的架構和 AI harness 有助提升 AI 產出的準確性與可靠性。

  2. n8n Blog44

    AI 智能體記憶:LLM 智能體如何在生產環境管理狀態

    LLM 智能體透過外置記憶層儲存資訊,並在每次呼叫前檢索相關內容加入提示詞,以跨工作和工作階段管理狀態。短期記憶保留當前工作狀態,長期記憶則跨工作階段保存偏好、任務結果及公司知識;RAG 讀取既有資料,但不會記錄智能體的新發現。記憶系統由資料儲存、寫入邏輯和檢索介面組成,可採用向量資料庫、純文字檔、知識圖譜或混合架構。

  3. Unite.AI52

    如何為薪酬、大學收生等容錯代價高的領域設計 AI,並界定語言模型的止步點

    澳洲薪酬合規平台和大學收生產品的設計,將涉及金額或法律後果的決策交由確定性規則處理,語言模型只負責解讀和説明。文中指出,美國五分之一的薪酬計算有錯誤,平均每宗成本為 $291,未計訴訟成本;Stanford RegLab 測試的 RAG 商業法律研究工具仍有 17% 至 33% 的模型幻覺。

  4. DEV Community32

    我正在打造 AdeloopData:以語義層連接原始數據與 AI 分析

    AdeloopData 是作者正在打造的 AI 數據分析平台,讓用戶連接外部數據來源或上載數據集,整理成供 AI 輔助分析使用的語義域。平台提供互動式 Notebook 及類似 ChatGPT 的數據分析對話介面,兩者可共用數據脈絡及指標、實體、關係和業務規則等定義。語義層協助統一不同工作流程的數據含義,但查詢和計算仍須在相應數據或執行環境中進行。

  5. DEV Community55

    LLM API 新成本曲線如何影響 AI 個人項目預算

    LLM API 按輸入及輸出 token 等用量計費,AI 個人項目的實際成本亦受上下文長度、回覆長度、互動頻率和應用設計影響。以每月 1,000 次請求、每次 2,000 個輸入 token 和 500 個輸出 token 為例,假設每百萬個輸入 token 收費 $0.50、每百萬個輸出 token 收費 $2.00,估算月費為 $2.00;這些價格僅為計算示例。

  6. DEV Community43

    RAG 為何在規模化時失效,以及如何解決:試點為何停滯、如何正式推出

    RAG 試點停滯的主因是組織問題,而非技術問題;權責不清、成功指標事後才訂,以及工具選擇先於工作流程,都是常見障礙。成功推進的團隊會聚焦單一用途、每週量度成效,並為 RAG 設立明確負責人。兩週內可完成用途與指標決定、指派負責人、部署最小版本並評估是否繼續。

  7. DEV Community68

    LLMOps 是供應鏈管理:鎖定無法控制的輸入

    文章主張 LLMOps 應把語料、提示詞模板、工具回應和模型版本視作依賴項管理,而非只關注模型本身。建議在文件進入檢索索引前設置閘口,以追加式清單記錄 sha256、來源及信任級別,並由檢索層執行信任規則。另應關聯提示詞雜湊、評測執行 ID 和部署 ID,並記錄檢索文件及工具呼叫等追蹤資料,以便回查答案所用輸入。

  8. DEV Community56

    如何按 RAG 流程的延遲預算選擇 Cohere Rerank 5 Pro 或 Fast

    Cohere Rerank 5 提供 Pro 和 Fast 兩個層級,本文按 RAG 流程的品質要求與延遲預算説明選擇方式。Cohere 報告的每次 96 份文件請求中位延遲分別為 11.7s 和 4.1s;Pro 在其 46 組綜合數據集中的 39 組勝出,品質數據尚待獨立複測。文章建議以代表性查詢測試兩個層級,並指出 Cohere 尚未公佈 v5 每請求定價。

  9. 阿里雲開發者社區 AI56

    Claude Code 召回應帶多少條?調整 top-k 和閾值的實踐記錄

    作者在 Claude Code 的程式碼倉庫工作流中接入 ctxdb,以 top-k 和 threshold 調整記憶召回,並把硬約束與候選資訊分開組裝。任務目標、規則及執行狀態固定優先注入,個人經驗用 memory search 查找,團隊規範則透過 kb search 查閲原文;top-k 設定返回上限,threshold 用於篩除低分結果。

  10. 阿里雲開發者社區 AI31

    國內智能客服系統推薦與多維功能比較:聚焦阿里雲瓴羊Quick Service

    阿里雲瓴羊Quick Service以AI Agent閉環執行為核心,讓系統從回答問題延伸至辦理客服事務,並採用模型、平台、應用三層架構。系統可自動完成15類高頻業務操作,複雜多輪業務辦理成功率達87%。選型時應着重核驗任務完成率、轉人工時的上下文銜接,以及知識庫的持續營運機制。

  11. 阿里雲開發者社區 AI27

    AI 教培智能體的開發技術

    AI 教培智能體技術框架涵蓋感知接入、大腦推理、教學動作執行、知識與儲存支撐,以及安全與運維保障五個層級。框架支援語音交互、多模態識別、教學策略引擎及多智能體協作,應用於個人化、專業化的英語教學。

  12. DEV Community66

    在 Amazon Bedrock 上構建正式環境 RAG 聊天機械人,實際會遇到甚麼?

    作者以 NestJS、PostgreSQL、pgvector、混合搜尋(RRF)及 Claude on Amazon Bedrock,構建生產級文件問答系統。文章拆解文件匯入、分塊、向量與全文搜尋、提示詞快取和 API 流程,並示範如何用 RRF 合併兩路搜尋結果。文中亦指出重新索引時清除過期分塊等維護細節,並列出尚未實作的 Unicode 正規化、對話歷史改寫及引用驗證。

  13. DoNews57

    LlamaIndex 推出 4B 文件解析模型 OCRia-1

    LlamaIndex 推出視覺語言文件解析模型 OCRia-1,並已將其整合至 LlamaParse,現有用戶無需加價即可獲得這項解析能力。OCRia-1 在 ParseBench 綜合得分 87.4,在 350 億參數以下梯隊排名第一;其圖表專項得分 85.1。LlamaIndex 以超過 10 萬頁文件建立訓練數據集,並結合 SFT 與 RLVR 訓練。

  14. DEV Community60

    AI 文件聊天機械人為何找不到答案?五個排查環節

    文件問答聊天機械人答錯,通常不是模型本身出問題,而是文件處理或搜尋沒有把正確段落交給模型。文章逐項檢查文字擷取、分塊、嵌入向量、搜尋設定及送入模型的內容,並建議用相同測試問題核對修正前後。文中示例修正前8題答對3題,修正後8題全對,未涵蓋的問題則明確回答文件沒有相關內容。

  15. DEV Community38

    大家都在錯誤地構建 AI 智能體,日誌足以證明

    不少團隊把工具呼叫、帶記憶的聊天機械人或循環程式都稱為 AI 智能體,導致簡單流程過度工程化、複雜系統設計不足。實際部署多集中於客服分流、文件擷取和特定程式碼庫的程式碼審查,成效關鍵在工具設計、失敗處理和可觀測性。RAG 的檢索問題往往出在分塊或中繼資料,而非嵌入模型。

  16. HuggingFace Daily Papers(社區熱門論文)48

    複雜的智能體記憶是否總是必要?樸素 RAG 比我們想像的更強

    研究發現,在多項對話記憶基準測試中,直接檢索原始對話歷史的 Raw-RAG 整體表現勝過複雜的智能體記憶系統。Raw-RAG 在七種基準測試與模型設定中的六種排名第一,較最強的受測智能體記憶系統高 0.13–5.53 分。結果顯示,保留原始證據有助提升必要資訊的覆蓋率,樸素 RAG 是評估對話記憶系統的重要基線。

  17. DEV Community52

    法律合約審閲工作區如何在索引成本壓力下復原檢索故障

    作者提出法律合約審閲工作區的檢索故障復原方案,將工作分階段並限制重播範圍,只重播受影響的合約區塊。方案以租戶、文件識別碼、版本和區塊位置建立穩定身份,並記錄集合、授權脈絡及來源識別碼;遇到 HTTP 429 時按 Retry-After 延遲重試,且不得無聲擴大至其他租戶或版本。

  18. DEV Community60

    網頁抓取與嵌入向量流程:端到端構建可引用的頁面變更提醒

    文章拆解一套媒體市場研究用的網頁抓取與嵌入向量流程,分成五個可獨立重試的階段,並以來源 URL 支援可追溯的變更提醒。五個階段依次為頁面發現、URL 去重、抓取、分塊與嵌入,以及向量寫入;600 個頁面的示例中,只有 55 個頁面到達向量索引環節,作者註明數字僅供説明,並非基準測試。流程要求為索引記錄保留來源 URL 和內容雜湊,索引確認寫入後才更新頁面狀態,並以冪等鍵避免重複提醒。

  19. DEV Community54

    AI 智能體測試實用指南:如何評估可靠性、工具使用與模型幻覺

    這份 AI 智能體測試指南説明如何驗證智能體的任務結果、工具執行及安全行為,而非只檢查最終回覆。指南列出 7 個測試面向,並提出定義預期行為、建立代表性測試集、檢查執行軌跡及重複回歸測試等流程。它建議以明確通過標準、確定性檢查和系統紀錄核實關鍵結果,並在部署後持續監察。

  20. DEV Community59

    LLM 回應緩慢時,GPU 未必是問題所在

    Ahmed Adawy提出一套診斷生產環境 AI 系統延遲的方法,建議先找出請求在哪些環節耗時,再考慮調整硬件或模型。他建議記錄檢索、模型首段內容及串流轉發等階段,並按模型、輸入長度和版本等維度比較追蹤資料。文中的檢索設定案例使用虛構數字;作者建議在控制模型等條件下進行對照測試,同時評估延遲和答案質素。

  21. DEV Community58

    Node.js 多租戶支援中心檢索:3 項引用檢查及其原因

    文章建議多租戶 SaaS 支援中心將持久化索引與即時查詢分開,並在排序前套用租戶中繼資料篩選,讓每個答案可追溯至租戶範圍內的來源。定期更新的文章適合持久化向量索引,即時更新要求高的內容可採用即時搜尋或擷取;頻繁重建索引會增加索引及嵌入向量工作,即時檢索則會增加請求延遲和依賴。文中提供程式檢查引用的租戶、文件和內容區塊是否與同一租戶實際返回的結果相符,並建議記錄各檢索階段的事件。

  22. AWS Machine Learning Blog48

    IskayPet 如何透過 Amazon Bedrock Managed Knowledge Bases 整合企業知識

    IskayPet 以 Amazon Bedrock Managed Knowledge Bases 建立企業知識助理,整合分散於 SharePoint 的營運資料,讓員工以自然語言查詢。助理支援四種語言及三個國家,按文件權限檢索並提供來源引用;託管 RAG 免除自行管理向量資料庫、嵌入向量及資料擷取流程。團隊使用 Kiro 和 Claude Haiku 4.5 建構整套方案。

  23. DEV Community58

    線上課程導師檢索架構:索引成本與方案選擇

    作者提出線上課程導師採用分階段檢索架構,將資料匯入、查詢及引用分開,透過明確集合、查詢上限和可追溯來源,讓索引成本與答案品質可被檢查。查詢最多返回 8 個片段,並為每項資料保留租戶、課程、報讀範圍、課堂和來源位置等中繼資料,再以召回率、精確率及引用覆蓋率評估檢索。