跳到正文
10月16日週五
  1. DEV Community63

    多租戶 RAG 向量搜尋的 metadata 過濾實測:低選擇率下後置過濾會回傳不足結果

    RecallRun 作者比較多租戶 RAG 的三種向量搜尋過濾方法,發現篩選條件與查詢內容無關時,後置過濾會隨選擇率下降而回傳不足結果。測試使用 100,000 個向量;在內容無關的分佈中,選擇率為 1% 時抓取前 100 個結果,後置過濾平均只保留 1.9 個,而選擇率為 0.1% 時圖內過濾延遲為 74.22 ms。

  2. DEV Community47

    為作品集 AI 助手建立個人知識圖譜

    作品集 AI 助手應以人物、項目、技術、角色、成果和來源構成小型本體,將作品集建模為附有證據的聲明。圖譜檢索適用於關係問題,向量檢索則用於語義相似度;回答須附來源,資料不足時拒答,並只索引可公開內容。評估應涵蓋實體解析、證據召回、引文正確性、無根據聲明比例、拒答質素及延遲。

  3. DEV Community31

    AI 現在能回答任何面試問題,我們因此為銷售通話打造即時助手

    作者團隊打造供銷售通話使用的即時 AI 助手,並明確表示不應用於面試。本機 C++ AI 智能體擷取通話音訊,由 Deepgram 即時轉錄,再把文字及相關知識庫內容傳送至雲端 LLM,於通話期間顯示提示;每家公司知識庫約有 100 頁文字。團隊仍在處理延遲、提示相關性,以及是否向通話另一方披露使用助手等問題。

10月15日週四
  1. DEV Community60

    用約 80 行 Python 在自有文件上評估 Anthropic 的 Contextual Retrieval 分塊前綴方法

    Gabriel Anhaia 提供約 80 行 Python 程式,讓用戶以自己的文件和 30 條人工標註問題,比較加入上下文前綴前後的 RAG recall@5。程式以 Claude Haiku 5.5 為分塊生成上下文,並結合 text-embedding-3-small 向量搜尋與 BM25;作者亦説明提示詞快取如何減少重複傳送文件的成本,以及標註和解讀結果時的注意事項。

  2. DEV Community44

    I Built a Faceless Video Factory That Remembers Which Content Pays

    Faceless Video Factory 是一套本地優先的影片製作流程,透過 Backboard 持久記憶記錄營收結果,並據此選擇下一條影片的主題。示範中,冷啟動時沒有回憶到資料;暖啟動時回憶到 4 條事實,並轉向曾帶來 $61.30 營收的主題。影片腳本由本機 llama.cpp 執行的開放權重 qwen 模型生成,Backboard Memory + RAG 是唯一雲端呼叫。

  3. DEV Community31

    AI 應用程式開發:打造 AI 驅動應用程式的完整指南

    開發 AI 應用程式須先界定問題與實際用途,再選擇技術、管理數據,並規劃系統在真實環境中的可靠運作。常見類型包括生成式 AI、聊天機械人、預測式 AI 和電腦視覺,可用於內容生成、預測及圖像影片辨識等任務。應用成效亦取決於數據質素、介面設計、回應速度、存取權限和風險控制。

  4. DEV Community57

    如何打造不受污染的 Agent 記憶架構

    文章提出以三層結構管理 Agent 記憶,分為已驗證事實、人工批准的決策,以及登出後清除的短期暫存。作者建議為各層設定 TTL、來源標記和讀取排序,並以跨工作階段的 poisoning suite 測試錯誤資訊是否洩漏。

  5. DEV Community31

    W2 Dev Challenge - MUNHelper

    MUNHelper 是為模擬聯合國代表設計的 ECOSOC 決議研究助理,透過 RAG 和開放權重 LLM 搜尋決議,並提供附有上下文引文的回答。它支援語義搜尋、更新決議文件及透過 Ollama 本機推理,讓用戶可在離線環境查找資料。作者測試指出,工具減少了翻閲 PDF 檔案的時間,並可在沒有流動網絡的模擬會議中使用。

  6. DEV Community50

    如何防止 AI 重複犯錯:從持久規則到自動驗證

    防止 AI 重複犯錯的做法,是把單次更正轉成可重用規則,並配合錯誤記錄、檢索及驗證流程。規則可存入專案指示、系統提示詞、持久記憶或版本控制設定,再透過 RAG 檢索相關內容;軟件任務則可用測試、型別檢查及回歸測試偵測問題。文章指出,微調通常不是開發者的最佳起點,也不能取代外部記憶、最新資訊或執行時驗證。

  7. DEV Community40

    When LLMs Outsmart Their Manuals: Version Conflict Detection in Trading Agents

    一個 LLM 交易智能體在處理交易訊號時,發現 RAG 知識庫記載的子帳戶上限與即時系統設定不符,遂優先採用較新的 v0.32.436 設定,將上限定為 2,而非知識庫所列的 3。文章説明如何透過注入即時 metadata、提示詞交叉核對版本,以及必要時呼叫工具取得設定,協助智能體處理過時資料。

  8. DEV Community60

    綠色勾號並不可靠:Cron 工作、工作程序與無聲 Web API 的後端錯誤追蹤

    文章提出一套適用於 Cron 工作、工作程序和 Web API 的錯誤追蹤設計,分開監測任務是否啟動、是否完成、是否拋出例外,以及結果是否符合應用程式合約。排程期限監測、完成訊號、例外事件和 schema 或 domain assertion 各自對應不同失效情況,並可用 run ID 串連。

10月14日週三
  1. Unite.AI32

    甚麼是 Hybrid Search?結合關鍵字與向量改善檢索

    Hybrid Search 結合詞彙匹配與向量相似度,令檢索既能匹配精確詞項,也能識別語義等價內容。其流程包括關鍵字或稀疏檢索、密集向量檢索、分數或排名正規化、合併候選清單,以及重新排序和篩選。只用 BM25 或嵌入向量作為唯一訊號,並不能呈現這種混合檢索的運作方式。

  2. DEV Community39

    推薦產品前:B2B 搜尋實驗揭示訪客意圖

    MilliporeSigma 的站內搜尋實驗取消自動完成中的直接產品推薦,改用搜尋詞建議協助訪客表達任務需求。團隊自述,搜尋互動和後續加入購物車均錄得雙位數增幅,但樣本分佈未公開,亦缺少信賴區間。文章建議追蹤規格錯誤退貨、每次結帳引發的技術支援查詢比例及 RFQ 合資格率,避免只看即時指標。

  3. DEV Community58

    Postgres 檢索架構:多租戶 SaaS 支援中心的資料結構設計

    多租戶 SaaS 支援中心應以 Postgres 保存身份、租戶歸屬、內容新鮮度和引用資料,並把向量索引視為可替換的投影。檢索單位應是可獨立引用、更新和刪除的最小來源段落;索引副本預算則需計入單位數、語系、並存嵌入版本及環境。文章建議以相同語料和標記查詢比較 pgvector、Pinecone、Qdrant、Weaviate 等方案,並把租戶隔離、遷移期間的重複副本和引用追蹤納入評估。

  4. AWS Machine Learning Blog57

    Orca Security 以 Amazon Bedrock 建構自然語言安全查詢系統

    Orca Security 在 Amazon Bedrock 上建構 Discovery AI,將自然語言問題轉換為 Sonar 查詢,並已在生產環境每日處理數千次查詢。相較初始基準,輸入 token 減少 93%、查詢成本降低 90%,端到端延遲由約 60 秒降至 15 秒。系統結合 RAG 範例檢索、Cohere Rerank 3.5、按階段分配模型,以及專家持續標註。

10月13日週二
  1. Lovable Blog46

    GPT Engineer:分支切換、熱門專案及可靠性改進

    GPT Engineer 新增提交目標分支選擇及 Hot Projects 分頁,並改善網絡錯誤偵測和大型專案的上下文管理。系統以 Retrieval-Augmented Generation(RAG)識別並檢索每次請求相關的程式碼,亦會自動偵測並補全「// rest of the code」等佔位內容,令程式碼完整並可運作。

  2. The Elec25

    ​MCloudBridge Unveils Ai 365 Unified AI Platform for Public, Education, and Research Institutions

    MCloudBridge 推出 Ai 365 Unified AI Platform,讓公共部門、教育及研究機構按資料敏感度、權限和政策,選用本地部署 AI 或外部 SaaS 服務。平台以 G1、G2、G3 分級路由資料,支援本地處理敏感資料,並可按政策處理後將 G2 資料交予公有 LLM。平台亦支援管理不同任務的 AI agents,並按查詢、資料特性和機構政策選擇處理環境。

  3. Unite.AI61

    AI 主動記憶與持久記憶有何不同:記住、檢索與遺忘的運作方式

    文章區分 AI 的主動記憶與持久記憶:前者涵蓋當前回應可用的資訊及應用程式維持的任務狀態,後者則是跨越回應或工作階段保留、供日後使用的資訊。它梳理資訊寫入、檢索、更新及遺忘的流程,指出資料已儲存不代表模型會自動取得,從提示詞中移除也不等於刪除所有保留副本。專案助理案例展示如何保留資訊來源、適用範圍、例外及狀態,以免把過時或未經確認的內容當成現行事實。

  4. Unite.AI44

    長上下文、RAG 與微調:應該選用哪一種?

    長上下文、RAG 與微調分別用於提供臨時資訊、選取外部證據及改變模型行為;選擇前應判斷問題屬於知識缺口還是行為問題。指南建議衡量文件數量及更新速度、測試長上下文基線,並在需要篩選及資訊新鮮度時加入檢索,只有面對重複行為需求才考慮微調。