跳到正文
11月9日週一
  1. 阿里雲開發者社區 AI46

    阿里雲國際版 OSS 向量 Bucket RAG 配置與降本教學

    阿里雲國際版 OSS 向量 Bucket 支援原生向量索引,並可透過 PutVectors 和 QueryVectors API 寫入向量及進行 KNN/ANN 檢索,用於 AI Agent 的 RAG 架構。降本方案是讓向量索引維持標準儲存,原始文件另存於獨立 Bucket,並設定生命週期規則轉為低頻或歸檔儲存。向量 Bucket 每個最多支援 100 張索引,單一索引最多容納 20 億條向量。

  2. 阿里雲開發者社區 AI31

    阿里雲國際代理商:Qwen3.8-Flash API 實操與出海 RAG 大模型降本指南

    文章提供使用阿里雲國際站百煉 Qwen3.8-Flash API 的實操指南,説明如何在出海 RAG 和 AI Agent 場景控制模型調用成本。內容涵蓋 OpenAI SDK 接入、按量計費、Prompt 快取及消費限額;並提醒按地域配對 API Key 與 Endpoint、以 RAM 子帳號和 IP 白名單管理密鑰,以及複雜任務須配置模型降級策略。

  3. DEV Community56

    如何在生產環境監控 LLM 系統?

    文章整理了生產環境 LLM 系統的監控做法,涵蓋單次請求記錄、多步追蹤、服務健康告警、輸出品質監測及敏感資料處理。每筆請求可記錄提示詞或範本版本、模型名稱、token 數、延遲、成本和結果;告警則聚焦持續錯誤率上升、p95 延遲退化及異常成本飆升。品質監測可結合抽樣人工審查、用戶回饋及結構有效性、拒絕率或檢索命中率等指標,並在記錄前遮蔽個人資料、限制敏感記錄存取和設定保留期限。

  4. DEV Community36

    AI 神經科學 — 第12章:案例研究 [KR]

    本章以案例探討神經科學原理如何啟發人工智能架構,並分析生物觀察如何抽象為工程機制及其優點與限制。案例涵蓋卷積神經網絡、強化學習、檢索增強生成、擴散模型、脈衝神經網絡、事件相機及神經形態處理器。章節強調,功能上的啟發不代表機制相同,生物類比須留意適用範圍。

  5. DEV Community30

    是否應該為網站加入 AI 聊天機械人?

    網站只有在 AI 聊天機械人能處理重複查詢、協助搜尋文件或引導用戶找到產品頁面時,才適合加入;不合適的聊天工具可能遮擋內容、拖慢載入,並因答錯問題或無法處理複雜查詢而影響用戶體驗。要降低模型幻覺風險,可限制其知識庫只使用已核實文件,並在無法回答時提供聯絡真人支援的途徑。

  6. 阿里雲開發者社區 AI56

    面試字節 AI 測試職位後才明白:面試官看重的不是用過 AI 工具,而是懂得為 AI 元件故障設計兜底

    作者根據面試字節 AI 測試職位的經歷,整理出按調用、推理、模型及消費四層拆解 AI 系統故障的兜底框架。框架分別以重試與熔斷、工具白名單與參數校驗、格式校驗與備用模型,以及權限校驗和人工確認應對不同失效。文章亦以 RAG 知識庫問答示例,説明如何透過提示詞設定拒答條件、相似度門檻及人工覆核,處理幻覺和錯誤檢索。

  7. 阿里雲開發者社區 AI29

    AI 英語測評系統開發:功能、實施流程與費用估算

    AI 英語測評系統整合語音評測 API、大語言模型、智能題庫及 Web、APP、小程序,支援音素級口語評分、作文批改、自適應組卷和學情報告。開發預算通常為 8萬元至50萬元+,按版本規模可分為 8萬 - 15萬元、15萬 - 35萬元及35萬 - 80萬元+。系統亦需持續支付語音評測 API、大模型 Token、伺服器及音視頻存儲等營運費用。

  8. DEV Community41

    Belcore 記憶層的 Token 節省取決於計算口徑:同一組基準測試的三個數字

    LongMemEval_S 評測中,完整對話每次輸入為 109,079 tokens,組合後的記憶上下文為 6,671 tokens,兩者相差 93.9%。27 題子集的計費輸入減少約 91%,但該子集經人工挑選,結果僅供參考,文章亦未評估答案準確度。多輪檢索在 103 題隨機樣本中的可歸因效果為 +2,落在 ±5.2 的雜訊範圍內,且未作為改進推出。

  9. 阿里雲開發者社區 AI31

    AI 英語教培智能體的開發

    AI 英語教培智能體結合大語言模型、二語習得理論與低延遲語音技術,採用「感知—大腦—行動」三層架構。系統支援流式 ASR/TTS、多模態互動、情境對話、分級糾錯、評測打分及教師教學支援。開發方案涵蓋 RAG 知識庫、多智能體協作、記憶追蹤、評測及持續迭代。

  10. DEV Community49

    如何排查負載下的向量搜尋延遲尖峯

    排查負載下的向量搜尋延遲尖峯,應先減少 top_k,並停止傳回完整清單描述文字,再判斷是否由索引造成。文章建議分開量度不同查詢形狀,讓索引只保留識別碼和精簡引用資料,並從系統記錄按需載入選定項目。Infrai 可透過一個 REST API、金鑰和帳單提供向量檢索;如有供應商特定的向量控制要求,專業服務仍較合適。

  11. 阿里雲開發者社區 AI31

    阿里雲2026年雙11大促來襲!輕量應用伺服器、ECS、GPU、百煉大模型、雲數據庫、OSS、無影雲電腦全線特惠

    阿里雲2026年雙11推出七大產品線優惠,涵蓋百煉大模型服務平台、輕量應用伺服器、ECS、GPU雲伺服器、雲數據庫、OSS及無影雲電腦。百煉新用戶可獲超1億免費 Token,輕量應用伺服器限量優惠價為38元/年,Token Plan個人版Lite由39元/月起。優惠亦包括ECS經濟型e實例99元/年。

  12. DEV Community59

    支援頁面 30 天變更追蹤:混合檢索與純向量搜尋的取捨

    文章比較支援頁面變更追蹤中混合檢索與純向量搜尋的取捨,指出查詢同時需要匹配精確產品識別碼、又要理解日常語言時,混合檢索才可能值得增加複雜度。以每天擷取 1,000 個監測頁面、持續 30 天為例,索引前會有 30,000 個快照;這只是示例工作量,並非實測費用。文章建議先用標註正確頁面版本與段落的查詢集,比較純向量搜尋和混合檢索的召回率及引用正確性。

  13. DEV Community63

    企業 Agentic RAG 的六階段證據流程,涵蓋準備、規劃、路由、篩選、組裝及回答

    文章提出一套企業 Agentic RAG 六階段證據流程,依次為準備、規劃、路由、篩選、組裝,以及回答與驗證。準備階段持續同步資料,其餘階段逐個問題執行;文件搜尋可用索引,即時資料則應查詢權威系統,MCP 只是介面,並不保證資料新鮮度。文章亦建議在證據送入模型或重排器前完成授權,並限制重試上限;示例設為最多 3 輪、8 次工具呼叫及 0.15 成本上限。

  14. DEV Community59

    比較 500-token 與 1500-token 分塊對 Marketplace 產品手冊檢索品質的影響

    文章提出比較 Marketplace 產品手冊中 500-token、1500-token 固定分塊與按標題分段的檢索評估方法,並未報告哪種方案勝出。建議預先建立 30 條問題,在固定嵌入方法、語料快照和檢索深度下,檢查結果是否包含完整支持段落及可用的引文定位。任何關鍵例外題出現無依據答案,即淘汰該方案;通過者再按檢索通過題數及索引規模比較,Infrai 是可納入測試的檢索服務之一。

  15. DEV Community49

    PrivaSearch:結合 SearXNG 與本地 LLM 的私隱搜尋

    PrivaSearch 結合 SearXNG 元搜尋、由 Ollama 執行的本地 LLM,以及 Node/Express API,生成附有引用的搜尋答案。查詢和答案只在記憶體中處理,答案串流至瀏覽器而不儲存;預設模型 qwen2.5:1.5b 約 1 GB,暖機後生成答案約需 8 s。可選擇經 Tor 或 VPN 轉送搜尋流量,但 Tor 速度較慢,部分搜尋引擎會封鎖 Tor 出口節點。

  16. DEV Community54

    Node.js 多租戶 SaaS PDF 説明中心的檢索架構設計

    文章提出一套 Node.js 多租戶 SaaS PDF 説明中心檢索架構,以明確租戶集合、有界查詢及跨分頁保留來源脈絡為核心。它建議把資料匯入、查詢和引用分開觀察,並在合約中定義資料新鮮度與文件版本,避免分頁跨版本時混合結果。作者建議重視自描述合約的團隊試用 Infrai,但指出文章未進行基準測試,應以同一組標註問題比較候選服務。

  17. DEV Community72

    RAG 正式環境的九類問題及解決方法

    vishalmysore 以瀏覽器實驗梳理 RAG 正式環境的九類問題及解法,涵蓋文件更新、索引一致性、嵌入模型遷移、事件遺失和答案快取。測試以 121 份虛構文件、128 條已知答案文件的問題進行模擬,作者説明這不是任何產品的基準測試。九項修復包括文件 ID、內容雜湊、結構分塊、版本切換、事件 outbox 與核對掃描、快取失效;混亂週模擬中,全部啟用後評級為 A。

  18. DEV Community32

    記憶與知識系統——第 05 章:混合式 LLM 系統

    混合式 LLM 系統結合語言模型的生成與推理能力,以及外部知識、檢索機制、持久記憶和可執行工具,以提供更切合情境的回應。系統以 RAG、知識圖譜和工具整合等元件管理知識與執行操作,並可分別改良元件而毋須重新訓練整個模型;持久記憶則須處理資料更新、記錄衝突、相關性和私隱問題。

  19. DEV Community30

    我們為 Flutter 端側 RAG 評測 SQLite、ObjectBox 與 ToStore:5 個維度的結果與架構比較

    移動架構團隊對 SQLite、ObjectBox 和 ToStore 進行 5 個維度的評測,比較它們用於 Flutter 端側 RAG 的架構與能力。評測顯示,ToStore 內置 NGH 向量索引、BM25 全文搜尋及 SPLADE 神經稀疏向量,並支援加權/RRF 多路融合。文章亦比較三者的 KV 儲存和架構演進能力。

11月8日週日
  1. DEV Community62

    如何在為聊天機械人加入持久文件記憶前設計文件刪除測試

    作者提出一套在為助理加入持久文件記憶前使用的工程測試方案,檢查文件刪除後的可用性,以及各類副本和衍生資料的處理情況。方案先盤點上載檔案、解析文字、檢索索引、回答紀錄、診斷資料及復原副本,再用合成標記檢查刪除流程與競態情況。文中説明這只是未執行的測試設計,不代表任何產品已通過測試,也不構成業務法律保留政策。

  2. DEV Community51

    扁平化的 PDF 表格為何會破壞 RAG,以及如何用 Markdown 保留儲存格語義

    PDF 表格攤平成純文字會丟失列、欄與數值間的空間關係,令 RAG 數值查詢出錯並造成模型幻覺。文章示範以 PyMuPDF 的文字邊界框按 Y 座標分列、按 X 座標識別欄位,再組成 Markdown 表格。文章亦建議避免按任意 token 上限拆開表格;如需分塊,應在後續片段重複標題列,並檢查欄位對齊、負數格式及查詢召回。

  3. 阿里雲開發者社區 AI35

    GEO 工程實踐:實體一致性治理是大語言模型檢索引用的前置基建

    GEO 項目中,實體資訊一致性是大語言模型穩定檢索引用結構化內容的前置門檻;不同來源的實體描述互相衝突,可能令模型降低置信度並過濾該實體。治理流程包括建立 Schema 基線、巡檢全網描述、修正高優先級信源、對齊對外內容,以及持續監控模型引用情況。

  4. DEV Community45

    NotebookLM 評測:以真實來源文件測試 Google 研究工具

    Google 的 NotebookLM 是一款根據用戶提供的文件進行分析的研究工具,能以來源段落作答並附上引用。它可生成由兩位 AI 主持人對談的 Audio Overview,每個筆記本最多可上載 50 個來源。NotebookLM 免費,適合分析特定文件;文章指出,它與 Notion AI、Perplexity 和 ChatGPT Deep Research 的用途互補。