跳到正文
11月7日週六
11月6日週五
  1. DEV Community65

    RecursiveCharacterTextSplitter 如何切分文件及處理區塊重疊

    LangChain 的 RecursiveCharacterTextSplitter 先按分隔符遞進切分文字,再把片段組合成區塊;文章以 SPLIT 和 PACK 拆解這兩個交錯運作的步驟。chunk_overlap 是上限而非固定值,實際重疊取決於完整片段及切塊流程;預設分隔符末尾的空字串可讓超長片段繼續切分。文章亦示範以模型的 tokenizer 計量,並在自己的文件集檢查實際區塊大小與重疊。

  2. DEV Community62

    從 RAG 流程到 RAG 工具:構建智能體銷售知識助理

    Vignesh Athiappan 把 RAG 檢索設為 Agent 可呼叫的工具,構建銷售知識助理,結合文件內容與唯讀 CRM 資料回答問題。檢索工具由應用程式端執行,程式可強制套用分類和文件範圍等限制,Agent 每個問題最多呼叫六次工具。寫入端採用確定性流程,核對抽取內容的來源頁碼與引用,答案完成後亦會移除沒有來源的引用編號。

  3. DEV Community71

    WhatsApp AI 助理即使語氣肯定仍可能答錯:16 案例的答案依據測試

    文章提出一套供 WhatsApp 商業 AI 助理上線前使用的 16 案例答案依據測試,並配套來源清單與簡易檢查程式。案例涵蓋資料缺失或衝突、文件過期、跨語言提問及檢索內容中的惡意指令,並要求記錄答案、來源 ID、文件版本和預期處理方式。作者指出,這是合成測試設計,不代表任何供應商通過測試,也不估算真實準確率或保證安全。

  4. 阿里雲開發者社區 AI36

    支持大模型的智能客服系統推薦,讓對話更自然、回答更精準

    阿里雲瓴羊 Quick Service 結合語義理解、多模型調度、RAG 和 AI Agent,推動智能客服從理解用戶意圖到回答問題及執行任務。其 AI 問答準確率可達93%,支持多輪對話,並可調用後端系統辦理改地址、催發貨和申請退款。系統支持通義千問、百度文心、DeepSeek 等十餘款模型,以及 SaaS、私有化和混合雲部署。

  5. DEV Community54

    如何減少 AI 模型幻覺?從 RAG 檢索到答案驗證

    文章提出以分層控制減少 AI 模型幻覺的方法,涵蓋以 RAG 根據檢索段落作答、改善檢索、限制生成、驗證答案,以及信心不足時拒答或交由人工處理。建議先調整分塊、混合搜尋(BM25 加密集向量)、重排序器和 top-k,再用引用、結構化輸出及來源藴含檢查減少無根據回答,並以 golden dataset 和忠實度、答案相關性及上下文精確率指標持續監測。

  6. DEV Community58

    AI 安全從系統邊界開始:如何為完整 LLM 應用進行威脅建模

    文章主張,LLM 應用的威脅建模應涵蓋整個系統,而非只檢查模型輸出,因為風險亦可能出現在各組件邊界。作者建議梳理資料與控制路徑,將檢索內容視為不可信輸入,並由應用程式及身份權限層獨立驗證操作授權。工具應採用最小權限,配合輸出驗證、敏感資料控制、人工審批及跨組件安全測試。

  7. 阿里雲開發者社區 AI48

    2026年趨勢解讀:企業如何運用智能客服應對大模型技術變革

    大模型與 AI Agent 正推動企業智能客服由回答問題轉向完成任務,評估重點也由問答準確率擴展至任務完成率。阿里雲瓴羊 Quick Service 以模型、平台、應用三層架構及感知、理解、決策、執行四層閉環,支援訂單、物流等系統操作;官方披露其 AI 問答準確率為 93%,可自動處理 80% 以上常見問題。GB/T 47746—2026 要求人機切換時同步資料並保留人工服務通道。

  8. 阿里雲開發者社區 AI41

    語音客服機械人如何做到「像人一樣對話」:延遲、打斷與流程掛載

    語音客服機械人要做到近似真人對話,需以流式方式協同 ASR、LLM 與 TTS,並處理低延遲及用戶打斷。流式處理可把首響時間壓至 800ms 以內;SOP 宜以狀態機落實流程約束,回答前檢索企業知識。上線後可按識別準確率、任務完成率及轉人工率等指標評估,並把通話錄音轉成文本作自動質檢。

  9. 阿里雲開發者社區 AI64

    Agent 評測指標如何選、如何計算?

    本文講解 Agent 評測指標的選擇與計算,將指標分為判定、檢索、相似及行為四類,並説明各自的適用場景與常見誤區。文章指出,類別不平衡時準確率可能掩蓋漏判,應按誤報與漏報的代價選擇精確率、召回率或 F1;RAG 應分開評估檢索與生成,並為所有任務記錄 P95 時延、成本及安全違規數。最後提供拆分任務、配置指標及組成指標卡的方法。

  10. 阿里雲開發者社區 AI35

    阿里雲 2026 雙11:新手首購伺服器五步慳錢攻略及搶購技巧

    阿里雲 2026 雙11新手首購攻略整理五步慳錢方法及搶購技巧,涵蓋輕量應用伺服器、ECS、GPU 雲伺服器及大模型服務平台。輕量應用伺服器秒殺價 38 元/年,ECS 特惠價 99 元/年或 199 元/年;新用戶完成實名認證,可獲超 7000 萬免費 Tokens,有效期 90 天。活動持續至 11 月 30 日。

  11. 新浪科技61

    NVIDIA 詳解 AI 記憶體全棧協同設計:特定 Agent 工作負載每美元吞吐量最高提升30倍,HBM 容量僅增約3%

    NVIDIA 詳解 AI 記憶體全棧協同設計,稱 Vera Rubin NVL72 相較 GB300 NVL72,在特定 Agent 工作負載下每美元吞吐量最高提升30倍。在每位用戶每秒125個Token的服務速度下,單顆 GPU 的 HBM 容量僅增加約3%。其做法包括以 NVFP4 壓縮模型權重和 KV Cache、分層卸載閒置上下文,並把 RAG 向量索引放到 CPU 記憶體及儲存層級。

  12. DEV Community54

    如何為有時間限制的保險理賠受理設計檢索架構

    這篇指南為保險理賠受理設計符合延遲預算的檢索架構,目標是在來電者等待期間提供可用證據,並把整體請求限制在一秒內。建議先用 150 ms 做詞彙檢索及元資料篩選,再用 350 ms 做語義檢索和重排;逾時時返回已有的最佳引用匹配結果,不要阻塞受理流程等待第二次嘗試。詞彙與向量搜尋並行,合併後只對前 20 至 50 個候選項重排,並分開追蹤檢索品質與 p50、p95、p99 延遲。

  13. DEV Community43

    法律 AI:分析合約助理 10 項失誤後的研究生課程心得

    一項研究生課程研究分析了以 LLM 支援商業合約初步審查的助理,整理出 10 種失誤情境,並評估風險及緩解措施。案例涵蓋條款遺漏、模型幻覺、結果不一致、法律知識過時及過度自主;建議採用結構化擷取、強制引文和 Temporal RAG。助理應負責初步篩查,高風險情況須由律師審核及批准。

  14. DEV Community48

    評測集如何塑造新聞監測檢索架構:5 種做法與建置紀錄

    新聞監測服務應以評測集設計分階段檢索架構,明確劃分資料集、限制查詢範圍,並保留可供審核追溯的來源脈絡。建議先建立涵蓋一般查詢、對抗性近似結果及失敗案例的測試集,文中示例包括 200 個一般查詢和 30 個對抗性查詢。評估時分開追蹤召回率、首頁精確率及引文有效性,並比較新舊索引結果,以便審核索引變更和及早發現成本回升。

11月5日週四
  1. DEV Community55

    五段 Chain of Thought 對談探討如何為大語言模型提供合適上下文

    Conor Bronsdon 梳理五段 Chain of Thought 對談,整理大語言模型上下文與檢索設計的實務要點。文章涵蓋向量檢索結合圖關係和中繼資料篩選、智能體記憶的分類與遺忘規則,以及查詢標準化、分塊和重排序的評測。對智能體 RAG,作者建議把模型反覆取數視作狀態轉換,並為檢索 API 設計穩定 ID、可篩選的中繼資料和記錄機制。

  2. 阿里雲開發者社區 AI32

    阿里雲雙十一百煉大模型優惠解讀:核心功能、配置價格、選購及六大模組

    阿里雲百煉大模型服務平台(Model Studio)涵蓋模型推理、應用開發、知識庫 RAG、Agent、模型微調及專屬部署六大模組。雙十一優惠包括全模型低至4.5折、Wan3.0-Video限時7折,以及新用戶超7000萬免費 Token,有效期90天。文章亦整理按量付費、Token Plan等計費方式,並按用量、場景和團隊規模提供選購與接入指引。

  3. DEV Community52

    IT 職位篩選可能排除銀行的工程師

    作者指出,按僱主行業篩選 IT 職位,可能在嵌入模型處理職位描述前排除銀行工程師,因為行業代表僱主業務,而職業分類代表工作職能。文章建議分開保存職業分類與僱主行業,並只按查詢需要施加相應篩選;文中提供欄位配置、序列化程式碼及合成職位案例。合成案例用於檢查納入邏輯,不能代表實際分類準確度;檢索召回及市場覆蓋仍須另行評估。

  4. DEV Community56

    RAG 切塊困境:為何檢索開始前就可能失效

    文章指出,RAG 的檢索能力在資料攝取階段已受切塊方式限制;切得過細會拆散規則與例外,切得過大則會模糊語義。不少常見嵌入模型的序列上限為 512 tokens,單靠字符數設定可能導致內容被截斷。作者比較固定尺寸、遞迴字元和結構感知切分,並説明重疊及保留文件結構如何保留上下文。

  5. 阿里雲開發者社區 AI56

    GEO 失效診療手冊:為何你的內容沒有被 AI 引用

    這份 GEO 診斷手冊將內容未被 AI 引用的問題分為三種症狀和六類病因,並為各類病因列出檢查與修復方法。六類病因包括檢索盲區、段落不可提取、實體口徑混亂、數據無口徑、結構化標記問題,以及內容陳舊且缺乏監測。修復順序由確認頁面是否進入候選集開始,再處理段落與數據、實體口徑和結構化標記,最後建立監測及更新機制。