跳到正文
10月30日週五
  1. DEV Community53

    AI 智能體的問題不在模型,而在數據

    AI 智能體的可靠性不只取決於模型選擇,也取決於檢索品質、數據是否及時更新、工作流狀態管理和執行可觀測性。文章以大型程式碼庫的 RAG、索引更新及多智能體任務重試為例,提出混合檢索、增量索引、明確持久化狀態和執行追蹤等設計方向。

  2. DEV Community40

    金融科技候選人評分中,Token 數量影響 LLM API 成本的 7 種方式

    在金融科技候選人評分服務中,Token 數量直接影響 LLM API 成本,因供應商會按處理的輸入及輸出 token 計費。派送前計算 token、只檢索與評分準則相關的證據,並限制輸出長度,可控制請求用量。系統亦應記錄 token 計算結果、模型選擇、延遲及決策,並讓帳戶預算與推理呼叫處於同一可審核流程。

  3. HuggingFace Daily Papers(社區熱門論文)42

    DeFT-RAG:將多跳問題拆解為可重用答案的自包含子問題

    DeFT-RAG 透過逐步生成自包含子問題、以規則更新和輕量決策模型處理部分工作,以及快取和重用答案,改善多跳問答。在 MuSiQue、2WikiMultiHopQA 和 HotpotQA 上,使用 gpt-4o-mini 和 Qwen3.6 作為基礎模型時,其準確率均勝過 13 個基準方法,輸入 LLM 的 token 數亦少於其他迭代式方法。

  4. DEV Community42

    DharaniAI:為印度旱地農民提供離線氣候韌性及母語語音指引

    DharaniAI 結合 Google Gemma 2、微氣候物理模型及 ICAR/CRIDA 旱地農業知識,為印度旱地小農提供離線氣候韌性指引。系統以 Gemma 2 在本地裝置運行,並可用泰盧固語、印地語、馬拉地語、卡納達語及英語生成語音建議。它亦提供作物用水評估及抗旱應對方案,無需網絡或雲端 API 訂閲。

  5. DEV Community45

    AWS AI Practitioner:為何不應低估這項考試

    作者通過 AWS Certified AI Practitioner 考試,並指出這項 Foundational 級別認證的考試難度不容低估。考試指南中,foundation models 應用佔 28%,生成式 AI 基礎佔 24%;作者建議重點温習 Amazon Bedrock、Amazon SageMaker、提示詞工程、評估指標,以及負責任 AI、安全與治理。

  6. DEV Community61

    透過 7 個小型實作範例學習 LangChain:從聊天模型到 RAG

    Kiran Gunturu 分享包含 7 個獨立 LangChain 腳本的程式碼庫,示範由呼叫聊天模型到以 RAG 檢索 PDF 內容。多數腳本少於 40 行,涵蓋 LCEL、結構化輸出、工具呼叫和 SQL 查詢驗證。RAG 範例先把 PDF 轉成 Markdown,再按標題分段;文章亦説明移轉至 Amazon Bedrock 時,需重新核對嵌入向量維度。

10月29日週四
  1. 阿里雲開發者社區 AI33

    2026年國內 AI 搜尋優化公司如何選?主流流派與選型維度解析

    國內 GEO 服務商尚無權威排名,企業選型應按自身業務需求評估技術能力,而非追逐榜單。評估重點包括多模型監測、意圖理解、信源治理及效果量化。市場服務商大致分為內容代營運、綜合營銷和技術算法驅動三類,GEO 的投入產出比則取決於行業和客單價。

  2. DEV Community55

    AI 基準分數是協商結果,而非測量結果

    Felipe 0liveira 彙整 2026-10-22 至 2026-10-29 的 LLM 評測與可觀測性資訊,指出單一基準分數和 LLM 評審結果都不宜直接視為可靠信號。文中列出的研究發現,部分 RAG 投毒防禦基準的近乎滿分與測試集構造有關,而路由器未能在品質與成本綜合表現上勝過固定使用一個中價位模型。另有研究顯示,細微提示詞改動即可令 LLM 對研究新穎性的判斷翻轉。

  3. DEV Community25

    如何在 Hostinger KVM2 上以 2 個 CPU 核心、無 GPU 執行自託管 LLM,並在 10 秒內回應

    文章分享如何優化本機 RAG 聊天機械人,讓它在 CPU 上進行推理,並兼顧檢索準確度、回應速度和資源使用。做法包括使用 4-bit 量化的 Qwen Instruct 模型、調整文件分塊與相似度門檻,以及把模型 temperature 設在約 0.2。作者亦測試 llama.cpp 和 OpenVINO 設定,並以速率限制、平行推理執行個體及負載平衡管理並行請求。

  4. 阿里雲開發者社區 AI43

    內存數據庫怎麼選?阿里雲瑤池雲數據庫 Tair 作為 AWS ElastiCache 替代方案

    阿里雲瑤池雲數據庫 Tair 主打替代 AWS ElastiCache,以性能、功能和成本梯度作為選型優勢。Tair 內存型性能達開源 Redis 的 3 倍,最高支援 7000 萬 QPS,並將全文搜尋與向量檢索整合於同一實例;按場景選擇實例形態,成本可降低 30%~70%。官方支援以 DTS 從 ElastiCache 和 MemoryDB 遷移,並提供最高 99.99% SLA。

  5. 阿里雲開發者社區 AI49

    OpenSearch LLM 問答現成方案:從配置到功能驗證的完整流程

    阿里雲智能開放搜索 OpenSearch 提供兩種 LLM 問答方案:開箱即用的 LLM 智能問答版,以及可外接模型的向量檢索版。前者整合 RAG 全流程,後者支援自訂檢索與業務邏輯;文章亦説明配置、分層驗證和選型方法。功能驗證建議涵蓋事實一致性、拒答能力及上下文魯棒性,並以 P95 < 2s 作為可用延遲基線。

  6. 阿里雲開發者社區 AI39

    向量資料庫與傳統資料庫:能力邊界、適用場景及選型關鍵條件

    向量資料庫並非傳統資料庫的性能升級,而是面向高維語義相似性檢索的專用基礎設施,兩者適用於不同數據操作需求。阿里雲 Milvus 版以 DiskANN + RaBitQ 優化,在 1 億 768 維數據集上 QPS 提升 20 倍、P99 延遲降至 1/10、內存佔用減少 29%,召回率保持 98%+。文章列出 RAG、多模態檢索等適用場景,並建議從向量化、索引、混合查詢、多模態支持及治理能力選型。

  7. 阿里雲開發者社區 AI36

    大模型如何決定提到你|GEO優化公司必讀的訓練知識、RAG檢索、多源互證與衝突迴避機制拆解

    文章拆解大語言模型如何決定是否提及品牌,涵蓋訓練知識、RAG檢索,以及答案生成中的多源互證與衝突迴避機制。RAG內容須經召回、排序和摘錄,具體可查、結構清晰的資訊較容易被採用。品牌資訊保持一致,並在多個渠道持續發布,有助建立可互相印證的資訊。

  8. 阿里雲開發者社區 AI50

    從底層機制到內容策略:GEO與SEO差異比較、技術選型與落地方法

    文章比較GEO與SEO在運作機制、指標、內容策略、技術要求及見效週期上的差異,並提供按企業、創作者和個人品牌情況分配資源的判斷框架。文中指出,SEO主要爭取搜尋結果排名與點擊,GEO則著重品牌在生成式AI答案中的提及、引用位置和描述準確度;兩者可透過問題導向、事實清晰的內容及站內外資訊佈局協同。文中引述的行業實踐經驗稱,GEO佈局通常在一到三個月開始出現提及變化,三到六個月趨於穩定。

  9. DEV Community62

    用戶 A 的提問會否取回用戶 B 的文件?RAG 租戶隔離檢查清單

    作者整理出一份 RAG 租戶隔離檢查清單,列出如何防止不同租戶的文件經檢索與快取互相洩漏。清單涵蓋從已驗證工作階段套用租戶和權限篩選、缺少租戶資訊時拒絕查詢、按租戶和用戶範圍隔離快取,以及在查詢時重新核對權限。作者另提供包含 39 項檢查、7 個部分、15 個跨租戶測試案例及數據來源清單的完整版本,並説明這是一般指引,並非保證。

  10. DEV Community41

    以證據為先的生成與引用

    以證據為先的生成架構要求每項生成主張都連結不可變的證據物件,並由驗證器檢查引用是否完整、正確。證據物件保存文件 ID、版本、URL、摘錄、檢索時間及信心分數;即時數值則由確定性 API 在附加證據後另行提供,不納入證據。架構亦建議保存包含回應、證據資料及即時值回應的不可變審計記錄,並以回歸測試和定期檢查維護可靠性。

  11. DEV Community58

    如何排查向量搜尋延遲尖峯:先檢查 Top K 和回傳資料量

    排查高負載下的向量搜尋延遲尖峯,應先檢查 Top K 和回傳資料量,不要先歸咎於向量索引。建議分開記錄向量請求與詳情解析耗時、回應大小和命中數,並按 k、是否回傳全文及中繼資料組合進行受控比較。互動搜尋可先回傳 ID 和精簡排名資料,再從內容儲存庫批次取回所需文本;內容新鮮度則應另行追蹤。

  12. DEV Community51

    ASP.NET Core 8 助手如何驗證帶引用的答案

    Martin Pisacreta 為 ASP.NET Core 8 助手設計可檢查的回答流程,先檢索並選取一段來源,再核對生成答案中的來源識別碼。驗證會拒絕空白或超過 16,000 個字符的答案,並要求至少有一個引用,且所有可識別的引用均匹配所選段落;但不逐句判斷內容是否受來源支持。

  13. DEV Community55

    Claude 上下文窗口實戰:快取、分塊與成本

    Darius Tran 比較了向 Claude 提供文件的三種做法:直接放入提示詞、快取和分塊檢索,並按語料條件説明取捨。文章亦提供 token 計數、成本估算及請求記錄建議;Python 程式碼是根據 Anthropic 文件編寫的草稿,並非經測試的程式庫,參數和價格應核對現行文件。

  14. 阿里雲開發者社區 AI24

    AI 英語教培軟件系統的開發

    AI 英語教培軟件系統的開發聚焦低延遲語音即時互動、教學場景 LLM 微調及學生語言能力畫像,涵蓋口語對話、寫作批改、自適應閲讀和數據中台四大模組。技術方案採用流式 ASR-LLM-TTS、RAG 及 WebSocket 或 gRPC,並可接入 Whisper v4、SenseVoice、Llama 或 Qwen;開發難點包括延遲控制、教學準確性及學習留存率。

  15. 阿里雲開發者社區 AI26

    AI 技術在英語培訓行業的落地應用

    AI 正在重塑英語培訓全鏈路,應用涵蓋口語陪練、寫作批改、自適應聽讀、學情診斷、備課及機構營運;教學模式轉向「AI 導師+真人教練」協作。落地仍面對學員持續使用、大模型幻覺及商業化挑戰,機構正以微調、RAG 和學科專家校驗把關教學內容。

  16. The Elec38

    Platier 與 GS Neotek 合作開發及商業化智能體 AICC

    Platier 於 10 月 28 日宣佈與 GS Neotek 簽署諒解備忘錄,基於 XGEN 平台共同開發及商業化智能體 AICC 方案。雙方將整合 GS Neotek 的聯絡中心專業能力與 Platier 的智能體 AI 平台,讓 AI 智能體理解客戶意圖、連接企業系統並執行後續任務。方案將以 WiseN-XGEN 聯合品牌推廣,並先在金融業開展銷售及概念驗證項目。

  17. DEV Community59

    資深測試人員如何循序學習 AI 測試

    作者為資深測試人員列出 AI 測試學習路線,依次涵蓋非確定性思維、把提示詞視為測試輸入、evals、LLM/RAG 失效模式,以及用 mutation testing 驗證 AI 生成的測試。Evals 以判斷輸出是否可接受取代精確比對,方法包括屬性檢查、參考答案/相似度評分及 LLM-as-judge。作者建議先略過數學密集的 ML 理論,並指出既有自動化、CI 和缺陷判斷能力仍可沿用。

  18. LangChain:Blog51

    LangChain 以 OpenWiki 和證據圖譜建立有證據支撐的 Agent 記憶

    LangChain 在 111 份合成保險文件上測試 OpenWiki,跨文件問題的答案準確度約為單靠搜尋的 5 倍。加入證據圖譜後,準確度再升 27%、引文一致性倍增,中位回答時間減少 40%,每個正確答案的成本降低 58%。圖譜沿用現有引文和文件參照建立,毋須額外模型呼叫;簡單查詢則未見準確度提升,搜尋速度更快。

  19. DEV Community60

    Agent 記憶系統為何不及原始資料檢索

    一項比較 11 種 Agent 記憶系統與簡單 RAG 的研究發現,多數專用記憶系統在三個基準測試中的表現不及直接檢索原始歷史紀錄。在 LongMemEval-s 上使用 Qwen3.6-27B 時,兩輪簡單 RAG 得分為 81.4%,A-Mem 為 79.4%,MemOS 為 76.6%,SimpleMem 為 73.6%。

  20. DEV Community46

    AI 模型為何會產生幻覺,以及如何減少幻覺?

    AI 模型會因知識缺失、問題含糊或上下文不足等原因產生幻覺;RAG 透過檢索外部資訊,為模型提供作答依據,但不能完全消除幻覺。減少風險的方法包括改善檢索、提示詞和上下文,驗證輸出,並監察系統表現及人工覆核高影響或不確定的答案。

10月28日週三
  1. DEV Community52

    多租戶 SaaS 幫助中心如何設計兼顧資料新鮮度與租戶隔離的檢索架構

    作者建議多租戶 SaaS 幫助中心採用分階段檢索架構,明確設定租戶篩選、文件版本與資料新鮮度要求,讓候選內容可追溯並降低跨租戶或引用過時內容的風險。資料匯入、查詢和引用應分開處理,並以標註問題集檢查受限的 top-k 結果及監察錯誤。文中將 Infrai REST API 列為適合需要單一 REST 邊界的選項,同時指出租戶授權、分塊品質和引用體驗仍由團隊負責。

  2. DEV Community27

    GraphRAG 為何會產生幻覺?用 Wilson loops 修正

    把關係圖建模為 Lattice Gauge Theory,並以 Wilson loops 驗證,可修正 GraphRAG 多跳關係因假設邊可交換而失效的問題。Wilson loops 的 AUC 為 0.99,高於可交換嵌入的理論上限 0.76;在有 20% 邊遭破壞的稀疏非阿貝爾圖上,holonomy attention 推斷未觀測關係的準確率為 0.88。

  3. DEV Community45

    Data Substrate 與 RAG 向量資料庫的比較

    面向尼日利亞小額信貸銀行的監管科技工具,以 data substrate 管理貸款協議、客戶資料及監管文件的版本並支援審計追溯,以向量資料庫檢索相似內容。兩者互補:data substrate 不擅長相似搜尋或自然語言查詢,而向量資料庫要提供同等版本管理與審計能力則需要大量額外開銷。

  4. DEV Community16

    Planalto、LexML、ANVISA、BCB:巴西監管 AI 法規語料庫

    Planalto、LexML、ANVISA 和 BCB 的法規資料可透過 RAG 協調檢索,但並非由單一官方資料庫或 API 統一提供。LexML Brasil 是巴西法律文件互通基礎設施,截至 2024 年收錄超過 18 million 份結構化文件;ANVISA 和 BCB 的文件僅部分對應 LexML。這類語料用於 AI 系統時,須遵守 LGPD。