跳到正文
10月28日週三
  1. DEV Community41

    GHOST:只在本機運行的私隱記憶守護工具

    GHOST 是在用戶電腦上運行的開源家庭記憶檔案工具,可儲存信件、照片、食譜及口述歷史,並以自然語言搜尋附有來源引用的答案。若檔案中沒有相關記憶,系統會拒絕回答;Ghost Mode 則可將選取的記憶改編成清楚標示的虛構故事。工具使用 Ollama、sentence-transformers 和 faster-whisper,但作者尚未以真實模型驗證答案質素或 CPU 速度,也未完成斷網測試。

  2. DEV Community70

    AI 評估與品質工程:如何衡量及保障 LLM 應用質素

    Rhuturaj Takle 的指南主張以系統化評估管理 LLM 應用質素,先建立版本化黃金數據集,再按不同行為選用合適指標,並將檢查接入 CI/CD。內容涵蓋精確匹配、語義相似度、忠實度、答案相關性、RAG 檢索指標、幻覺檢測及 LLM-as-a-judge,並建議以人工判斷校準模型評審。

  3. 阿里雲開發者社區 AI55

    DeepSeek Harness 十款熱門插件實測及個人化 AI 工作台搭建教程

    DeepSeek Harness 十款熱門插件經實測整理,涵蓋插件市場、視覺與文件處理、搜尋、長期記憶、費用監控及介面擴展。文中建議先安裝 dshmarket 和 modlens,再按偏好選擇全功能控制台或代碼側欄,最後按使用場景補裝其他插件。一次安裝全部十款容易出現依賴衝突,並拖慢整體運作速度。

  4. 阿里雲開發者社區 AI41

    智能客服系統如何選擇?全維度對比分析

    智能客服選型應先診斷服務模式、問題集中度和 AI 定位,再比較能力並以真實任務驗證。文章從 AI 能力、知識庫、渠道、集成與部署、PoC 驗收五個維度拆解,並以阿里雲瓴羊 Quick Service 為參照,説明其 Agent 可調用後端系統辦理任務,複雜業務處理時長可壓縮約60%。文章指出,超過60%的企業級智能客服項目在上線一年內未達預期,主因多為需求診斷不足。

  5. 阿里雲開發者社區 AI38

    多模態數據 AI Agent 應用有哪些雲端數據庫方案?阿里雲瑤池 Lindorm 首選方案解析

    阿里雲瑤池 Lindorm 被推薦作多模態數據 AI Agent 的雲端數據庫底座,主打在同一個分佈式數據庫內承載記憶、RAG 知識庫、多模態素材及行為軌跡。文中列出的數據包括:向量檢索吞吐為開源 Milvus 的 5~10 倍,1 億+ 向量場景的檢索成本降低 60% 以上。阿里雲官方案例包括 MiniMax 的多模數據業務。

  6. 阿里雲開發者社區 AI45

    AI 相關數據適合用甚麼資料庫儲存?阿里雲瑤池雲數據庫 Tair 作為 AI 數據底座的解析

    阿里雲瑤池雲數據庫 Tair 以同一內存引擎承載向量檢索、Agent 會話記憶、特徵緩存與實時計數,提供 AI 應用所需的多類數據存儲能力。TairVector 的 HNSW 索引在 4 個標準數據集上實測召回率均達 99% 以上,並支持 BM25 混合檢索;內存型性能達同規格 Redis 開源版的 3 倍,時延為亞毫秒級。阿里雲官方實踐以 Tair 支持淘寶閃購「一句話點外賣」案例。

  7. 阿里雲開發者社區 AI46

    千萬級向量搜尋延遲過高如何優化?阿里雲瑤池雲數據庫 Tair 低延遲方案

    阿里雲瑤池雲數據庫 Tair 提出以內存駐留、索引參數調校、整合查詢及語義快取,降低千萬級向量檢索延遲。TairVector 在 995 萬條數據集上的 HNSW 索引召回率達 99% 以上,產品頁承諾亞毫秒級穩定時延。HybridIndex 可用單一語句完成向量、全文及標量檢索,AI Gateway 語義快取命中後可毫秒級返回。

  8. DEV Community62

    RAG 如何運作:切塊、嵌入向量、檢索與重排序

    Syed Anzar 梳理 RAG 從文件切塊、混合檢索到重排序及上下文組裝的流程。文章比較固定、語義及結構式切塊,並説明 BM25 與密集檢索如何透過 RRF 融合,再以 cross-encoder 重排候選內容。文中亦涵蓋 HyDE、元資料篩選、父子文件檢索及分階段評估指標,並列出不同資料特性的配置建議。

  9. 阿里雲開發者社區 AI27

    告別機械式回覆:2026 年好用的智能客服系統具備哪些特徵?

    2026 年好用的智能客服系統須具備深度語義理解、多輪上下文管理及 AI Agent 任務執行能力,並能在轉接人工時傳遞完整對話脈絡。阿里雲瓴羊 Quick Service 的 AI 問答準確率達 93%,可自動處理 80% 以上常見問題,複雜多輪業務辦理成功率可達 87%。它亦支援多模型調度、知識庫持續營運及連接後端系統完成業務操作。

  10. DEV Community61

    如何偵測 AI 幻覺:用完整程式碼建立 LLM 答案核查器

    作者示範以 LLM-as-judge 建立答案核查器,根據來源文本評估 AI 答案並列出不受支持的主張。工具要求評審模型只根據來源判斷,輸出忠實度、相關性、完整度和清晰度評分,以及修正建議;忠實度的權重是其他三項的兩倍。文章提供 FastAPI 範例,並説明嚴格 JSON 模式失敗時的重試,以及限制分數和容許缺失欄位等解析處理。

  11. DEV Community58

    AZ-204 停考後的 AI-200 Azure AI Cloud Developer 考試指南

    作者整理 AI-200 備考指南,説明 AZ-204 已於 2026 年 7 月 31 日停考,而 AI-200 是現行中級 Azure 開發者考試,兩者考綱不同。指南列出 AI-200 考試為 120 分鐘、700 分合格,並比較考綱比重及兩項考試的內容差異。另提供六週、每週約六小時的備考計劃,以及容器、數據管理服務和訊息處理等實作練習。

  12. 阿里雲開發者社區 AI49

    RAG 內容側優化:如何讓內容更容易被檢索與摘取

    RAG 答案質素一半取決於檢索策略,另一半取決於內容是否容易被摘取;文章聚焦如何優化內容寫法。內容要先後通過召回、排序和摘取三道篩,定義句開頭、一段一個資訊點及問答對結構,有助模型摘取核心資訊。權威錨點和不同頁面的口徑一致性,也會影響排序與摘取。

  13. DEV Community60

    RAG 白話解説:校園服務台如何只根據文件回答問題

    作者以自己建置、供大學環境使用的 Internal GPT 服務台為例,説明 RAG 如何只根據上傳文件回答問題並附上來源引用;若文件沒有答案,系統應明確表示找不到。流程包括抽取文件文字、分塊、轉成嵌入向量、儲存、相似度檢索及生成答案。文章亦建議用 20 條測試問題,檢查預期文件是否出現在前 5 個檢索結果中,並優先檢視檢索內容來排查錯誤。

  14. DEV Community29

    裝置端 SLM:為何 Edge AI 是流動裝置的未來

    SLM(小型語言模型)通常有 2B 至 8B 參數,可在流動裝置硬件上本地運行,推動 Edge AI 成為流動應用的新方向。工程挑戰包括將模型量化至 INT4、整合 ExecuTorch 和 CoreML,以及建立本地 RAG。模型本地運行可減少延遲,並讓用戶資料毋須離開裝置。

  15. 阿里雲開發者社區 AI39

    AI 智能體的核心開發流程

    AI 智能體開發涵蓋需求定義、架構設計、技術選型、核心模組開發、測試評估,以及部署監控與持續優化六大環節。其規劃、記憶和工具使用能力令開發流程較傳統軟件或簡單提示詞應用更複雜。評估需關注任務成功率、工具調用準確率和模型幻覺,部署後則可根據監控數據及失敗案例持續改進。

  16. DEV Community46

    Python 中 LLM API token 數量對 CRM 成本及用量削減的影響

    Python CRM 應用可縮小輸出欄位、在生成前挑選相關證據,並記錄輸入及輸出 token 數,以減少 LLM API 用量及控制成本。輸入和輸出 token 都會影響費用,重試時重送長篇通話紀錄亦會增加消耗。文中建議把 12,000 字元限制記錄為預先計數的上限,實際計費數量則以服務供應商的 tokenizer 為準。

  17. 阿里雲開發者社區 AI31

    2026年AIGEO從流量到可信度的演進趨勢

    2026年,AIGEO的競爭焦點正從提高品牌在AI答案中的曝光,轉向建立可持續核驗、令品牌被穩定採信的可信度體系。文章將演進分為2023—2024年的流量鋪量期、2025年的機制顯性期,以及2026年起的可信度工程期,並提出實體一致性、信源可核驗性和跨模型穩定性三項觀測維度。企業可透過統一品牌事實、監測多模型回答及交叉核驗信源,持續管理品牌資訊。

  18. 阿里雲開發者社區 AI26

    阿里雲 RDS 新版深度剖析:HTAP、AI 原生與 Serverless 如何推動企業級雲數據庫變革?一體化架構實操全攻略

    阿里雲 RDS 新版整合 HTAP、AI 原生能力及 Serverless 彈性伸縮,並升級內核、安全防護與自動化運維。文章稱,HTAP 複雜分析查詢性能提升 10–100 倍,無須獨立搭建數據倉庫可令硬件及運維成本下降 60% 以上。PostgreSQL pgvector 向量查詢性能提升 80%,索引構建速度提升 40%,索引體積下降 50%。

  19. DEV Community61

    多租戶應用如何降低 LLM API 成本:控制 token 用量與檢索上下文

    文章建議多租戶私有知識應用按租戶量度並限制檢索上下文,按問題類型設定預算,以減少不必要的 LLM API token 用量。做法包括先廣泛檢索,再重排及打包上下文,並記錄各階段的輸入、輸出 token 數量;同時監察答案接受度、引文覆蓋率和重試率,避免把節省用量誤當答案質素不變。

  20. DEV Community53

    低成本嵌入向量語義搜尋的工單分流:比較 3 種重排方案

    文章以同一組固定工單資料比較三種語義搜尋分流路徑:純嵌入向量檢索、所有工單均重排,以及按信心或分差選擇性重排。評估需分開衡量候選生成、重排與路由,並記錄召回率、排序品質、p50 和 p95 延遲、逾時、重試及人工修正。遙測應保留有助定位失誤的有限資料,避免把工單正文、客戶名稱或高基數欄位放進常規指標;比較則應依代表性標註資料與實際流量形態進行。

  21. DEV Community65

    RAG 快取可能令已刪除文件重新進入模型上下文

    Bobby Hall Jr 示範以 TypeScript 建立准入閘門,在把快取檢索結果加入模型上下文前,核對文件狀態、版本和用戶權限。快取只保存文件 ID 和 revision;閘門載入可信資料來源中的內容及存取狀態,排除已刪除、權限已撤銷或版本不符的文件,資料來源不可用時則令操作失敗。測試中,刪除前加入上下文的來源數為 1,刪除後為 0;使用舊快取重建後仍為 0,程式庫有 17 項通過測試。

  22. DEV Community55

    檢索結果需要加入允許用途欄位

    作者提出的操作型檢索藍圖,要求檢索結果附帶允許用途等元資料,界定內容能否用作內部參考或對客戶回覆。藍圖列出來源、領域、版本或更新日期、允許用途及審批要求,並區分對客戶使用的文字與內部脈絡。這份起步設計包含 schema、合成文件和評估問題,並非已部署的知識服務或成效驗證。

  23. DEV Community41

    Afterlight:幽靈是串連記憶的線索,而非冒充逝者

    Afterlight 是一款以本機優先設計的家庭記憶檔案工具,利用本機運行的開放權重模型串連回憶,但不模仿逝者或捏造對話。建議使用 Gemma 3 (1B),並透過 Ollama 在本機進行推理;下載模型後,檢索和回憶整理流程可在沒有網絡連線時運作。原始記錄會與 AI 生成的反思一併呈現,但原型的 SQLite 資料庫未有加密。

  24. DEV Community39

    SpecGuard:讓 AI 程式碼審查依循工程標準

    SpecGuard 是一個全端 MVP,結合 GitHub、Notion 與 Google Gemini,根據團隊工程標準分析 GitHub pull request。它檢索相關 Notion 文件,以 Zod 驗證模型回應,並按發現項目的嚴重程度計算分流評分。項目旨在為工程師提供具背景脈絡、可核查的審查起點,而非讓 AI 成為程式碼質素的最終裁決者。

  25. DEV Community50

    旅遊行程檢索架構:如何以存取規則限制結果並確保引用可追溯

    文章提出旅遊行程檢索架構,以明確存取契約、分階段檢索和可追溯來源引用,限制候選結果並保留稽核線索。流程要求先按集合、日期、庫存狀態、語言、政策標籤及時效性篩選,再排序;交給生成模型的內容須保留來源 ID 和檢索時間。文章建議以標註評測集衡量候選符合條件的精確率、引用覆蓋率、時效違規和空結果率,並透過影子流量、分階段上線及回滾驗證變更。

10月27日週二
  1. 阿里雲開發者社區 AI43

    醫藥健康 GEO 技術實踐:面向大模型的信源工程、知識工程與合規工程

    醫藥健康 GEO 需透過信源工程、知識工程與合規工程,讓大模型提供準確、可信、合規的健康資訊。實踐涵蓋以説明書為基準建立分層知識資產、按可信度佈局信源,以及把合規要求納入內容生產流程。監測方面以三通道採集回答,並固定時間、指標口徑及提示詞題庫,持續量度和迭代。

  2. DEV Community50

    RAG 中檢索內容如何變成指令:間接提示詞注入與防範

    作者説明 RAG 中的間接提示詞注入風險:模型可能服從檢索文件中的指令,而非把它視為資料,即使文件同時含有正確答案。文中建議將檢索內容視為不可信資料、限制應用程式可用的資料與工具,並在程式碼中驗證工具請求。作者提出以正常文件和加入注入指令的版本進行對照測試,檢查模型是否回答原問題、引用正確證據及服從注入指令。