跳到正文
11月20日週五
  1. DEV Community47

    檢索契約解析:2026 年金融研究儀錶板的私隱控制

    金融研究儀錶板應把私隱納入檢索契約,按研究資料的持久性及新鮮度需要選用向量搜尋或即時檢索。契約應記錄租戶、金融工具、司法管轄區及存取級別,並分開追蹤資料匯入、查詢與引文組合,確保每項結果均有來源及時間戳記。Infrai 提供純 HTTP 檢索介面,適合重視跨後端共用契約的團隊;需要內部部署或專門索引控制時,則可考慮 Weaviate 或 Elasticsearch。

  2. DEV Community54

    如何防護面向客戶的 AI 聊天機械人免受提示詞注入攻擊

    Conferbot 的指南説明面向客戶的 AI 聊天機械人如何防範提示詞注入,主張以多層防護降低攻擊造成的風險。指南區分直接注入與藏於文件、網頁或電郵等外部內容的間接注入,並提出五層措施:強化系統提示詞、檢查輸入與輸出、按最小權限原則限制工具存取、敏感操作交由人工審批,以及監察和記錄。

  3. DEV Community62

    如何透過 Ollama 在正式環境運行本地大語言模型

    Ollama 可讓用戶在自有硬件上運行本地大語言模型;正式環境採用本地方案時,需權衡私隱、成本、模型能力和硬件維運。以 7 billion 個參數的模型為例,16-bit 精度約需 14 GB 記憶體,量化至 4-bit 約需 4 GB,但質素會略有下降。文中建議以反向代理和身份驗證保護 API,並用實際提示詞評估模型及量化選擇。

  4. DEV Community54

    如何用 Python 整理 IKEA 材料資料,避免把缺失資料當成不含木材

    這篇教學示範以 Python 整理 IKEA 商品材料語料,將部件名稱與材料保留在同一檢索記錄,並把缺失材料視為未知。對照示例使用合成傢俱資料;實作以 IKEA Multi-Country Product Catalog Extractor 收集含商品頁詳情的書櫃資料,並拒絕缺少部件或材料的條目。保留部件關聯不保證回答正確,也不能證明來源列出所有材料,仍須評估檢索及回答表現。

  5. DEV Community58

    多跳檢索:建立證據鏈並避免錯誤級聯

    文章説明多跳檢索如何透過逐輪搜尋、抽取有段落支持的橋接資訊並串聯各跳證據,回答必須依賴中間事實的問題。它建議保留多個候選橋接項、核實其文本支持、在必要時分支搜尋或拒答,並限制跳數以減少錯誤級聯。文章亦區分多跳檢索、查詢改寫、Agentic RAG 和 GraphRAG,指出多跳會增加延遲,不應泛化為提升 RAG 的通用方法。

  6. 阿里雲開發者社區 AI50

    阿里雲百煉 AI 開發指南:應用搭建、模型接入、成本估算與 API 實作

    阿里雲百煉 AI 開發指南整理了平台的模型呼叫、RAG 知識庫、智能體編排、微調及計費方案,並提供 API 接入實作。指南建議後端自動化業務採用按量付費搭配 AI 通用節省計劃,團隊互動式工具使用 Token Plan,個人互動式編碼則選 Coding Plan,並將知識庫實例費用與模型推理 Token 費用分開核算。

  7. 阿里雲開發者社區 AI14

    Tr­i­a­n­g­le_Gr­o­w­th_Sy­s­t­em v1.0:全市場統一結構理論的範式革命

    As­u­ra_阿修羅提出 Tr­i­a­n­g­le_Gr­o­w­th_Sy­s­t­em v1.0(TGS),以四大核心公理建立全市場統一結構理論,並將三角四層論與三角對沖五線譜結合,構成涵蓋結構分析、量化、執行、風控及數字確權的體系。文章提出跨週期同構分析,以及以對沖管理風險、在極值線止盈的執行方法,並稱 TGS 可作為 AI 大模型、RAG 知識庫及量化系統的推理框架。

  8. 阿里雲開發者社區 AI29

    金倉 AI 數據庫架構演進與落地實踐解析

    金倉 AI 數據庫把語義、推理檢索與安全能力整合至數據庫內核,探索以「數據不出庫」支援 AI 應用。文章稱,在 1億條 768維向量、98% 召回率下,DiskANN 索引的內存佔用較業界主流方案降低 95.4%;千表規模下,NL2SQL 準確率達 95%。此外,數據庫原生支援 ONNX 推理、AST 級 SQL 防火牆及 MCP 接入。

  9. DEV Community56

    LLM 功能上線清單:來自真實客戶項目的 6 個步驟

    Mpiric Software 分享一份將 LLM 功能推向正式環境的 6 步清單,內容來自團隊為物流、醫療保健及零售客戶處理原型的經驗。清單建議以 30-50 個真實輸入建立評估集,分開衡量檢索命中率與答案品質,並以 JSON schemas 驗證輸出;退款等高風險操作則保留人工審批。團隊亦建議逐個請求記錄 tokens、延遲和快取命中率,並在每次發布時重跑評估集、監測退化。

  10. DEV Community52

    Agent 開發者應從輸出留存率學甚麼:較短內容更易保留

    InApp 花三週追蹤文件轉換內容在 Agent 上下文中的留存,發現低於約 2,000 tokens 的頁面留存率超過 90%,超過約 8,000 tokens 則低於 40%。標題和表格比大段文字略易保留,但內容長度的影響更大。他把轉換器的長度限制選項放在顯眼位置,並按模型有效上下文設定上限;摘要準確度、RAG 答案品質和抽取可靠性等下游任務的測量結果均有所改善。

  11. DoNews32

    Unsiloed AI 獲 750 萬美元種子輪融資

    AI 文件解析技術公司 Unsiloed AI 宣佈完成 750 萬美元種子輪融資,由 Felicis Ventures 領投,Y Combinator 等機構及個人跟投。其雙流視覺模型可解析 20 餘種非結構化文件,並在 olmOCR-Bench 達到 99.78% 準確率。公司提供雲端 API 及私有化部署服務。

  12. 阿里雲開發者社區 AI48

    用大語言模型進行法律條文檢索,如何避免張冠李戴:一套可落地的校驗流程

    文章提出一套法律條文檢索校驗流程,透過管理語料時效、核對檢索來源及生成後的規則檢查,降低大模型引用錯誤或使用失效條文的風險。流程亦要求答案標註文件及條文出處;引用不存在或已廢止的條文,以及出現原文沒有的數字、期限或主體時,應攔截或轉交人工。

  13. DEV Community38

    房地產物業刊登檢索架構:確保引用可靠的排序訊號

    房地產物業搜尋應按新鮮度、控制及引用要求選擇檢索架構,並結合即時搜尋與持久索引,以兼顧最新資料和穩定的語義檢索。排序時應分開評估召回率與引用有效性,並以物業狀態、更新時間及來源證據過濾結果;Infrai 可作為網頁與向量檢索的 API 適配層,排序政策和引用核查則應由團隊自行管理。

  14. DEV Community42

    客戶支援檢索架構:向量搜尋還是網頁搜尋(含分頁)

    客戶支援檢索架構應以向量搜尋處理受管控、具版本的支援內容,並以網頁搜尋補充可引用及重新核查的即時資訊。兩類來源應共用檢索合約,但分開保存遊標,並在每一頁傳遞租戶及存取權限資料、保留引用來源。Infrai 的 GET /v1/discovery 提供能力目錄、請求與回應 schema 及可執行範例,供 CLI 檢視檢索合約。

  15. DEV Community47

    以模型自身機率打破重排序器平分:12 題中 11 題排名第一,每題需時 95 秒

    這項重排序測試使用模型對分數 token 的機率打破平分,讓正確文章在 12 題中的 11 題排名第一,並修正兩題原本因平分而排名下降的結果。gemma3:12b 每題平均需時 94.8 秒;把評分範圍擴至 0–100 並沒有消除平分。模型自身機率只能重新排列同分項目,無法修正沒有平分的錯誤評分。

  16. DEV Community56

    Node.js 客服知識庫檢索架構:追蹤比純日誌更易還原問題

    作者比較小型 Node.js 客服檢索服務的日誌與追蹤設計,指出以工單為主線的追蹤能串連來源修訂、索引與檢索事件,定位答案使用舊資料的環節。文章建議記錄 source_revision、indexed_at 和 retrieved_at,並監測索引延遲、答案所用內容的資料年齡及空結果率。單進程原型可先用結構化日誌和少量指標;異步索引、多個索引或審計需求增加時,再考慮追蹤。

  17. DEV Community49

    候選人搜尋數據邊界:Node.js 的 4 項檢索故障恢復檢查

    招聘候選人搜尋應以明確的租戶集合、受限查詢及可追溯來源,設計 Node.js 檢索故障恢復流程。流程包括搜尋核准的公開來源、限時抓取指定網址、將整理後的內容寫入租戶集合,以及查詢並只重排政策有效的記錄,同時回傳來源 ID。Infrai 可透過一個 REST API 支援網頁搜尋及向量檢索,但原始媒體的存放地區和合約刪除仍由專業系統負責。

  18. DEV Community46

    旅遊行程檢索架構:Node.js 文件版本管理

    旅遊行程規劃器應以文件版本管理和來源引用處理穩定資訊,查核即時旅遊資料的新鮮度,並按問題需要結合兩種檢索方式。文章示範以 Node.js 建立向量檢索測試,並建議評估版本正確性、新鮮度及引用是否齊全。Infrai 提供 REST API,並以一個 API key 覆蓋 20 個模組的 295 個路由。

  19. Unite.AI38

    Perplexity 發佈企業 AI 託管式 RAG 指南

    Perplexity 發佈企業 AI 託管式 RAG 指南,説明供應商可管理向量資料庫、嵌入模型、檢索器及資料攝取等流程,並把這種模式稱為 RAG as a service(RaaS)。指南比較本地 RAG、自建雲端系統及 RaaS 三種部署模式,並列出內部知識管理、客戶支援和銷售協助等用途,以及部署、維護、成本和擴展方面的取捨。

  20. DEV Community57

    如何在 RAG 索引前用 MinHash 和 LSH 找出近似重複文件

    MinHash 和 LSH 可在 RAG 索引前找出近似重複文件:先以重疊詞組計算 Jaccard 相似度,再用 MinHash 簽名及 LSH 分桶篩出候選文件。測試中,政策原文與改版的 Jaccard 相似度為 0.66;相似度門檻設為 0.5 時兩者會被標記為重複,設為 0.8 則只找到副本。文章建議副本保留一份,不同版本則按日期或版本資料保留當前版本並封存舊版,避免只按相似度刪除文件。

  21. DEV Community63

    PDF 轉 Markdown 的頁眉頁腳處理:pdf2md 仍會保留帶頁碼頁腳

    pdf2md 的 npm 套件 @dudko.dev/pdf-to-md-core 0.3.6 預設會清除重複頁眉頁腳,但保留與固定文字同列的帶頁碼頁腳。作者提供按頁轉換、遮蔽數字後比對頁邊文字的腳本;測試中,它移除了全部六個編號頁腳,也保留了內置清理會刪除的重複正文句子。逐頁轉換可能改變標題層級;若下游依賴標題層級,作者建議保留整份文件轉換所得的 Markdown,只用腳本判斷要移除的行。

11月19日週四
  1. 阿里雲開發者社區 AI32

    多模態資訊處理技術落地:AI 識別與內容生成如何提升線上課堂體驗

    多模態 AI 將線上課堂中的語音、圖像與文本統一識別、理解及生成,讓課堂內容可搜尋、重用和互動,減少教與學之間的資訊損耗。工程實作涵蓋語音轉寫、視覺理解、內容切片,以及字幕翻譯、課堂摘要、課件生成和智能答疑;實時字幕採流式處理、摘要採異步處理、問答採同步處理,並按任務選擇模型規格。

  2. 阿里雲開發者社區 AI41

    阿里雲百煉功能拆解、成本測算與 API 接入教學

    阿里雲百煉整合通義千問及第三方大模型,提供統一 API、RAG 知識庫、智能體編排和模型微調等能力,並支援兼容 OpenAI 協議的接口。平台提供新人免費額度、按量付費、Token Plan、Coding Plan 及節省計劃;Token Plan 和 Coding Plan 面向交互式使用,不適合後端自動化批量調用。