Taxbit 在 Amazon Bedrock AgentCore 上構建具來源引用及角色感知能力的 Taxbit Assist
Taxbit 在 Amazon Bedrock AgentCore 上構建 Taxbit Assist,讓合規團隊可在產品儀錶板使用附有來源連結、並按用戶角色及組織權限提供答案的 AI 助手。
Taxbit 在 Amazon Bedrock AgentCore 上構建 Taxbit Assist,讓合規團隊可在產品儀錶板使用附有來源連結、並按用戶角色及組織權限提供答案的 AI 助手。
NexusMemory 團隊以 Hindsight、FastAPI 和 Groq 打造能記住過往故障的 SRE Copilot,讓系統在處理即時警報時參照持續更新的記憶。其雙 Agent 分流引擎會比對基礎模型與歷史事件,並呈現過往故障的成因、警告及修正方案,避免重複採取曾導致問題惡化的操作。
Henry Lin分享企業 AI 系統的驗收方法,建議用預先編寫的評測集、逐項消融實驗和拒答準確率衡量系統,而非只看示範表現。其 HR 制度問答測試中,端到端正確率由 v0 的 0.67,經多項調整後升至 0.98;中文分詞 bug 曾令加入關鍵詞/向量融合後的分數由 0.80 降至 0.78。
大模型聯網 RAG 混合檢索方案結合 Tavily 實戰與中文私有化替代方案,旨在處理模型幻覺、知識滯後及檢索噪音等問題。內容涵蓋 LangChain、LlamaIndex 整合,以及以 SearXNG 和 Trafilatura 建立中文檢索方案和混合檢索優化策略。
這篇教學示範如何從德國政府開放資料入口 rechtsprechung-im-internet.de 下載聯邦法院裁決,並整理成 JSON 或 Markdown,供法律 RAG 使用。
作者估算,GPT-5.6 的 RAG 將 top_k 由 5 提至 20,單次回答成本約增至 2.7 倍。按文中的參數,每次成本由 $0.0088 升至 $0.0238,以每日 10,000 條問題計,每月增加 $4,500。作者建議按 token 預算及分數門檻選取片段,並先用數十條真實問題檢查有用片段會否被截掉。
LangChain 的 RecursiveCharacterTextSplitter 先按分隔符遞進切分文字,再把片段組合成區塊;文章以 SPLIT 和 PACK 拆解這兩個交錯運作的步驟。chunk_overlap 是上限而非固定值,實際重疊取決於完整片段及切塊流程;預設分隔符末尾的空字串可讓超長片段繼續切分。文章亦示範以模型的 tokenizer 計量,並在自己的文件集檢查實際區塊大小與重疊。
Vignesh Athiappan 把 RAG 檢索設為 Agent 可呼叫的工具,構建銷售知識助理,結合文件內容與唯讀 CRM 資料回答問題。檢索工具由應用程式端執行,程式可強制套用分類和文件範圍等限制,Agent 每個問題最多呼叫六次工具。寫入端採用確定性流程,核對抽取內容的來源頁碼與引用,答案完成後亦會移除沒有來源的引用編號。
RAG Pipeline Utils 3.8.0 加入支援 TypeScript 的 RAG 答案測試工具,並推出以 Vitest 為例的測試教學。教學涵蓋離線單元測試、檢查答案中缺乏來源支持的句子,以及以評分基準監測測試集;分數下降時會令建置失敗。現有程式碼不受影響。
文章提出一套供 WhatsApp 商業 AI 助理上線前使用的 16 案例答案依據測試,並配套來源清單與簡易檢查程式。案例涵蓋資料缺失或衝突、文件過期、跨語言提問及檢索內容中的惡意指令,並要求記錄答案、來源 ID、文件版本和預期處理方式。作者指出,這是合成測試設計,不代表任何供應商通過測試,也不估算真實準確率或保證安全。
Hossein Hezami 的指南梳理生產級 AI 系統的現代技術棧,涵蓋 LLM、嵌入向量、向量資料庫、RAG、AI 智能體、LangGraph、MCP 和 n8n。
阿里雲瓴羊 Quick Service 結合語義理解、多模型調度、RAG 和 AI Agent,推動智能客服從理解用戶意圖到回答問題及執行任務。其 AI 問答準確率可達93%,支持多輪對話,並可調用後端系統辦理改地址、催發貨和申請退款。系統支持通義千問、百度文心、DeepSeek 等十餘款模型,以及 SaaS、私有化和混合雲部署。
文章提出以分層控制減少 AI 模型幻覺的方法,涵蓋以 RAG 根據檢索段落作答、改善檢索、限制生成、驗證答案,以及信心不足時拒答或交由人工處理。建議先調整分塊、混合搜尋(BM25 加密集向量)、重排序器和 top-k,再用引用、結構化輸出及來源藴含檢查減少無根據回答,並以 golden dataset 和忠實度、答案相關性及上下文精確率指標持續監測。
文章主張,LLM 應用的威脅建模應涵蓋整個系統,而非只檢查模型輸出,因為風險亦可能出現在各組件邊界。作者建議梳理資料與控制路徑,將檢索內容視為不可信輸入,並由應用程式及身份權限層獨立驗證操作授權。工具應採用最小權限,配合輸出驗證、敏感資料控制、人工審批及跨組件安全測試。
AI客服Agent要從知識問答進一步完成業務操作,需要理解需求、規劃任務、調用工具,並連接企業業務系統。RAG負責檢索知識,API、Function Calling和MCP可協助接入工具;實際執行仍需處理權限、參數校驗、異常及結果確認。
大模型與 AI Agent 正推動企業智能客服由回答問題轉向完成任務,評估重點也由問答準確率擴展至任務完成率。阿里雲瓴羊 Quick Service 以模型、平台、應用三層架構及感知、理解、決策、執行四層閉環,支援訂單、物流等系統操作;官方披露其 AI 問答準確率為 93%,可自動處理 80% 以上常見問題。GB/T 47746—2026 要求人機切換時同步資料並保留人工服務通道。
現代 AI 由 tokens 將文字轉成數值表示,再以嵌入向量表達語義,並透過注意力機制理解上下文;這些機制是 Transformer 架構的基礎。模型經訓練學習文字模式,再透過微調學習回應指令;temperature 則影響生成內容的可預測性與變化程度。
語音客服機械人要做到近似真人對話,需以流式方式協同 ASR、LLM 與 TTS,並處理低延遲及用戶打斷。流式處理可把首響時間壓至 800ms 以內;SOP 宜以狀態機落實流程約束,回答前檢索企業知識。上線後可按識別準確率、任務完成率及轉人工率等指標評估,並把通話錄音轉成文本作自動質檢。
MarkRAG API 以 Node.js 擷取網頁核心內容並轉換為乾淨 Markdown,供 RAG 流程使用;測試顯示,處理 Wikipedia 人工智能條目後,token 數由約 572,000 降至約 50,300,節省 521,693 個 tokens,減幅為 91.2%。服務已在 RapidAPI 提供,每月免費 100 次請求。
記住網上研討會內容的關鍵,是在會後十分鐘內保存連結或筆記,當日整理重點,並在一週內安排簡短回憶。Recl 可整理摘要、章節和個人筆記,並以提示和每週測驗協助重温所學。需要時,用戶可向個人資料庫提問,並查看答案來源。
本文講解 Agent 評測指標的選擇與計算,將指標分為判定、檢索、相似及行為四類,並説明各自的適用場景與常見誤區。文章指出,類別不平衡時準確率可能掩蓋漏判,應按誤報與漏報的代價選擇精確率、召回率或 F1;RAG 應分開評估檢索與生成,並為所有任務記錄 P95 時延、成本及安全違規數。最後提供拆分任務、配置指標及組成指標卡的方法。
阿里雲雙11提供100萬免費tokens,供開發者驗證模型選型、提示詞調優、業務鏈路及成本估算。按文中估算,額度約可支援300-500輪RAG問答、生成400篇文案,或完成近百次Agent任務。免費額度適合得出驗證結論,不宜用於承載正式服務流量。
阿里雲 2026 雙11新手首購攻略整理五步慳錢方法及搶購技巧,涵蓋輕量應用伺服器、ECS、GPU 雲伺服器及大模型服務平台。輕量應用伺服器秒殺價 38 元/年,ECS 特惠價 99 元/年或 199 元/年;新用戶完成實名認證,可獲超 7000 萬免費 Tokens,有效期 90 天。活動持續至 11 月 30 日。
NVIDIA 詳解 AI 記憶體全棧協同設計,稱 Vera Rubin NVL72 相較 GB300 NVL72,在特定 Agent 工作負載下每美元吞吐量最高提升30倍。在每位用戶每秒125個Token的服務速度下,單顆 GPU 的 HBM 容量僅增加約3%。其做法包括以 NVFP4 壓縮模型權重和 KV Cache、分層卸載閒置上下文,並把 RAG 向量索引放到 CPU 記憶體及儲存層級。
這篇指南為保險理賠受理設計符合延遲預算的檢索架構,目標是在來電者等待期間提供可用證據,並把整體請求限制在一秒內。建議先用 150 ms 做詞彙檢索及元資料篩選,再用 350 ms 做語義檢索和重排;逾時時返回已有的最佳引用匹配結果,不要阻塞受理流程等待第二次嘗試。詞彙與向量搜尋並行,合併後只對前 20 至 50 個候選項重排,並分開追蹤檢索品質與 p50、p95、p99 延遲。
文章説明如何獨立檢查 RAG 向量索引,從文本分塊到答案分四層驗證。內容提供可執行的 Python 程式碼,並比較 25 款評估工具。
一項研究生課程研究分析了以 LLM 支援商業合約初步審查的助理,整理出 10 種失誤情境,並評估風險及緩解措施。案例涵蓋條款遺漏、模型幻覺、結果不一致、法律知識過時及過度自主;建議採用結構化擷取、強制引文和 Temporal RAG。助理應負責初步篩查,高風險情況須由律師審核及批准。
新聞監測服務應以評測集設計分階段檢索架構,明確劃分資料集、限制查詢範圍,並保留可供審核追溯的來源脈絡。建議先建立涵蓋一般查詢、對抗性近似結果及失敗案例的測試集,文中示例包括 200 個一般查詢和 30 個對抗性查詢。評估時分開追蹤召回率、首頁精確率及引文有效性,並比較新舊索引結果,以便審核索引變更和及早發現成本回升。
電商產品搜尋應先訂立可追溯的檢索合約,再以分階段檢索、明確集合及有界查詢落實可觀測性。合約需為每個候選結果保留租戶識別碼、存取範圍、產品或刊登識別碼、來源網址及檢索評分。追蹤各階段的請求識別碼、候選結果和引用,可供重現查詢及核對授權結果。
KG-RAG4SM 透過從外部知識圖譜檢索相關子圖,改善 Schema Matching,並在無需重新訓練的情況下減少大語言模型幻覺。
SkinMind 是多模態智能體 RAG 框架,透過反覆探索大型皮膚科知識圖譜,蒐集文字及圖像證據,回答皮膚科視覺問題時比直接作答及其他檢索方法更準確。SkinMind-KG 整合皮膚科指引、教科書及 423K 張圖像,包含超過 1.0M 個節點和 2.0M 條邊。
Apple 研究人員在 ICML 2026 發表 Amortizing Maximum Inner Product Search with Learned Support Functions,透過離線訓練的小型神經網絡,為固定的 key 數據庫學習查詢路由,以加快並提升 MIPS 檢索準確度。
Box 在 BoxWorks 公佈 Box Context Retrieval 搜尋引擎及 Box Architect 工作流程建構工具,並擴大與 Nvidia 的合作。
Conor Bronsdon 梳理五段 Chain of Thought 對談,整理大語言模型上下文與檢索設計的實務要點。文章涵蓋向量檢索結合圖關係和中繼資料篩選、智能體記憶的分類與遺忘規則,以及查詢標準化、分塊和重排序的評測。對智能體 RAG,作者建議把模型反覆取數視作狀態轉換,並為檢索 API 設計穩定 ID、可篩選的中繼資料和記錄機制。
阿里雲百煉大模型服務平台(Model Studio)涵蓋模型推理、應用開發、知識庫 RAG、Agent、模型微調及專屬部署六大模組。雙十一優惠包括全模型低至4.5折、Wan3.0-Video限時7折,以及新用戶超7000萬免費 Token,有效期90天。文章亦整理按量付費、Token Plan等計費方式,並按用量、場景和團隊規模提供選購與接入指引。
Box 宣佈擴大與 Nvidia 的合作,推出由 Nvidia AI 模型支援的 Box Content Retrieval,為企業智能體建立可檢索的內容上下文層。
作者指出,按僱主行業篩選 IT 職位,可能在嵌入模型處理職位描述前排除銀行工程師,因為行業代表僱主業務,而職業分類代表工作職能。文章建議分開保存職業分類與僱主行業,並只按查詢需要施加相應篩選;文中提供欄位配置、序列化程式碼及合成職位案例。合成案例用於檢查納入邏輯,不能代表實際分類準確度;檢索召回及市場覆蓋仍須另行評估。
文章指出,RAG 的檢索能力在資料攝取階段已受切塊方式限制;切得過細會拆散規則與例外,切得過大則會模糊語義。不少常見嵌入模型的序列上限為 512 tokens,單靠字符數設定可能導致內容被截斷。作者比較固定尺寸、遞迴字元和結構感知切分,並説明重疊及保留文件結構如何保留上下文。
這份 GEO 診斷手冊將內容未被 AI 引用的問題分為三種症狀和六類病因,並為各類病因列出檢查與修復方法。六類病因包括檢索盲區、段落不可提取、實體口徑混亂、數據無口徑、結構化標記問題,以及內容陳舊且缺乏監測。修復順序由確認頁面是否進入候選集開始,再處理段落與數據、實體口徑和結構化標記,最後建立監測及更新機制。
文章以 Zyte API、Qdrant 和 LangChain 建立網上書店聊天機械人的 RAG 網頁資料管線,先檢查抓取內容,避免封鎖頁或空白頁覆蓋向量資料庫中的有效資料。