LangChain 是甚麼:從鏈式連接到 Agent 執行時,拆解 v1.0 核心概念
LangChain 1.0 以 create_agent 作為 Agent 開發入口,並以 LangGraph 作底層執行時,涵蓋狀態持久化、人工介入及可觀測執行。文章比較 LangChain 與 LangGraph 的選用邊界,並以 Python 3.13、langchain 1.2.0 示範建立天氣查詢 Agent。
LangChain 1.0 以 create_agent 作為 Agent 開發入口,並以 LangGraph 作底層執行時,涵蓋狀態持久化、人工介入及可觀測執行。文章比較 LangChain 與 LangGraph 的選用邊界,並以 Python 3.13、langchain 1.2.0 示範建立天氣查詢 Agent。
提示詞注入可透過直接輸入,或文件、網頁、電郵等外部內容影響 LLM,可能令 AI 應用偏離原定任務或嘗試未經授權的操作。文章指出,提示詞標記和過濾並非可靠的安全邊界;應由應用程式執行權限控制、採用最小權限、驗證工具參數,並要求用戶確認敏感操作。開發者亦應以對抗性及正常輸入建立測試,並在更改提示詞、模型、檢索流程或工具後重跑測試。
大語言模型的上下文窗口即使擴展至數百萬個 token,實際工作記憶仍會受限;「Lost in the Middle」現象令模型較難提取位於上下文中段的資訊。文章分析注意力位置偏差及參數記憶、工作記憶的差異,並提出以 Python、SQLite(FTS5 + sqlite-vec)、RRF 和提示詞結構設計建立離線優先架構,讓模型具備持續、私密的長期記憶。
阿里雲瓴羊 Quick Service 以大模型及 AI Agent 支援大型企業客服,讓系統由回答問題延伸至調用後端系統執行任務。平台採用「模型—平台—應用」三層架構,支援十餘款大模型及 15 類高頻業務操作自動執行。它已服務超過 5 萬家企業,提供 SaaS、私有化及混合雲部署。
2026 年 AI 客服選型重心正由「能否回答」轉向「能否辦成」,瓴羊 Quick Service 展示了任務執行、人機協同與知識庫持續營運等能力。平台支援多款模型及多種部署模式,可處理 15 類高頻業務操作,複雜多輪業務辦理成功率達 87%。文章並提出以真實業務問題進行 PoC 驗證的選型方法。
GEO(生成式引擎優化)透過改善內容的技術可訪問性、結構和證據,增加內容被生成式引擎理解、信任及引用的可能性。文章將引擎處理內容概括為爬蟲可抓取、內容可解析、證據可信可引用三步,並建議提供明確結論、清晰標題、可核實資料及一致定義。文中亦指出,GEO 成效難以測量,引用結果會因提問方式及平台而異,不能保證被推薦。
作者發現,網誌的瑞典文機器翻譯因缺少業務脈絡,把 Monday.com 譯成 Måndag.com,並改動了安裝指令。文章指出,詞彙表與風格指南、資料版本,以及辨認人工修正的機制,都會影響翻譯結果。作者改用即時英文頁面翻譯,保留程式碼、連結和產品名稱,並在頁面結構不符時拒絕寫入更新。
作者建立 Cognee 的 Caddy Web Server Data-Source Connector(cognee-community-connector-caddy),旨在把 Caddyfile 路由設定接入 Cognee 的知識處理及檢索流程,讓 AI DevOps Agent 在提出基建變更建議前查閲相關設定。檢索結果可提供推理依據,但不保證答案正確或建議可安全部署。
Hoppscotch 的 Cognee 連接器可匯入 API 集合,將端點、標頭、參數及請求內容整理成可搜尋的知識圖譜與向量索引,讓 AI 編碼智能體按需檢索 API 規格,減少憑空生成錯誤整合程式碼。連接器支援穩定識別端點、同步刪除的端點,並避免將實際生產憑證和存取權杖上傳至記憶系統。
這篇教學以企業文件搜尋為例,逐步拆解從文件匯入、索引、混合檢索到 LLM 答案生成與文件刪除的完整 RAG 流程。示例採用 Python、FastAPI、PostgreSQL、Qdrant、Hugging Face 嵌入模型及 OpenRouter,並以密集與稀疏檢索、RRF 融合及交叉編碼器重排候選內容。
阿里雲百煉整合通義千問及第三方模型,提供統一 API、RAG 知識庫、智能體編排和模型微調能力,支援 OpenAI 兼容接口。平台設有按量付費、節省計劃、Token Plan 和 Coding Plan 等方案,分別適用於後端自動化業務、團隊交互式工具及個人 AI 編程。指南亦涵蓋計費規則、API 接入、安全管控與成本優化。
這份教學提供三種無需 YouTube Data API 金鑰的方法,可批量取得 YouTube 頻道或播放清單內影片的字幕,並輸出為帶時間戳記的資料。方案包括透過 Apify actor 免寫程式操作、用 Python 呼叫 Apify,以及自行使用開源庫 youtube-transcript-api。
杜拜房地產 AI 回答應按所支持的主張選用來源,銷售價格指數、租金基準和個別物業估值不能互相替代。Dubai Land Department 的 Residential Sales Price Index 涉及歷史參考期及商業用途限制;Smart Rental Index 不涵蓋 DIFC,也不能單獨確定個別物業的投資回報。
文章指出,Vector RAG 擅長語義相似度搜尋和快速部署,GraphRAG 則適合計數、查找缺失資料、多跳問題、內容取代及權限安全檢索。兩者可以混用,常見做法是以向量搜尋找出入口,再由圖遍歷組裝交給模型的上下文;關鍵在於由哪一層負責組裝最終上下文。選型時可檢視最難的十個真實用戶問題,判斷答案是否大多能在單一文件中找到,再選擇向量搜尋、圖遍歷或混合方案。
LoreDocs 透過工作區自動知識庫和 vault prime,讓 Agent 在每次工作階段開始時取得專案上下文,毋須手動提供檔案或重複交代背景。vault_open_workspace 會按目錄重用或建立知識庫;內容儲存在本機 SQLite 檔案,並可透過 FTS5 搜尋相關文件。Pro 版另提供 LanceDB 語義搜尋、BGE-small 嵌入向量及自動發現文件關聯。
AI 客戶支援自動化可處理常見查詢、分類及分流工單,並協助客服人員整理對話和查找資料。可靠的系統需要以 RAG 連接知識庫,並具備工作流程編排、監察、存取控制及錯誤處理。遇上複雜或敏感問題時,系統應連同對話摘要和相關紀錄轉交人工客服。
RAG 重排序在生產流程中位於快速初步檢索與生成之間,透過 cross-encoder 重排 top-k 候選,提升排名前列的精確率。它只能重排已檢索到的候選,無法補回漏掉的文件,並會增加延遲和推理成本。應比較 Precision@k、MRR、答案質素、延遲及成本,評估是否值得加入。
演講者在 AGNTCon 的「Context Fails & Fixes」演講中梳理上下文工程,將核心工作概括為決定哪些事情由確定性程式碼處理、哪些交由模型推理。
作者提出一套面向企業生產環境的 B2B AI 工作流架構,結合多租戶 Hybrid RAG、確定性輸出校驗、人手審核路由及分層模型路由。
文章提出,重視私隱的個人知識管理工具應以不可變文件修訂版作索引,預設只檢索最新且獲準顯示的版本,並保留舊向量供稽核及時間回溯查詢。它建議在候選查詢階段套用授權、可見性和刪除篩選,並以追加式修訂紀錄、冪等索引事件及墓碑記錄管理更新與刪除。文章亦比較自託管向量庫、託管向量服務及關聯式資料庫向量擴充,並建議分開監測新鮮度、正確性和檢索品質。
SmartCall 發佈 v1.0.9,新增智能體知識庫,讓 AI 客服先檢索企業資料,再根據資料組織回答,以統一答覆口徑並降低模型幻覺帶來的業務風險。知識庫支援系統知識庫、MaxKB 和自訂 HTTP 接口三種來源,並可透過規則門控或模型自主決策觸發檢索。各知識庫可獨立設定向量、全文或混合檢索。
LazyResearch OS 使用開放權重 Gemma 分析用戶儲存的資料,整理優先事項、附有引用的研究摘要及有來源依據的行動。系統以 qwen3-embedding、pgvector 和 PostgreSQL 搜尋資料,並驗證引用及披露資料覆蓋限制。公開示範環境沒有身份驗證,示範資料會持續儲存在 PostgreSQL,請勿上載個人或私隱資料。
作者打造開源工具 SlowPost,將激動草稿改寫為冷靜版本並暫存至翌日 09:00 解鎖,讓用戶再決定是否發送。工具亦提供中立摘要及雙方需求分析,並從 17 張緩和衝突技巧卡中檢索適用內容,支援改寫。作者以 12 條中文草稿評估檢索,Recall@3 由 54.2% 升至 75.0%;DeepSeek-V3.2 在模型比較中延遲最低(12.9s),熱度下降指標為 83%。
grasys 將 AI 納入開發流程,按任務複雜度選用不同 LLM,並把測試案例審批設為 AI 開始實作前的人為關卡。流程結合 GitHub Issue 和 TDD,由 AI 先生成測試案例,工程師確認後,AI 才按已確認的規格實作。公司亦以 IAM 管理資源存取權限,並透過專用儲存庫分享 AI 操作腳本與系統提示詞模板。
內地大模型引用哪些內容,取決於頁面能否進入候選集、被系統採納,以及來源是否獲得標註,而非單看搜尋排名。文章分析渠道生態、抓取條件、切分與語義完整度、查詢扇出、證據密度、來源類型及實體一致性等八層因素。文中並提供六類常見失敗模式、基線測試腳本、自檢清單及四周落地節奏。
RAG(檢索增強生成)會在回答前從用戶自己的資料中搜尋相關文件,為模型提供上下文,而非只依賴訓練時記住的內容。它適合回答涉及私有或快速變動資料的問題,並可根據來源文本減少模型幻覺及支援引用來源;若任務不涉及私有資料,RAG 可能只會增加延遲和複雜度。
作者自行搭建的 RAG 工具在筆記已有答案時仍拒答,排查發現切塊可能截斷句子或稀釋短段落,而固定相似度門檻也不能可靠判斷問題是否無答案。約 350 字元的切塊只適合作者這批短段落筆記;明確提示模型在檢索內容不含答案時拒答,則可避免它依無關內容猜答。程式碼及各項測量結果見 github.com/Iddrisusalima/ask-my-docs。
文章説明如何管理模型的上下文窗口,建議預先分配 token 預算,例如將 8_000 個 token 的窗口按系統、記憶、RAG 檢索內容、對話歷史及預留空間分配。達到預算時,先清除較舊的工具輸出,再裁剪對話歷史,最後以低成本 LLM 摘要舊對話,並將完整歷史存入長期記憶。
SlothMind 是以 Gemma 系列開放權重模型為核心、供開發者和研究人員使用的本機優先 Markdown 知識工作區。Gemma 3 1B Instruct 可在約 1.86 GB GPU VRAM 下運行;工作區支援跨筆記搜尋並引用來源,資料留在本機,亦可完全離線使用。
Node.js 產品支援聊天機械人應先呼叫 embeddings 進行語義搜尋,再把租戶範圍內的匹配記錄交給 /v1/chat/completions 生成回答。租戶篩選、檢索儲存及用量記錄應由應用程式管理,模型不應決定用戶可查看哪些資料。Infrai 提供跨 20 個模組、295 個路由的單一金鑰及單一帳單方案。
文章指出,Node.js 廉價 LLM 文字分類 API 處理物流 CSV 時,成本應按可追蹤的檢索作業核算,並劃分租戶、文件、檢索及生成四個邊界。建議按階段記錄 token、位元組數及狀態,以冪等重試避免重複計費,並讓例行遙測不保留原始物流文字;抽樣追蹤不可取代作業帳本。
Omar Wael 開發的 DocFlow 可從 GitHub 儲存庫自動整理 NestJS 後端的資料庫結構、REST 端點與授權路徑,並找出授權缺口。
臨牀 AI 團隊指出,RAG 檢索評分不只反映檢索器質素,也受相關證據的標註覆蓋率影響,並提出區分標註覆蓋率與系統質素的評估方案。測試中,18 個查詢的證據跨度由 25 增至 37、chunk 目標由 36 增至 51,檢索結果不變,Recall@3 維持 0.94。團隊建議追蹤標註覆蓋率,並分辨檢索失敗、標註缺口與語料證據不足。
上下文工程是按每次請求控制模型可見資訊的工作,涵蓋指示、檢索知識、記憶、工具結果及對話狀態;提示詞工程則只處理指示措辭。文章建議為各資訊來源設定預算、先做權限過濾並記錄來源;智能體則應把任務狀態保存在模型以外,每一步重新組合上下文,避免工具結果不斷累積。
作者以 Node.js 建成並發布 8 個雲端爬蟲,以及兩款跨瀏覽器 Manifest V3 擴充功能。爬蟲結合 Crawlee 的 CheerioCrawler、平台 JSON 端點及正則表達式 DOM 解析器,可將記憶體開銷和執行成本降低超過 85%。8 個爬蟲已上架 Apify Store,兩款擴充功能則已在 Mozilla Add-ons Store 發布。
開發者正把 LLM 用於自動化重複工作、構建智能應用、分析非結構化資料,以及建立可與實際系統互動的 AI agents。10 個實用場景包括程式編寫助手、文件 RAG 搜尋、自動化代碼審查與測試、自然語言轉 SQL、文件資料抽取、客戶支援自動化、多步驟工作流程及多語言本地化。要在正式環境可靠運作,須按場景選擇模型,並配合驗證、權限管理、測試及人工審核。
作者以 gpt-4o-mini 比較 OpenAI Agents SDK、LangGraph 與單次 RAG,發現 SDK 預設設定確有引用格式漂移,亦有較小的實際引用流失。
NornicDB 團隊把自家圖資料庫納入工程流程,將程式碼索引成圖,供改碼前檢索並協調多模型 Agent 工作。自訂 harness 以 RRF、語義相似度和 AST 所有權分析尋找疑似重複實作,並把 develop 開發與 release 驗收分開,以逐項 cherry-pick 和人工審查控制變更。
文章建議把 token 預算設為應用程式不變條件,在生成前核對租戶用量,並以窄化檢索、限制上下文及精簡輸出控制 LLM API 成本。客服工單範例先讀取帳戶用量,再以 token 計數結果決定是否進行模型呼叫,超出政策時停止或截短內容。
文章指出,大模型的知識並非對應某一個參數,而是分散編碼於多個參數的協同作用中。權重的實際貢獻取決於輸入,權重大小不能直接代表重要性,而偏置會影響神經元的激活門檻。研究曾把部分知識定位至 Transformer 前饋層及稀疏神經元,但定位不等於可解釋或可控;文章建議穩定背景知識可編入權重,易變事實則使用 RAG。