跳到正文
AWS Machine Learning Blog· Rob Gates·· 3 天前精選AI 評分64

Duco 如何利用 Amazon Bedrock AgentCore 改造金融數據自動化流程

How Duco transforms financial data automation with Amazon Bedrock AgentCore

AI 導讀

Duco 以 Amazon Bedrock 和 Amazon Bedrock AgentCore 重建智能體 AI 技術堆疊,支援金融機構在多租戶隔離環境中自動化數據流程。按需載入 MCP 技能將主要上下文由約 200,000 tokens 降至約 20,000 tokens,減少 90%,對帳流程部署速度提升 10×。一間全球銀行的新對帳流程接入成本下降 70%,直通處理率提升逾 20%。

推薦理由

文章拆解多租戶隔離、按需載入 MCP 技能及多模型分工,並以部署速度、成本和上下文縮減數據呈現其落地做法。

正文 · 繁體中文

金融機構面對一項重大挑戰:在全球最嚴格的監管框架下運作,同時迅速、準確並合規地處理海量數據。Duco 是面向金融服務業的代理式營運平台,服務一級銀行及其他金融機構。平台每月處理 200 億宗交易,服務 200 多名客戶,其中包括 20 大銀行中的 7 家,以及 20 大資產管理公司的 10 家。為應對日益增長的數據處理需求,Duco 從傳統機器學習模型轉向採用 Amazon Bedrock 和 Amazon Bedrock AgentCore 的代理式 AI 功能。本文分享 Duco 如何在這些服務上重建其代理式 AI 技術堆疊,在確保各銀行的數據彼此隔離的同時,縮短部署時間並降低導入成本。

挑戰:在受監管環境中擴展智能

Duco 的平台讓團隊能使用 AI 和無程式碼模型,自動化執行關鍵任務數據流程,涵蓋從數據擷取到下游發布的各個環節。平台已運用傳統機器學習模型進行預測式標籤分類和模式識別,協助銀行整合及自動化超過 20,000 個流程。

然而,這些傳統機器學習方法本身存在侷限。它們需要大量歷史數據進行訓練,難以應對新情況,而且每逢新的應用場景,都需要大量自訂設定。最重要的是,它們無法迅速適應現代金融營運中多樣且不斷變化的數據格式和業務規則。

「傳統的預測模型在一定程度上有效,但不夠靈活,也不夠適應變化。傳統機器學習模型只能放大它們已學會的內容——無法協助處理下一步,也無法找出新的問題。」

— Rob Gates,Duco 首席架構師兼創新總監

解決方案:Amazon Bedrock 和 Bedrock AgentCore

Duco 作出策略性決定,採用Amazon Bedrock,以託管方式存取基礎模型,並採用 Amazon Bedrock AgentCore 大規模運行代理。這不只是技術升級,更從根本上改變了系統理解、推理及處理金融數據的方式。

關於 Amazon Bedrock 和 Bedrock AgentCore

Amazon Bedrock 是一項全託管服務,透過單一 API 提供多家領先 AI 公司的高效能基礎模型供用戶選擇,並提供一系列功能,讓用戶能以安全、私隱及負責任的方式建立生成式 AI 應用程式。進一步瞭解 Amazon Bedrock。

Amazon Bedrock AgentCore 是一個平台,讓用戶能大規模建立、連接及優化 AI 代理。用戶可使用任何開源框架和任何模型進行開發,並透過內置的身分驗證和存取控制,將代理連接至工具和數據。用戶亦可透過追蹤和評估,在正式環境中監察及改進代理。AgentCore 負責處理基礎設施,讓你專注於代理邏輯,而無須處理後端連接工作;同時,你可享有企業級安全性和可靠性,而不必放棄開源的靈活性。

請前往Amazon Bedrock AgentCore產品頁面瞭解詳情。

為何選擇 Amazon Bedrock?

多項因素令 Amazon Bedrock 成為 Duco 在受監管金融服務業(FSI)環境中的理想選擇:

  • 安全與合規優先:使用 Amazon Bedrock 時,客戶數據會留在 AWS 環境內,不會用於訓練模型。透過虛擬私有雲(VPC)中的私有端點,Duco 可以連接內部系統,同時確保系統完全隔離,這對處理敏感金融數據至關重要。
  • 模型選擇靈活:透過單一 API 存取 Amazon Nova 2 系列、Anthropic、OpenAI、Cohere、Meta 及 Mistral AI 的領先基礎模型,Duco 可為每項工作選擇合適的模型。Duco 只需更改設定參數,便可切換模型。
  • 專為金融服務而設:Amazon Bedrock 提供金融服務所需的完善管治控制措施和合規框架,免卻基礎設施的複雜性,同時維持一級銀行所要求的安全標準。

選擇 AgentCore 作為執行環境

Duco 現有的 Agent 基礎設施以 LangChain 和 LangGraph 建構,兩者均已投入生產環境。在評估 Agent 工作負載的執行環境選項時,AgentCore 憑三個主要原因脱穎而出:

  • 與現有基礎元件相容:AgentCore 完全兼容 Duco 現有的 LangChain 和 LangGraph 程式碼,因此大部分現有程式碼毋須修改便可繼續運作。
  • 全代管執行環境:Duco 毋須自行運行 Agent 基礎設施,AgentCore 會提供全代管執行環境,減輕工程團隊的營運負擔。
  • 適用於受監管環境:AgentCore 符合在受監管金融服務環境中部署的嚴格要求,並內置安全及合規控制措施。

多租戶架構:以設計實現隔離

Duco 的平台以多租戶軟件即服務(SaaS)形式提供,並嚴格隔離各租戶(圖 1)。這是受監管機構不可妥協的要求。架構各層均體現這項要求,從底層雲端基礎設施一直延伸至 AI Agent 執行環境。

Duco multi-tenant architecture with per-tenant isolation across the infrastructure, security, and agent layers

圖 1:多租戶架構

基礎設施層

  • Amazon Elastic Kubernetes Service (Amazon EKS) 叢集透過為每個租戶設定獨立命名空間及網絡分隔,有助在 Kubernetes 層維持工作負載隔離。
  • 每個租戶均配備專屬 AWS 服務:每個租戶均獲配專屬的 Amazon Aurora MySQL 資料庫、Amazon Simple Storage Service (Amazon S3) 儲存貯體、AWS Key Management Service (AWS KMS) 加密金鑰、Amazon Simple Email Service (Amazon SES) 和 Amazon Simple Queue Service (Amazon SQS) 訊息傳遞堆疊、Amazon ElastiCache 層,以及 Amazon Cognito 用戶集區。不同客戶之間完全不共用數據基礎設施。
  • 每個租戶均可自動擴展,有助減低某個客戶運算密集型工作負載對其他租戶效能的影響。

安全與存取控制

隔離措施不只透過基礎設施實施,也透過身份識別機制落實;用戶與其數據之間的每個環節均須經過身份驗證(圖 2):

  • 以租戶為範圍的身份驗證:每個請求均帶有由該租戶專屬 Cognito 用戶集區簽發的 JSON Web Token (JWT)。在 Agent 邏輯執行前,Amazon Bedrock AgentCore 的一項功能 AgentCore 執行環境中的入站授權器會先驗證該 Token。
  • 透過 Gateway 中介的工具存取:Agent 只能透過租戶專用的 AgentCore Gateway 存取工具;這是 Amazon Bedrock AgentCore 的一項功能,會將呼叫轉送至租戶在 Amazon EKS 上執行、以容器為基礎的 Model Context Protocol (MCP) 服務。
  • 端到端用戶身分:用戶身分會傳遞至下游服務,而每部 MCP 伺服器都會根據租戶的 Cognito 使用者集區,驗證 Agent 和用戶的身分。因此,每次工具呼叫均會以發出呼叫的用戶身分獲授權,並由可信任的 Agent 執行。
  • 私有網絡:各租戶共用一個 VPC 和 Amazon EKS 叢集,並透過命名空間和網絡政策隔離;私有端點則確保往返 Amazon Bedrock 和 AgentCore 的流量留在 AWS 網絡內。每個租戶的 AgentCore 執行環境均以 VPC 網絡模式運行,網絡介面設於私有子網,因此其對外流量會進入 VPC,並受安全羣組管控。

Agent 層

隔離原則全面延伸至 Agent 架構:

  • 每個租戶各有一個 AgentCore 執行環境和 Gateway:每個租戶均由專用的執行環境和 Gateway 提供服務,並根據該租戶自己的 Cognito 使用者集區和 Amazon EKS 命名空間進行設定。結合 AgentCore 內置的工作階段隔離功能,這表示不同客戶之間不會共用記憶、上下文或工具。每家銀行獨有的結構描述、命名慣例和機構知識,均與其他租戶完全隔離。
  • 每個租戶專屬的 MCP 伺服器:每個租戶均有自己的一組 MCP 伺服器,提供特定服務所需的功能,並在啟動時動態探索。

此架構有助確保每個 Agent 只能存取一家銀行的資料、上下文和推理內容,從而真正隔離不同銀行的上下文。

High-level architecture showing requests flowing through a per-tenant AgentCore runtime and Gateway to MCP services in Amazon EKS

圖 2:高層次架構

多模型策略

Duco 不會只採用單一基礎模型,而是按工作需要選用合適的模型,並為 Agent 設計中的每個角色指派最適合的模型。此方法會按各項工作負載的具體需要配對合適的模型能力,兼顧品質和成本效益:

模型 主要角色 使用情境

Anthropic Claude Opus

規劃 Agent 用於複雜推理和理解,預先制定計劃,供其他 Agent 執行
Anthropic Claude Sonnet 主要推理及複雜決策 例外調查、對帳邏輯、規則詮釋
Anthropic Claude Haiku 輕量級工具路由決策 快速路由選擇、低延遲分類、具成本效益的初步分類
Amazon Nova 2 Pro 工具輸出摘要 精簡 MCP 工具回應,為分析人員撰寫易讀摘要

此多模型方案在架構設計上支援替換模型而不影響技術堆疊;在模型能力快速演進的環境中,這一點至關重要。

解決上下文膨脹:MCP 技能架構

Duco 最重要的技術創新之一,針對所有建置正式環境 Agent 系統的人都熟悉的一項挑戰:上下文視窗管理。

問題

每個租戶透過 AgentCore Gateway(為每項底層 Duco 服務提供獨立的 MCP 伺服器)可使用 300–400 項工具;在工作開始前,約有 200,000 個 token 的工具描述載入了上下文。這造成了上下文過載:對話愈長,回應質素愈差,而模型亦會失去早前推理的脈絡。團隊強調,單憑感覺認為 Agent 的能力正在下降,並不足以作為證據。作出工程決策前,必須先進行評估。

解決方案:按需載入技能

Duco 利用 MCP 資源類型建立技能架構,把工具描述移出靜態上下文,並只在需要時載入:

  • skill:// resources — 按需載入工具描述,只有在需要某項技能時才載入。
  • system:// resources — 在執行時組合動態系統提示詞區段,令基本系統提示詞保持精簡。
  • ui:// resources — UI 專用資源,與操作工具隔離。

Duco 在 Agent 執行框架中實作了三個新的元工具,取代臃腫的工具描述資料:

  • load_skill — 只在 Agent 判斷有需要使用某項技能時,才按需擷取技能描述。
  • find_tool — 尋找相關工具,而無須將所有結構描述載入上下文。
  • invoke_tool — 識別所選工具後執行該工具。

On-demand MCP skills loading where meta-tools fetch skill and tool descriptions instead of preloading all tool schemas into context

圖 3:上下文載入與 MCP 連線

成果

  • 上下文減少 90%:把工具描述移出靜態上下文,並限制工具回應的大小,令主要上下文由 200,000 個 token 減至約 20,000 個 token。
  • 保留提示詞快取:靜態提示詞前綴(系統提示詞加上三個元工具)保持精簡穩定;技能載入至對話,而非工具清單,因此載入技能不會令快取失效。
  • Agent 回應質素有可量度的提升:透過嚴謹的評估框架驗證。
  • 無需更改基礎設施:底層模型、工具和任務均維持不變,成果卻有可量度的改善。

MCP 工具探索:部署服務,即可獲得新能力

一項重要的架構決策,是在啟動時實作 MCP 工具探索。部署新服務時,其 MCP 伺服器會在部署過程中註冊為租戶 AgentCore Gateway 的目標。Agent 啟動時,執行框架會建立一份登錄表,列出 Gateway 提供的所有工具,並只分享工具名稱。之後,Agent 會使用 find_tool 和 invoke_tool 按需探索工具詳情並呼叫工具。因此,Agent 會自動獲得新能力,無須重新部署或重新設定 Agent。存取控制由底層服務本身執行:由於用戶的身分會經由 Gateway 傳遞,每次工具呼叫只有在該用戶獲準執行相關操作時才會成功。

這帶來營運靈活性:平台團隊只需部署新的微服務,便可向 Agent 推出新功能,無須修改 Agent 設定或安排停機。對於服務超過 200 個客戶、而客戶的營運需求各異且不斷變化的平台而言,這種動態能力模式是重要的競爭優勢。

大規模部署 Agent

Duco 實作了 Amazon Bedrock 和 Bedrock AgentCore,為兩項以往需要大量人手處理的關鍵工作流程提供支援:

1. 智能導入

以往,導入新的對帳流程是一項依賴人手、耗時甚久的工作,需要投入大量專業服務資源。銀行要花數年時間遷移數以千計的流程,速度大約每週一個。

藉助 Amazon Bedrock 和 Bedrock AgentCore,Duco 現在可以:

  • 自動理解舊有及現代系統中各式各樣的檔案格式和資料結構。
  • 將現有系統中的舊有設定轉換為結構化的 Duco 流程。
  • 剖析數十年前編寫、至今無人完全瞭解的複雜試算表巨集。
  • 以比以往快 10× 的速度部署新的對帳流程。

一家全球銀行的新對帳流程導入成本降低了 70%,並透過提升配對率和分配規則,令直通式處理增加超過 20%。

2. AI 驅動的例外調查

金融機構在系統之間設有數以千計的品質檢查關卡,每日產生無數例外項目。傳統上,大批分析人員要逐一人手調查每項差異,以判斷是否值得關注、是否已有人調查,或是否代表新風險。

Duco 的代理現在負責調查工作的「第一階段」:

  • 分類新出現的差異,並將可能有相同根本原因的相關例外項目分組。
  • 檢查背景,例如差異是否已知、是否正在處理,或是否屬於預期會消除的時間差異。
  • 調查差異,從來源資料和系統中提取證據,追查每項不一致的根本原因,無論是資料質素問題、記錄遺漏或延遲、對應設定或參考資料問題,還是真正的不匹配,並解釋問題成因。
  • 提出建議,整理出可供決策的個案:可能原因、建議解決方案(例如作出調整、更改規則或向上級呈報)、曾考慮的其他方案,以及支持證據。
  • 分派每宗個案予合適的分析人員,由他們檢視證據並作出最終決定;每項決定均會記錄在審計追蹤紀錄中。

這種代理式方法特別有效,因為金融工作流程涉及在資訊之間採取高度多變的處理路徑,這正是基礎模型擅長處理的複雜推理和大量背景資訊。

在受規管環境中運作

在金融服務領域部署 AI 代理,所需的不止是技術能力,還必須嚴格遵守規定、確保可審計性並管理風險。Duco 在 Amazon Bedrock 上的實施方案透過四項核心原則應對這些要求:

  • 全面的可觀察性:每項代理決策均會記錄在完整的審計追蹤紀錄中。審核人員可追溯每項決策,並核對其是否符合監管要求。
  • 人類參與控制:高風險操作須獲明確授權;遇上超出代理信心水平門檻的複雜情況時,亦設有清晰的升級處理途徑。
  • 故障安全架構:系統預設以保障客戶為先,而非追求營運效率;即使代理遇上邊緣情況或意外資料,也能支援安全運作。
  • 符合監管要求:平台支援受 SOC 2 和 DORA 要求規管的工作負載,並按各機構設置資料駐留控制措施。

實質成效

Duco 採用 Amazon Bedrock 後,為不同客戶部署帶來可量度、可審計的業務成效:

10×

更快部署對帳流程

70%

導入成本降低

20%+

直通式處理增加

數千

節省的人工調查時間

也許最重要的是,Duco 現在已具備快速創新的基礎。開發新的代理式 AI 能力不再需要大量機器學習工程工作,團隊因此可專註解決業務問題,而非管理基礎設施。

路線圖:人類與代理協作的未來

Duco 的架構旨在提升員工的工作層次,而非取代他們。隨着代理式 AI 能力日趨成熟,平台預期人類角色將沿着清晰的路徑演進:

任務執行者 → 調查員 → 決策者

未來,營運團隊將同時協調多個代理,不再由人類執行重複任務;人類則根據代理準備的分析作出最終審批決定。此架構旨在支援代理之間互相通訊,包括跨機構情境,讓不同金融機構的代理能夠互相協調。

結論

對受監管的金融機構而言,Duco 的架構證明代理式 AI 不但可行,更已在正式環境中大規模應用。Duco 在 Amazon Bedrock 和 Amazon Bedrock AgentCore 上重建其代理式 AI 技術堆疊,結合嚴格的按租戶隔離、為每項工作選用合適模型,以及可將上下文開銷減少 90% 的 MCP 技能架構。成果包括對帳部署速度提高 10×;而對一家全球銀行而言,導入成本下降 70%,直通式處理率提升逾 20%。如要建立類似的多租戶架構,請先參閲 Amazon Bedrock AgentCore 開發人員指南,再閲讀 AWS 機器學習博客上的 使用 Amazon Bedrock AgentCore 建構多租戶代理。如要了解這項工作的營運模式,請參閲 Duco 的 代理式營運:交易後處理的新營運模式。


作者簡介

Rob Gates

Rob Gates

Rob 是 Duco 的首席架構師及創新總監,負責設計、建構及運行支援 Duco 用戶的軟件和基礎設施。Rob 熱衷於建構和創造。他是 Duco Breakthrough Labs 的核心推動者,致力推動公司各方面的創新。他擁有超過 20 年建構高效能團隊及關鍵任務系統的經驗,涉足多個行業。Rob 於 2017 年加入 Duco,曾擔任多個工程領導職位。在職業生涯早期,他曾領導 BAE Systems Applied Intelligence 的工程團隊。

Martin Reah

Martin Reah

Martin 是資深技術客戶經理,負責與 AWS EMEA 的 ISV 客戶合作。他熱衷於協助客戶充分發揮雲端服務的價值,並向更廣泛的 AWS 社羣分享他們的成功故事。

Suraj Hinduja

Suraj Hinduja

Suraj 是 AWS 的資深策略客戶主管,協助英國及愛爾蘭的軟件公司在 AWS 上擴展和發展。他與金融科技及其他多個行業的客戶合作,並與每位客戶緊密協作,將雲端發展願景轉化為可量化的業務增長。

H Jafari

H Jafari

H Jafari 是 AWS 的策略解決方案架構師,專長於 AI/ML 及代理式 AI。他與英國及愛爾蘭的企業軟件公司合作,協助他們為多個行業設計、建構及交付可投入正式環境的 AI 解決方案。

來源:AWS Machine Learning Blog · aws.amazon.com