製造業多智能體系統的設計模式、反模式與架構選擇
AWS Machine Learning Blog 梳理多智能體協調模式與常見反模式,並提供按任務及製造業限制選擇架構的指引。文章將模式分為由開發者預設流程的 Tier 1,以及由模型在執行時決定流程的 Tier 2,建議由 Tier 1 起步,僅在子任務需於執行過程中浮現時採用 Tier 2。
推薦理由:文章區分預先定義流程與模型自主決策兩類編排,並以製造業的延遲、安全與邊緣數據限制,説明各自適用情境和較簡單的架構選擇。
AWS Machine Learning Blog 梳理多智能體協調模式與常見反模式,並提供按任務及製造業限制選擇架構的指引。文章將模式分為由開發者預設流程的 Tier 1,以及由模型在執行時決定流程的 Tier 2,建議由 Tier 1 起步,僅在子任務需於執行過程中浮現時採用 Tier 2。
推薦理由:文章區分預先定義流程與模型自主決策兩類編排,並以製造業的延遲、安全與邊緣數據限制,説明各自適用情境和較簡單的架構選擇。
Duco 以 Amazon Bedrock 和 Amazon Bedrock AgentCore 重建智能體 AI 技術堆疊,支援金融機構在多租戶隔離環境中自動化數據流程。按需載入 MCP 技能將主要上下文由約 200,000 tokens 降至約 20,000 tokens,減少 90%,對帳流程部署速度提升 10×。一間全球銀行的新對帳流程接入成本下降 70%,直通處理率提升逾 20%。
推薦理由:文章拆解多租戶隔離、按需載入 MCP 技能及多模型分工,並以部署速度、成本和上下文縮減數據呈現其落地做法。
Amazon Bedrock Managed Knowledge Base 透過 memoryConfiguration 接入 AgentCore memory,處理對話還原、相關記憶搜尋及回存。
推薦理由:文章以員工助理示範結合對話記憶與知識庫檢索,並以已驗證身份及 IAM 條件分別控制文件存取和用戶記憶隔離。
Amazon Bedrock Managed Knowledge Base 可透過檢索指令,為不同租戶設定各自的回答語氣、格式、檢索指引及回答政策。檢索指令本身不限制可檢索的文件,需配合 metadata filter 或分開的知識庫控制租戶資料存取。文章亦示範如何固定指令版本、逐租戶推出更新,並從 Planning trace 確認回應採用的指令版本。
推薦理由:文章拆解租戶指令與 metadata filter 的分工,並示範如何固定版本、追蹤回應及逐租戶推出變更,以管理指令更新。
AWS Machine Learning Blog 提出 Amazon Bedrock Guardrails Denied Topics 的八項撰寫最佳實踐,建議按用戶意圖而非主題領域界定拒絕內容。
推薦理由:以虛構銀行客服案例呈現八項撰寫原則,重點在把拒絕範圍寫成具體意圖與行為,並分清 Denied Topics 和其他政策的適用情境。
這篇教學示範如何在 Amazon Bedrock 上部署 LiteLLM 與 NVIDIA NeMo Switchyard,將編碼智能體的請求路由至合適模型。Switchyard 的 LiteLLM 整合支援 Stage 與 Random 兩種路由策略,並以路由模型組與單模型基線比較每個成功完成任務的成本。
推薦理由:文章把智能體路由的比較指標從每 token 價格轉為每個成功完成任務的成本,並示範以相同任務比較路由模型組與單模型基線,按測試是否通過判定任務完成。
GS Caltex 以 Amazon SageMaker Canvas 建立及驗證模型,再透過 Amazon SageMaker Pipelines 將模型接入生產流程,並每 30 分鐘執行批次推理。
AWS 示範如何透過 Amazon SageMaker JumpStart 部署 OpenFold3-preview(OpenFold3 0.4.1),以非同步推理預測蛋白質、DNA、RNA、小分子配體及其複合物的三維結構。
Amazon Bedrock AgentCore runtime V2 在建立或更新 runtime 時初始化容器並建立快照,新工作階段則還原快照,毋須每次重新初始化容器。文章説明如何量度工作階段啟動延遲,並建議把靜態工作移至 init,或用 build hook 預載無法保留在記憶體的檔案。若要低於 1 秒,可在用戶開始互動時於背景啟動工作階段,讓它在首個請求前就緒。
推薦理由:文章拆解 V2 的快照建立與還原流程,並按不同延遲需求整理初始化、build hook 與預先啟動工作階段的實作選擇,説明各做法適用的啟動情境。
AssemblyAI 以 Amazon EC2 Spot Instances 執行語音轉文字推理,運算成本較 On-Demand 定價節省 70%。架構混合 Spot 與 On-Demand 執行個體,分散使用 g4dn、g5、g6 GPU 機型,並以 Amazon SQS 重試處理中斷,以維持 SLA。平台運算需求按年增長近 4 倍,該架構仍維持可持續的單位經濟效益。
Amazon Bedrock 可透過 IAM 主體歸屬,追蹤經由平台呼叫推理的 AI 開發及生產力工具的個別用戶成本,並配合不同機制管理支出。教學示範以 IAM Identity Center 傳遞用戶身份及團隊、成本中心標籤,再透過 CUR 2.0、Athena 和儀錶板查看成本。
推薦理由:文章串連 IAM Identity Center、CUR 2.0 與 Athena,展示如何追蹤 Bedrock 工具的個別用戶成本,並比較不同支出控制方案的執行延遲與運維取捨。
教學示範如何在 Isaac Sim 中組合 UR17G 機械臂、Robotiq 2F-140 夾爪與飲料罐,並使用智能體生成的控制程式執行抓取與放置。SimReady Central 提供具備模擬設定及驗證資料的 OpenUSD 資產,涵蓋關節、碰撞和質量等屬性。示範使用 Isaac Sim 6.2 和 GPT-6 Sol 協助編寫及執行任務程式。
Amazon SageMaker HyperPod Data Capture 提供三個獨立層級的擷取方式,讓團隊把推理數據記錄至 Amazon S3,供分析和訓練使用。
推薦理由:文章以合成資料展示從生產推理記錄、Athena 分析到 SQL 標註與微調的完整流程,並比較留出測試的前後結果。
數據中心火災常源於電力及供電系統故障,文章梳理主要起火風險及及早識別警號的方法。Energy Incident Register 截至 2026 年 11 月 10 日記錄了自 2010 年起全球 180 宗數據中心電力基礎設施事故,其中 59 宗涉及火災或熱事件。AI 影片分析可利用 CCTV 監察可見煙霧、火焰及指定不安全活動,配合現有消防系統。
Amplitude 的 Wave 主動式產品智能體結合 OpenAI 模型與編碼智能體,協助團隊識別並交付產品改進,估計可把交付時間由約一個月縮短至 1–2 天。在 Amplitude 自家首頁的測試中,透過建議卡發送的訊息較控制組在一天後增加 160%。
Natera 與 AWS 使用 Amazon Bedrock AgentCore 建置 SWARM,為實驗室運維支援工單自動生成診斷報告。在 90 天生產評估中,平均首次回應時間由 17.4 小時降至約 8 分鐘,約快 130 倍;96.2% 的工單在工程師查看前收到自動診斷報告。
推薦理由:文章拆解 SWARM 的雙運行時、技能庫、資料管線與持續評估設計,並提供實驗室工單自動診斷的實測數據,呈現一套可參考的運維智能體建置路徑。
Amazon 宣佈 SGLang-Neuron 開放使用,透過 AWS Deep Learning Container 可在 AWS Trainium 上使用 SGLang 提供模型服務及生成 RL rollouts。
AWS Machine Learning Blog 説明,Amazon Bedrock 的快取時長、服務層級、推理力度及 maxTokens 均會影響推理成本,並展示如何測試和核對效果。
推薦理由:文章將四項請求設定納入同一測試流程,逐項核對模型支援、token 或成本變化及任務完成度,提供可套用於不同工作負載的評估方法。
Amplitude 的主動式產品智能體 Wave 結合 OpenAI 模型分析產品數據並協調編碼智能體實施改進,Amplitude 估計可把交付時間由約一個月縮短至 1–2 天。
AWS 説明如何透過 Cost Explorer 或 CUR 2.0 查看 Amazon Bedrock 按 IAM 主體劃分的支出,並以 AWS Budgets 設定限制,常見情況毋須編寫應用程式程式碼。
推薦理由:文章示範以 IAM 主體標籤、CUR 2.0 與 AWS Budgets 建立 Amazon Bedrock 身份級成本報表和支出限制,並交代共享角色及帳單更新延遲的影響。
AWS 作者示範以 Amazon Bedrock Application Inference Profiles、LiteLLM 和 AWS Fargate 建立自助式 LLM 閘道,透過兼容 OpenAI 的 API 提供模型存取。
推薦理由:文章把自助式 LLM 閘道拆解為推理設定、用戶成本管控與監察環節,並指出預算限制及跨區 IAM 權限的關鍵配置。
AWS Machine Learning Blog 提出一套在 Amazon Bedrock 上按任務而非 token 核算成本、優化智能體支出及衡量投資回報的方法。
推薦理由:文章把每項任務成本、成功率與人工投入納入同一評估框架,並説明如何以人類基線和 holdout 測試核算智能體投資回報。
AWS 在 Agent Toolkit for AWS 的 amazon-bedrock skill 加入知識庫遷移指南,協助團隊使用編碼智能體將客戶管理的 Amazon Bedrock 知識庫遷移至 Amazon Bedrock Managed Knowledge Base。
AWS 文章提出 Agent Development Lifecycle(Agent DLC),以一套包含準則、門檻和核準示例的明確標準,串連定義、建置、評估、發佈、觀察及回饋六項活動,並形成內外兩個循環。
推薦理由:HR 政策助理案例中,區塊層級精確率為 1.00、事實層級僅 0.09,呈現單一檢索指標如何掩蓋知識覆蓋缺口。
Amazon Bedrock Managed Knowledge Base 的示例架構以已驗證用戶身份,限制共用 AI 智能體對內部文件的搜尋。AgentCore Gateway 的請求攔截器會從已驗證的 JWT 注入用戶的 userContext,知識庫再透過 ACL awareness 篩選搜尋結果。
推薦理由:文章拆解共享智能體與知識庫下的多層存取控制,展示如何以已驗證身份限制搜尋,並防範提示詞注入及繞過閘道的直接呼叫。
AWS 文章示範如何透過 A2A 連接兩個 AWS 帳戶中的 LangChain 企業協調器與 Strands Agents SaaS 智能體,實現跨框架、跨組織的雙向協作。方案採用雙向 OAuth 驗證,兩邊不必使用對方的框架或 SDK,亦不共享密鑰。文章提供三個 Jupyter notebooks 的部署流程,並執行端到端測試及七項信任邊界檢查;合規掃描示範使用合成資料。
推薦理由:文章把 Agent Card 發現、跨組織雙向 OAuth 和回呼協作放進同一部署範例,並提供可按步驟執行的三個 Jupyter notebooks。
Hugging Face Blog 提供 TRELLIS.2 微調指南、腳本及 Docker 容器,示範如何用 LoRA 針對鞋類 3D 幾何生成進行微調。實驗使用 GSO 的 188 件鞋類物件,只微調 sparse-structure flow DiT 和 shape flow DiT,並凍結 texture flow DiT;其中 9 件留作評估。
推薦理由:文章示範如何按任務與資料特性選擇 TRELLIS.2 的微調部件,並以留出鞋類物件的幾何指標比較調整前後結果。
BSIS 監測重型車輛近側盲點並在有單車手時提醒司機;MOIS 監測車頭盲點,在行人或單車手進入危險範圍時發出警示。歐盟規定適用範圍內的 M2、M3、N2 及 N3 類新車須配備相關系統,要求由 2022 年 7 月 6 日起適用於新車型,並於 2024 年 7 月 7 日擴展至新登記車輛。
AWS 文章示範 Java 團隊如何使用 Spring AI 和 Amazon Bedrock AgentCore 構建自主 AI 智能體。示例包括支援工具調用、串流回應和對話記憶的單一旅行助理,以及由五個專門智能體組成的智能文件處理系統。
文章示範在 Amazon SageMaker HyperPod 的 PyTorch DDP 訓練流程加入三項檢查,以偵測靜默數據損壞並定位可疑 GPU。流程涵蓋非有限梯度檢查、跨節點 ring replay 和權重指紋比對,並説明如何隔離及替換可疑節點,再從可疑窗口前的檢查點恢復。
推薦理由:文章將靜默數據損壞的偵測、定位及節點恢復連成 DDP 實作流程,並説明各項檢查的覆蓋範圍與效能成本。
開源引擎 semi-persistent 以 anti-unification 比較形式化政策,合併共享結構,並用 Variants 節點標示分歧。
AWS Machine Learning Blog 説明如何讓 OpenAI Codex 透過 Amazon Bedrock 使用受支援的 OpenAI 模型,並納入既有 AWS 身份、IAM、區域及可觀測性安排。
推薦理由:文章比較 Native AWS Access、AgentCore Gateway 與 LLM Gateway 三種接入路徑,並整理身份隔離、遙測、成本歸因及回滾等試點檢查,為企業分階段部署提供具體依據。
AWS Agent Registry 的範例方案以 AWS CloudTrail、Amazon EventBridge 和 AWS Lambda 偵測 MCP 伺服器更新,並同步工具定義至現有記錄。
AWS re:Invent 2026 的 AI/ML 專題設有逾 140 場課程,指南協助參加者按 AWS AI 技術堆疊挑選合適場次。專題涵蓋 AI 晶片、模型訓練與推理、智能體開發與管理,並涉及安全、治理及成本最佳化;活動於 11 月 30 日至 12 月 4 日舉行。
DXC Technology 以 Amazon Bedrock 為 DXC OASIS 建立受治理的多模型基礎層,支援企業 IT 營運中的 AI 智能體。Amazon Bedrock 統一接入多個模型,並提供 Guardrails 與私有網絡控制;DXC 自建的執行層負責工具編排、權限限制、人手審批及審計。
AWS 介紹其自 2023 年起發布的 23 個開源生成式 AI 可重用資產,並示範如何選用、評估及部署 Contact Center GenAI Agent。示範流程包括部署兩個 AWS CloudFormation 範本及整合 Amazon Connect,需時不到一小時。Ricoh 案例中,每次部署的工程工時由 80 小時降至不足 5 小時。
AWS Machine Learning Blog 示範如何在 AWS Quick 配置六個智能體組成的 AI-PDLC,帶領產品團隊由分散的客戶訊號走到經驗驗證的原型。流程涵蓋探索、決策、設計和原型製作,產出痛點板、優先級評分、PR/FAQ、可供工程開發的規格及可點擊 HTML 原型。Orchestrator 協調各專責智能體,並在每個階段要求人工審批,保留決策與來源脈絡。
文章示範如何用 Sentence Transformers 為多向量嵌入模型加入 Token Pooling 感知訓練,令模型同時以原始及壓縮後的文件向量進行檢索訓練。
推薦理由:文章將壓縮後的檢索目標納入訓練損失,並在相同儲存預算下比較一般訓練與池化感知訓練的檢索品質保留差異。
港口可持續追蹤起重機、吊載及附近人員的位置,並隨起重機移動調整危險區域,以監測 STS 和 RTG 起重機周圍的動態禁入區。監測方式包括實體屏障、接近感應器、RFID/UWB 穿戴式標籤、LiDAR、設備定位及 AI 影片分析,各有不同用途和限制。
新加坡航空在客戶服務、旅遊探索及員工工作流程中採用 OpenAI API 和模型,Kris 聊天機械人的客戶滿意度提升至原來的 2 倍。客服平均處理時間減少約 10%,Flight Recommender 過去一年每月用戶增至近 3 倍;部分軟件開發生命週期活動的生產力提升最高達 20%。超過 60% 的員工每月使用由 OpenAI 模型支援的內部平台 Jarvis。