OpenTSLM 如何透過 Amazon SageMaker JumpStart 分析時間序列數據
OpenTSLM-Flamingo 現已可在 Amazon SageMaker JumpStart 部署,文章示範如何以數值時間序列和文字上下文進行推理。
OpenTSLM-Flamingo 現已可在 Amazon SageMaker JumpStart 部署,文章示範如何以數值時間序列和文字上下文進行推理。
SMART(Social Messaging Agent Runtime Toolkit)是一套開源 Python SDK 及 Terraform 堆疊,可配合 Amazon Bedrock AgentCore 建構 WhatsApp AI 智能體並處理通道整合。
推薦理由:文章梳理 WhatsApp 智能體的通道工程負擔,並呈現 SMART 如何整合訊息驗證、媒體處理、記憶及排程,讓讀者瞭解端到端接入流程。
AWS 提出供 AI 智能體平台團隊及應用團隊採用的負責任 AI 三階段成熟度框架,涵蓋治理基礎、試點部署,以及評估與加固。平台團隊建立護欄,應用團隊在其框架內建構智能體,各階段分別處理治理、安全與私隱、可靠性、可控性、公平性、可解釋性及透明度。配套的 Responsible AI Assessment Skill 以 1–5 分評估成熟度,低於 4 分代表有重大風險需要處理,並提供改善建議。
ArisGlobal 調整 Amazon Bedrock 請求順序,改為快取跨請求重用的共用提示詞前綴,以降低 NavaX 的推理成本。生產請求中,約 65% 的輸入 token 以較低費率從快取讀取,令有效輸入成本約下降 50%;在每月超過 19 billion tokens 的用量下,整體月度推理支出約下降 40%。此設計亦支援約 15% 更多企業租戶進駐,而 EU 跨區域推理路由維持不變。
推薦理由:案例展示多租戶工作負載如何按跨請求重用程度安排快取前綴,而非優先快取單次個案的大型文件,並提供部署與監測要點。
香港生產力促進局聯同特區政府發展低空經濟工作組舉辦「監管沙盒X」成果巡禮,並為無人機任務管理展示中心揭幕,展示「多場景/多用戶共享平台」的階段性成果。「一網統飛」共享平台有超過20個政府部門參與,透過統一協調及調度低空飛行任務,探索跨部門資源共享和協作模式。
Amazon Bedrock、Kiro IDE 與 AWS Transform 可透過五階段流程,將大型主機 Assembler 程式經 COBOL 中間階段轉換為 Java Spring Boot 應用程式。流程設有人工驗證及功能等效測試檢查點,以保存業務邏輯並降低轉換風險;相較手動方式,可縮短現代化所需時間。
MoEngage 在 Amazon Bedrock AgentCore 上建構 Merlin AI,透過 FastMCP 將既有 OpenAPI 3.0 API 轉成 MCP 工具,讓營銷及產品團隊以對話草擬、分析和調整活動。
AWS Machine Learning Blog 梳理多智能體協調模式與常見反模式,並提供按任務及製造業限制選擇架構的指引。文章將模式分為由開發者預設流程的 Tier 1,以及由模型在執行時決定流程的 Tier 2,建議由 Tier 1 起步,僅在子任務需於執行過程中浮現時採用 Tier 2。
推薦理由:文章區分預先定義流程與模型自主決策兩類編排,並以製造業的延遲、安全與邊緣數據限制,説明各自適用情境和較簡單的架構選擇。
Amazon Bedrock Managed Knowledge Base 透過 memoryConfiguration 接入 AgentCore memory,處理對話還原、相關記憶搜尋及回存。
推薦理由:文章以員工助理示範結合對話記憶與知識庫檢索,並以已驗證身份及 IAM 條件分別控制文件存取和用戶記憶隔離。
Hugging Face 宣佈與 OpenRouter 合作,將 Inference Providers 的語言模型請求改由 OpenRouter 路由,按供應商即時價格、速度和可靠性選擇服務商,並在失敗時改由其他供應商重試。
推薦理由:文章説明語言模型路由如何按即時價格、速度和可靠性選擇供應商,並交代故障重試及自備 API key 不再適用的影響。
Deb Shoquist 帶領 NVIDIA 營運團隊與全球製造夥伴合作,把設計轉化為可靠、高效能的供應鏈,支援 AI 平台技術的量產。Amphenol 的電纜匣包含 1,500 條細小線纜,每件產品的次品率須低於 1 DPPM,並由逾百條自動化生產線製造。NVIDIA 亦投資 Coherent 和 Lumentum,並與新的規模化夥伴建立 CPO 供應鏈。
NVIDIA 在 SC26 推出 DGX Spark HPC Developer Kit,讓研究人員可在桌面使用由四部 DGX Spark 組成的多節點運算叢集。
推薦理由:四節點配置、記憶體與儲存容量,以及本地執行科研工作負載的範圍,呈現這套桌面多節點開發環境的配置和用途。
Amazon Bedrock 的開放權重模型現已支援顯式提示詞快取,並可透過 Chat Completions API 標記可重用的提示詞前綴。文章以 Python 範例比較隱式與顯式快取,並示範 OpenCode 編碼智能體工作階段如何使用隱式快取及檢視快取用量欄位。快取讀取的費率低於標準輸入,快取寫入費率則視乎模型而定;回應中的用量欄位可用來核對快取讀寫。
推薦理由:文章比較隱式與顯式快取的適用情境,並以 Python 範例展示快取讀寫欄位,再示範 OpenCode 工作階段中的快取讀取。
這篇教學示範如何在 Amazon Bedrock 上部署 LiteLLM 與 NVIDIA NeMo Switchyard,將編碼智能體的請求路由至合適模型。Switchyard 的 LiteLLM 整合支援 Stage 與 Random 兩種路由策略,並以路由模型組與單模型基線比較每個成功完成任務的成本。
推薦理由:文章把智能體路由的比較指標從每 token 價格轉為每個成功完成任務的成本,並示範以相同任務比較路由模型組與單模型基線,按測試是否通過判定任務完成。
GS Caltex 以 Amazon SageMaker Canvas 建立及驗證模型,再透過 Amazon SageMaker Pipelines 將模型接入生產流程,並每 30 分鐘執行批次推理。
AWS 示範如何透過 Amazon SageMaker JumpStart 部署 OpenFold3-preview(OpenFold3 0.4.1),以非同步推理預測蛋白質、DNA、RNA、小分子配體及其複合物的三維結構。
Amazon Bedrock AgentCore runtime V2 在建立或更新 runtime 時初始化容器並建立快照,新工作階段則還原快照,毋須每次重新初始化容器。文章説明如何量度工作階段啟動延遲,並建議把靜態工作移至 init,或用 build hook 預載無法保留在記憶體的檔案。若要低於 1 秒,可在用戶開始互動時於背景啟動工作階段,讓它在首個請求前就緒。
推薦理由:文章拆解 V2 的快照建立與還原流程,並按不同延遲需求整理初始化、build hook 與預先啟動工作階段的實作選擇,説明各做法適用的啟動情境。
AssemblyAI 以 Amazon EC2 Spot Instances 執行語音轉文字推理,運算成本較 On-Demand 定價節省 70%。架構混合 Spot 與 On-Demand 執行個體,分散使用 g4dn、g5、g6 GPU 機型,並以 Amazon SQS 重試處理中斷,以維持 SLA。平台運算需求按年增長近 4 倍,該架構仍維持可持續的單位經濟效益。
Amazon Bedrock 可透過 IAM 主體歸屬,追蹤經由平台呼叫推理的 AI 開發及生產力工具的個別用戶成本,並配合不同機制管理支出。教學示範以 IAM Identity Center 傳遞用戶身份及團隊、成本中心標籤,再透過 CUR 2.0、Athena 和儀錶板查看成本。
推薦理由:文章串連 IAM Identity Center、CUR 2.0 與 Athena,展示如何追蹤 Bedrock 工具的個別用戶成本,並比較不同支出控制方案的執行延遲與運維取捨。
教學示範如何在 Isaac Sim 中組合 UR17G 機械臂、Robotiq 2F-140 夾爪與飲料罐,並使用智能體生成的控制程式執行抓取與放置。SimReady Central 提供具備模擬設定及驗證資料的 OpenUSD 資產,涵蓋關節、碰撞和質量等屬性。示範使用 Isaac Sim 6.2 和 GPT-6 Sol 協助編寫及執行任務程式。
Amazon SageMaker HyperPod Data Capture 提供三個獨立層級的擷取方式,讓團隊把推理數據記錄至 Amazon S3,供分析和訓練使用。
推薦理由:文章以合成資料展示從生產推理記錄、Athena 分析到 SQL 標註與微調的完整流程,並比較留出測試的前後結果。
llama.cpp 團隊發佈 llama.cpp 與 ggml 函式庫 v1.0.0,並宣佈日後以主版本號標示 API 和 ABI 不相容變更。版本規則將破壞相容性的公開 C API 變更列為 MAJOR,向後相容功能、後端更新、模型支援或 API 新增列為 MINOR,沒有 API 變更的錯誤修正列為 PATCH。
數據中心火災常源於電力及供電系統故障,文章梳理主要起火風險及及早識別警號的方法。Energy Incident Register 截至 2026 年 11 月 10 日記錄了自 2010 年起全球 180 宗數據中心電力基礎設施事故,其中 59 宗涉及火災或熱事件。AI 影片分析可利用 CCTV 監察可見煙霧、火焰及指定不安全活動,配合現有消防系統。
Natera 與 AWS 使用 Amazon Bedrock AgentCore 建置 SWARM,為實驗室運維支援工單自動生成診斷報告。在 90 天生產評估中,平均首次回應時間由 17.4 小時降至約 8 分鐘,約快 130 倍;96.2% 的工單在工程師查看前收到自動診斷報告。
推薦理由:文章拆解 SWARM 的雙運行時、技能庫、資料管線與持續評估設計,並提供實驗室工單自動診斷的實測數據,呈現一套可參考的運維智能體建置路徑。
Amazon 宣佈 SGLang-Neuron 開放使用,透過 AWS Deep Learning Container 可在 AWS Trainium 上使用 SGLang 提供模型服務及生成 RL rollouts。
AWS 説明如何透過 Cost Explorer 或 CUR 2.0 查看 Amazon Bedrock 按 IAM 主體劃分的支出,並以 AWS Budgets 設定限制,常見情況毋須編寫應用程式程式碼。
推薦理由:文章示範以 IAM 主體標籤、CUR 2.0 與 AWS Budgets 建立 Amazon Bedrock 身份級成本報表和支出限制,並交代共享角色及帳單更新延遲的影響。
AWS 作者示範以 Amazon Bedrock Application Inference Profiles、LiteLLM 和 AWS Fargate 建立自助式 LLM 閘道,透過兼容 OpenAI 的 API 提供模型存取。
推薦理由:文章把自助式 LLM 閘道拆解為推理設定、用戶成本管控與監察環節,並指出預算限制及跨區 IAM 權限的關鍵配置。
AWS Machine Learning Blog 提出一套在 Amazon Bedrock 上按任務而非 token 核算成本、優化智能體支出及衡量投資回報的方法。
推薦理由:文章把每項任務成本、成功率與人工投入納入同一評估框架,並説明如何以人類基線和 holdout 測試核算智能體投資回報。
Amazon Bedrock AgentCore 宣佈更新 AgentCore runtime,工作階段啟動速度最高提升 15 倍、算力擴展至前代 4 倍,運行效率最高提升 68%,並維持硬件隔離。
推薦理由:新版把硬件隔離、快速啟動、彈性算力與資料置於信任邊界內,並加入閒置縮至零及按需回收記憶體的管理方式,具體呈現正式部署中安全、效能與成本的取捨。
AWS 在 Agent Toolkit for AWS 的 amazon-bedrock skill 加入知識庫遷移指南,協助團隊使用編碼智能體將客戶管理的 Amazon Bedrock 知識庫遷移至 Amazon Bedrock Managed Knowledge Base。
AWS 文章示範 Java 團隊如何使用 Spring AI 和 Amazon Bedrock AgentCore 構建自主 AI 智能體。示例包括支援工具調用、串流回應和對話記憶的單一旅行助理,以及由五個專門智能體組成的智能文件處理系統。
文章示範在 Amazon SageMaker HyperPod 的 PyTorch DDP 訓練流程加入三項檢查,以偵測靜默數據損壞並定位可疑 GPU。流程涵蓋非有限梯度檢查、跨節點 ring replay 和權重指紋比對,並説明如何隔離及替換可疑節點,再從可疑窗口前的檢查點恢復。
推薦理由:文章將靜默數據損壞的偵測、定位及節點恢復連成 DDP 實作流程,並説明各項檢查的覆蓋範圍與效能成本。
開源引擎 semi-persistent 以 anti-unification 比較形式化政策,合併共享結構,並用 Variants 節點標示分歧。
AWS Machine Learning Blog 説明如何讓 OpenAI Codex 透過 Amazon Bedrock 使用受支援的 OpenAI 模型,並納入既有 AWS 身份、IAM、區域及可觀測性安排。
推薦理由:文章比較 Native AWS Access、AgentCore Gateway 與 LLM Gateway 三種接入路徑,並整理身份隔離、遙測、成本歸因及回滾等試點檢查,為企業分階段部署提供具體依據。
AWS 於 2026 年 10 月為 Amazon Bedrock、AgentCore 和 Strands 推出多項更新,涵蓋模型供應、智能體可靠性、成本管理及開發測試。
AWS Agent Registry 的範例方案以 AWS CloudTrail、Amazon EventBridge 和 AWS Lambda 偵測 MCP 伺服器更新,並同步工具定義至現有記錄。
AWS re:Invent 2026 的 AI/ML 專題設有逾 140 場課程,指南協助參加者按 AWS AI 技術堆疊挑選合適場次。專題涵蓋 AI 晶片、模型訓練與推理、智能體開發與管理,並涉及安全、治理及成本最佳化;活動於 11 月 30 日至 12 月 4 日舉行。
DXC Technology 以 Amazon Bedrock 為 DXC OASIS 建立受治理的多模型基礎層,支援企業 IT 營運中的 AI 智能體。Amazon Bedrock 統一接入多個模型,並提供 Guardrails 與私有網絡控制;DXC 自建的執行層負責工具編排、權限限制、人手審批及審計。
AWS 宣佈 Amazon SageMaker AI 雙向串流推理新增按用量計量,讓模型供應商可向 AWS Marketplace 回報即時串流的實際用量,以計算軟件費用。
港口可持續追蹤起重機、吊載及附近人員的位置,並隨起重機移動調整危險區域,以監測 STS 和 RTG 起重機周圍的動態禁入區。監測方式包括實體屏障、接近感應器、RFID/UWB 穿戴式標籤、LiDAR、設備定位及 AI 影片分析,各有不同用途和限制。