跳到正文
目前篩選:一手
11月18日週三
  1. AWS Machine Learning Blog63

    如何以 Amazon Bedrock AgentCore 和 SMART 建構 WhatsApp AI 智能體

    SMART(Social Messaging Agent Runtime Toolkit)是一套開源 Python SDK 及 Terraform 堆疊,可配合 Amazon Bedrock AgentCore 建構 WhatsApp AI 智能體並處理通道整合。

    推薦理由:文章梳理 WhatsApp 智能體的通道工程負擔,並呈現 SMART 如何整合訊息驗證、媒體處理、記憶及排程,讓讀者瞭解端到端接入流程。

  2. AWS Machine Learning Blog52

    AWS 為 AI 智能體平台及應用團隊提出負責任 AI 三階段路線圖

    AWS 提出供 AI 智能體平台團隊及應用團隊採用的負責任 AI 三階段成熟度框架,涵蓋治理基礎、試點部署,以及評估與加固。平台團隊建立護欄,應用團隊在其框架內建構智能體,各階段分別處理治理、安全與私隱、可靠性、可控性、公平性、可解釋性及透明度。配套的 Responsible AI Assessment Skill 以 1–5 分評估成熟度,低於 4 分代表有重大風險需要處理,並提供改善建議。

  3. AWS Machine Learning Blog62

    ArisGlobal 如何在 Amazon Bedrock 上透過提示詞快取擴展生成式 AI 推理

    ArisGlobal 調整 Amazon Bedrock 請求順序,改為快取跨請求重用的共用提示詞前綴,以降低 NavaX 的推理成本。生產請求中,約 65% 的輸入 token 以較低費率從快取讀取,令有效輸入成本約下降 50%;在每月超過 19 billion tokens 的用量下,整體月度推理支出約下降 40%。此設計亦支援約 15% 更多企業租戶進駐,而 EU 跨區域推理路由維持不變。

    推薦理由:案例展示多租戶工作負載如何按跨請求重用程度安排快取前綴,而非優先快取單次個案的大型文件,並提供部署與監測要點。

11月17日週二
  1. 香港生產力促進局 · AI 應用49

    生產力局聯同特區政府發展低空經濟工作組舉辦「監管沙盒X」成果巡禮,推動低空經濟規模化發展

    香港生產力促進局聯同特區政府發展低空經濟工作組舉辦「監管沙盒X」成果巡禮,並為無人機任務管理展示中心揭幕,展示「多場景/多用戶共享平台」的階段性成果。「一網統飛」共享平台有超過20個政府部門參與,透過統一協調及調度低空飛行任務,探索跨部門資源共享和協作模式。

  2. AWS Machine Learning Blog62

    製造業多智能體系統的設計模式、反模式與架構選擇

    AWS Machine Learning Blog 梳理多智能體協調模式與常見反模式,並提供按任務及製造業限制選擇架構的指引。文章將模式分為由開發者預設流程的 Tier 1,以及由模型在執行時決定流程的 Tier 2,建議由 Tier 1 起步,僅在子任務需於執行過程中浮現時採用 Tier 2。

    推薦理由:文章區分預先定義流程與模型自主決策兩類編排,並以製造業的延遲、安全與邊緣數據限制,説明各自適用情境和較簡單的架構選擇。

  3. Hugging Face Blog76

    Hugging Face 與 OpenRouter 合作,簡化開放權重模型的調用

    Hugging Face 宣佈與 OpenRouter 合作,將 Inference Providers 的語言模型請求改由 OpenRouter 路由,按供應商即時價格、速度和可靠性選擇服務商,並在失敗時改由其他供應商重試。

    推薦理由:文章説明語言模型路由如何按即時價格、速度和可靠性選擇供應商,並交代故障重試及自備 API key 不再適用的影響。

  4. NVIDIA Blog50

    NVIDIA 如何透過全球最先進的 AI 基礎設施供應鏈開創未來

    Deb Shoquist 帶領 NVIDIA 營運團隊與全球製造夥伴合作,把設計轉化為可靠、高效能的供應鏈,支援 AI 平台技術的量產。Amphenol 的電纜匣包含 1,500 條細小線纜,每件產品的次品率須低於 1 DPPM,並由逾百條自動化生產線製造。NVIDIA 亦投資 Coherent 和 Lumentum,並與新的規模化夥伴建立 CPO 供應鏈。

  5. AWS Machine Learning Blog62

    Amazon Bedrock 開放權重模型現支援顯式提示詞快取

    Amazon Bedrock 的開放權重模型現已支援顯式提示詞快取,並可透過 Chat Completions API 標記可重用的提示詞前綴。文章以 Python 範例比較隱式與顯式快取,並示範 OpenCode 編碼智能體工作階段如何使用隱式快取及檢視快取用量欄位。快取讀取的費率低於標準輸入,快取寫入費率則視乎模型而定;回應中的用量欄位可用來核對快取讀寫。

    推薦理由:文章比較隱式與顯式快取的適用情境,並以 Python 範例展示快取讀寫欄位,再示範 OpenCode 工作階段中的快取讀取。

11月14日週六
  1. AWS Machine Learning Blog63

    如何透過 NVIDIA NeMo Switchyard 在 Amazon Bedrock 為編碼智能體請求路由至合適模型

    這篇教學示範如何在 Amazon Bedrock 上部署 LiteLLM 與 NVIDIA NeMo Switchyard,將編碼智能體的請求路由至合適模型。Switchyard 的 LiteLLM 整合支援 Stage 與 Random 兩種路由策略,並以路由模型組與單模型基線比較每個成功完成任務的成本。

    推薦理由:文章把智能體路由的比較指標從每 token 價格轉為每個成功完成任務的成本,並示範以相同任務比較路由模型組與單模型基線,按測試是否通過判定任務完成。

  2. AWS Machine Learning Blog62

    Amazon Bedrock AgentCore runtime 的快速工作階段啟動架構模式

    Amazon Bedrock AgentCore runtime V2 在建立或更新 runtime 時初始化容器並建立快照,新工作階段則還原快照,毋須每次重新初始化容器。文章説明如何量度工作階段啟動延遲,並建議把靜態工作移至 init,或用 build hook 預載無法保留在記憶體的檔案。若要低於 1 秒,可在用戶開始互動時於背景啟動工作階段,讓它在首個請求前就緒。

    推薦理由:文章拆解 V2 的快照建立與還原流程,並按不同延遲需求整理初始化、build hook 與預先啟動工作階段的實作選擇,説明各做法適用的啟動情境。

  3. AWS Machine Learning Blog57

    AssemblyAI 如何利用 Amazon EC2 Spot 降低語音轉文字推理成本

    AssemblyAI 以 Amazon EC2 Spot Instances 執行語音轉文字推理,運算成本較 On-Demand 定價節省 70%。架構混合 Spot 與 On-Demand 執行個體,分散使用 g4dn、g5、g6 GPU 機型,並以 Amazon SQS 重試處理中斷,以維持 SLA。平台運算需求按年增長近 4 倍,該架構仍維持可持續的單位經濟效益。

  4. AWS Machine Learning Blog66

    Amazon Bedrock 如何追蹤 AI 開發及生產力工具成本並設定支出控制

    Amazon Bedrock 可透過 IAM 主體歸屬,追蹤經由平台呼叫推理的 AI 開發及生產力工具的個別用戶成本,並配合不同機制管理支出。教學示範以 IAM Identity Center 傳遞用戶身份及團隊、成本中心標籤,再透過 CUR 2.0、Athena 和儀錶板查看成本。

    推薦理由:文章串連 IAM Identity Center、CUR 2.0 與 Athena,展示如何追蹤 Bedrock 工具的個別用戶成本,並比較不同支出控制方案的執行延遲與運維取捨。

  5. Hugging Face Blog49

    如何使用 SimReady 資產構建機械人抓取與放置模擬

    教學示範如何在 Isaac Sim 中組合 UR17G 機械臂、Robotiq 2F-140 夾爪與飲料罐,並使用智能體生成的控制程式執行抓取與放置。SimReady Central 提供具備模擬設定及驗證資料的 OpenUSD 資產,涵蓋關節、碰撞和質量等屬性。示範使用 Isaac Sim 6.2 和 GPT-6 Sol 協助編寫及執行任務程式。

11月13日週五
  1. viAct · 視覺 AI 及工地安全44

    數據中心火災由何引起?如何及早偵測?

    數據中心火災常源於電力及供電系統故障,文章梳理主要起火風險及及早識別警號的方法。Energy Incident Register 截至 2026 年 11 月 10 日記錄了自 2010 年起全球 180 宗數據中心電力基礎設施事故,其中 59 宗涉及火災或熱事件。AI 影片分析可利用 CCTV 監察可見煙霧、火焰及指定不安全活動,配合現有消防系統。

  2. AWS Machine Learning Blog63

    Natera 如何以 Amazon Bedrock AgentCore 設計實驗室運維智能體系統

    Natera 與 AWS 使用 Amazon Bedrock AgentCore 建置 SWARM,為實驗室運維支援工單自動生成診斷報告。在 90 天生產評估中,平均首次回應時間由 17.4 小時降至約 8 分鐘,約快 130 倍;96.2% 的工單在工程師查看前收到自動診斷報告。

    推薦理由:文章拆解 SWARM 的雙運行時、技能庫、資料管線與持續評估設計,並提供實驗室工單自動診斷的實測數據,呈現一套可參考的運維智能體建置路徑。

  3. AWS Machine Learning Blog62

    Amazon Bedrock 如何按 IAM 主體追蹤並限制支出:使用 CUR 2.0 和 AWS Budgets

    AWS 説明如何透過 Cost Explorer 或 CUR 2.0 查看 Amazon Bedrock 按 IAM 主體劃分的支出,並以 AWS Budgets 設定限制,常見情況毋須編寫應用程式程式碼。

    推薦理由:文章示範以 IAM 主體標籤、CUR 2.0 與 AWS Budgets 建立 Amazon Bedrock 身份級成本報表和支出限制,並交代共享角色及帳單更新延遲的影響。

  4. AWS Machine Learning Blog67

    Amazon Bedrock AgentCore 新一代 runtime 啟動工作階段低於 2 秒

    Amazon Bedrock AgentCore 宣佈更新 AgentCore runtime,工作階段啟動速度最高提升 15 倍、算力擴展至前代 4 倍,運行效率最高提升 68%,並維持硬件隔離。

    推薦理由:新版把硬件隔離、快速啟動、彈性算力與資料置於信任邊界內,並加入閒置縮至零及按需回收記憶體的管理方式,具體呈現正式部署中安全、效能與成本的取捨。

11月12日週四
  1. AWS Machine Learning Blog62

    在 Amazon SageMaker HyperPod 上偵測及恢復靜默數據損壞

    文章示範在 Amazon SageMaker HyperPod 的 PyTorch DDP 訓練流程加入三項檢查,以偵測靜默數據損壞並定位可疑 GPU。流程涵蓋非有限梯度檢查、跨節點 ring replay 和權重指紋比對,並説明如何隔離及替換可疑節點,再從可疑窗口前的檢查點恢復。

    推薦理由:文章將靜默數據損壞的偵測、定位及節點恢復連成 DDP 實作流程,並説明各項檢查的覆蓋範圍與效能成本。

  2. AWS Machine Learning Blog68

    OpenAI Codex 接入 Amazon Bedrock 的企業部署指南

    AWS Machine Learning Blog 説明如何讓 OpenAI Codex 透過 Amazon Bedrock 使用受支援的 OpenAI 模型,並納入既有 AWS 身份、IAM、區域及可觀測性安排。

    推薦理由:文章比較 Native AWS Access、AgentCore Gateway 與 LLM Gateway 三種接入路徑,並整理身份隔離、遙測、成本歸因及回滾等試點檢查,為企業分階段部署提供具體依據。

  3. AWS Machine Learning Blog42

    AWS re:Invent 2026 AI/ML 專題參會指南

    AWS re:Invent 2026 的 AI/ML 專題設有逾 140 場課程,指南協助參加者按 AWS AI 技術堆疊挑選合適場次。專題涵蓋 AI 晶片、模型訓練與推理、智能體開發與管理,並涉及安全、治理及成本最佳化;活動於 11 月 30 日至 12 月 4 日舉行。

11月11日週三