GS Caltex 以 Amazon SageMaker Canvas 和 Amazon SageMaker Pipelines 建立生產環境 MLOps(第一部分)
GS Caltex 以 Amazon SageMaker Canvas 建立及驗證模型,再透過 Amazon SageMaker Pipelines 將模型接入生產流程,並每 30 分鐘執行批次推理。
GS Caltex 以 Amazon SageMaker Canvas 建立及驗證模型,再透過 Amazon SageMaker Pipelines 將模型接入生產流程,並每 30 分鐘執行批次推理。
AWS 示範如何透過 Amazon SageMaker JumpStart 部署 OpenFold3-preview(OpenFold3 0.4.1),以非同步推理預測蛋白質、DNA、RNA、小分子配體及其複合物的三維結構。
Amazon Bedrock AgentCore runtime V2 在建立或更新 runtime 時初始化容器並建立快照,新工作階段則還原快照,毋須每次重新初始化容器。文章説明如何量度工作階段啟動延遲,並建議把靜態工作移至 init,或用 build hook 預載無法保留在記憶體的檔案。若要低於 1 秒,可在用戶開始互動時於背景啟動工作階段,讓它在首個請求前就緒。
推薦理由:文章拆解 V2 的快照建立與還原流程,並按不同延遲需求整理初始化、build hook 與預先啟動工作階段的實作選擇,説明各做法適用的啟動情境。
Google Research 公佈 Antigravity 的 /teamwork 結合 Gemini 4 models 在數學、科學及工程任務上的多項成果,並向外部研究人員和開發者開放相關工具。
推薦理由:文章以數學、化學與系統工程案例,呈現 /teamwork 如何透過並行探索、獨立驗證和任務分工支援長程研究工作。
AssemblyAI 以 Amazon EC2 Spot Instances 執行語音轉文字推理,運算成本較 On-Demand 定價節省 70%。架構混合 Spot 與 On-Demand 執行個體,分散使用 g4dn、g5、g6 GPU 機型,並以 Amazon SQS 重試處理中斷,以維持 SLA。平台運算需求按年增長近 4 倍,該架構仍維持可持續的單位經濟效益。
Amazon Bedrock 可透過 IAM 主體歸屬,追蹤經由平台呼叫推理的 AI 開發及生產力工具的個別用戶成本,並配合不同機制管理支出。教學示範以 IAM Identity Center 傳遞用戶身份及團隊、成本中心標籤,再透過 CUR 2.0、Athena 和儀錶板查看成本。
推薦理由:文章串連 IAM Identity Center、CUR 2.0 與 Athena,展示如何追蹤 Bedrock 工具的個別用戶成本,並比較不同支出控制方案的執行延遲與運維取捨。
教學示範如何在 Isaac Sim 中組合 UR17G 機械臂、Robotiq 2F-140 夾爪與飲料罐,並使用智能體生成的控制程式執行抓取與放置。SimReady Central 提供具備模擬設定及驗證資料的 OpenUSD 資產,涵蓋關節、碰撞和質量等屬性。示範使用 Isaac Sim 6.2 和 GPT-6 Sol 協助編寫及執行任務程式。
Amazon SageMaker HyperPod Data Capture 提供三個獨立層級的擷取方式,讓團隊把推理數據記錄至 Amazon S3,供分析和訓練使用。
推薦理由:文章以合成資料展示從生產推理記錄、Athena 分析到 SQL 標註與微調的完整流程,並比較留出測試的前後結果。
研究團隊推出 XYBench,以 8,115 個真實問題評估 AI 助手能否識別用戶的錯誤假設,並回應其實際目標。在 Stack Overflow 子集中,五個受測模型提供原始請求解法的比例為 75–86%,提供底層目標解法的比例為 59–71%;回答主要聚焦底層目標的比例為 35–41%。
OpenAI 推出 ChatGPT Wallet;現有內容未交代其功能或可用性。
llama.cpp 團隊發佈 llama.cpp 與 ggml 函式庫 v1.0.0,並宣佈日後以主版本號標示 API 和 ABI 不相容變更。版本規則將破壞相容性的公開 C API 變更列為 MAJOR,向後相容功能、後端更新、模型支援或 API 新增列為 MINOR,沒有 API 變更的錯誤修正列為 PATCH。
數據中心火災常源於電力及供電系統故障,文章梳理主要起火風險及及早識別警號的方法。Energy Incident Register 截至 2026 年 11 月 10 日記錄了自 2010 年起全球 180 宗數據中心電力基礎設施事故,其中 59 宗涉及火災或熱事件。AI 影片分析可利用 CCTV 監察可見煙霧、火焰及指定不安全活動,配合現有消防系統。
Amplitude 的 Wave 主動式產品智能體結合 OpenAI 模型與編碼智能體,協助團隊識別並交付產品改進,估計可把交付時間由約一個月縮短至 1–2 天。在 Amplitude 自家首頁的測試中,透過建議卡發送的訊息較控制組在一天後增加 160%。
創意平台 Gondola 營收按年翻倍,團隊運用 Codex 增加開發產出。使用 Codex 後,團隊每月工程產出增加 25%,主管工程師合併的程式碼變更增加 50%。團隊亦使用 ChatGPT 簡化日常營運工作。
Natera 與 AWS 使用 Amazon Bedrock AgentCore 建置 SWARM,為實驗室運維支援工單自動生成診斷報告。在 90 天生產評估中,平均首次回應時間由 17.4 小時降至約 8 分鐘,約快 130 倍;96.2% 的工單在工程師查看前收到自動診斷報告。
推薦理由:文章拆解 SWARM 的雙運行時、技能庫、資料管線與持續評估設計,並提供實驗室工單自動診斷的實測數據,呈現一套可參考的運維智能體建置路徑。
Amazon 宣佈 SGLang-Neuron 開放使用,透過 AWS Deep Learning Container 可在 AWS Trainium 上使用 SGLang 提供模型服務及生成 RL rollouts。
Microsoft Research Focus 第 98 期涵蓋 AI 跨語言翻譯、解決 KLS 猜想,以及提升編碼智能體效率等研究進展。研究團隊分析 1,350 萬次編碼工作階段,發現少於 8% 需要上下文壓縮,但佔 AI 處理成本的 44%;APEC 將成本最多降低 25.4%,執行時間降低 9.6%。
AWS Machine Learning Blog 説明,Amazon Bedrock 的快取時長、服務層級、推理力度及 maxTokens 均會影響推理成本,並展示如何測試和核對效果。
推薦理由:文章將四項請求設定納入同一測試流程,逐項核對模型支援、token 或成本變化及任務完成度,提供可套用於不同工作負載的評估方法。
Amplitude 的主動式產品智能體 Wave 結合 OpenAI 模型分析產品數據並協調編碼智能體實施改進,Amplitude 估計可把交付時間由約一個月縮短至 1–2 天。
AWS 説明如何透過 Cost Explorer 或 CUR 2.0 查看 Amazon Bedrock 按 IAM 主體劃分的支出,並以 AWS Budgets 設定限制,常見情況毋須編寫應用程式程式碼。
推薦理由:文章示範以 IAM 主體標籤、CUR 2.0 與 AWS Budgets 建立 Amazon Bedrock 身份級成本報表和支出限制,並交代共享角色及帳單更新延遲的影響。
LLMON 隨兩款基於 Granite 4.1 base models 的實驗預覽模型推出:granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview,支援讀取及生成 LLMON 標記文本。
推薦理由:文章説明 LLMON 如何以明確分隔指令與資料的方式應對靜態間接提示詞注入,並列出相對前沿及開源模型的基準比較。
Runway 運用大語言模型改善內容審核,讓審核政策更貼合創作情境,並更準確地阻止有害內容。政策可在數小時甚至數分鐘內更新,系統亦能容許劍鬥、槍戰、戰鬥場面和恐怖題材,同時封鎖針對受保護羣體的暴力內容及重現暴力極端襲擊的內容。第三方模型審核、模型錯誤和上下文不足等限制仍然存在。
AWS 作者示範以 Amazon Bedrock Application Inference Profiles、LiteLLM 和 AWS Fargate 建立自助式 LLM 閘道,透過兼容 OpenAI 的 API 提供模型存取。
推薦理由:文章把自助式 LLM 閘道拆解為推理設定、用戶成本管控與監察環節,並指出預算限制及跨區 IAM 權限的關鍵配置。
AWS Machine Learning Blog 提出一套在 Amazon Bedrock 上按任務而非 token 核算成本、優化智能體支出及衡量投資回報的方法。
推薦理由:文章把每項任務成本、成功率與人工投入納入同一評估框架,並説明如何以人類基線和 holdout 測試核算智能體投資回報。
Google DeepMind 發佈 Gemini 4 Hydrogen,主打日常編碼及智能體工作流程中的快速執行,並即日起在開發者、企業及消費者產品渠道全球推出。
推薦理由:文章以 Gemini 3.8 Flash 為對照,列出 Hydrogen 在任務速度、Terminal-Bench 4.1 成績及多項安全指標上的變化,呈現更新涵蓋的能力範圍。
Amazon Bedrock AgentCore 宣佈更新 AgentCore runtime,工作階段啟動速度最高提升 15 倍、算力擴展至前代 4 倍,運行效率最高提升 68%,並維持硬件隔離。
推薦理由:新版把硬件隔離、快速啟動、彈性算力與資料置於信任邊界內,並加入閒置縮至零及按需回收記憶體的管理方式,具體呈現正式部署中安全、效能與成本的取捨。
AWS 在 Agent Toolkit for AWS 的 amazon-bedrock skill 加入知識庫遷移指南,協助團隊使用編碼智能體將客戶管理的 Amazon Bedrock 知識庫遷移至 Amazon Bedrock Managed Knowledge Base。
AWS 文章提出 Agent Development Lifecycle(Agent DLC),以一套包含準則、門檻和核準示例的明確標準,串連定義、建置、評估、發佈、觀察及回饋六項活動,並形成內外兩個循環。
推薦理由:HR 政策助理案例中,區塊層級精確率為 1.00、事實層級僅 0.09,呈現單一檢索指標如何掩蓋知識覆蓋缺口。
Amazon Bedrock Managed Knowledge Base 的示例架構以已驗證用戶身份,限制共用 AI 智能體對內部文件的搜尋。AgentCore Gateway 的請求攔截器會從已驗證的 JWT 注入用戶的 userContext,知識庫再透過 ACL awareness 篩選搜尋結果。
推薦理由:文章拆解共享智能體與知識庫下的多層存取控制,展示如何以已驗證身份限制搜尋,並防範提示詞注入及繞過閘道的直接呼叫。
AWS 文章示範如何透過 A2A 連接兩個 AWS 帳戶中的 LangChain 企業協調器與 Strands Agents SaaS 智能體,實現跨框架、跨組織的雙向協作。方案採用雙向 OAuth 驗證,兩邊不必使用對方的框架或 SDK,亦不共享密鑰。文章提供三個 Jupyter notebooks 的部署流程,並執行端到端測試及七項信任邊界檢查;合規掃描示範使用合成資料。
推薦理由:文章把 Agent Card 發現、跨組織雙向 OAuth 和回呼協作放進同一部署範例,並提供可按步驟執行的三個 Jupyter notebooks。
Hugging Face Blog 提供 TRELLIS.2 微調指南、腳本及 Docker 容器,示範如何用 LoRA 針對鞋類 3D 幾何生成進行微調。實驗使用 GSO 的 188 件鞋類物件,只微調 sparse-structure flow DiT 和 shape flow DiT,並凍結 texture flow DiT;其中 9 件留作評估。
推薦理由:文章示範如何按任務與資料特性選擇 TRELLIS.2 的微調部件,並以留出鞋類物件的幾何指標比較調整前後結果。
Warhammer 40,000: Dawn of War IV 即將登陸 GeForce NOW,並於 12 月 3 日在 Steam 推出。NVIDIA DLSS 5 將支援 War Thunder 和 Where Winds Meet,最新模型的效能是上一版本的兩倍。另有 10 款遊戲本週加入 GeForce NOW 遊戲庫。
BSIS 監測重型車輛近側盲點並在有單車手時提醒司機;MOIS 監測車頭盲點,在行人或單車手進入危險範圍時發出警示。歐盟規定適用範圍內的 M2、M3、N2 及 N3 類新車須配備相關系統,要求由 2022 年 7 月 6 日起適用於新車型,並於 2024 年 7 月 7 日擴展至新登記車輛。
OpenAI 在巴黎和平論壇簽署《兒童安全 AI 參與憲章》,並承諾提供 $2 million,支持 AI 時代兒童權利與保護聯盟旗下的科學研究網絡。資金將支持開發供研究人員使用的測量工具,以瞭解 AI 對兒童的風險與機遇。研究團隊可自行控制結論,研究結果包括負面或未有定論的結果均會公開。
Holiday Extras 藉助 Codex 重建主應用程式,將原本需逾 6 個月的開發進度縮短至 2 週。重建後,主應用程式的開啟至預訂轉換率上升 32.5%,錯誤率由 19% 降至 9%。主應用程式由每年發布一次重大更新,改為每週發布更新。
嶺南大學歷史系推出免費互動自學平台 Lingnan Guide to Digital and AI Humanities,讓公眾學習 AI 基礎及其在歷史與人文研究中的應用。平台提供繁體中文、簡體中文及英文內容,示範史料數碼化、歷史地圖比對、人物與事件關係網絡分析,以及團隊自行開發的文本量化分析工具。團隊計劃推出配套互動平台,加入按用戶提示詞協助整理材料、分析內容及支援研究流程的 AI 智能體。
AWS 文章示範 Java 團隊如何使用 Spring AI 和 Amazon Bedrock AgentCore 構建自主 AI 智能體。示例包括支援工具調用、串流回應和對話記憶的單一旅行助理,以及由五個專門智能體組成的智能文件處理系統。
OpenAI 選定 Aleph 為 ChatGPT Ads 在 44 個國家的獨家轉售商,讓當地品牌及代理商可透過本地實體簽約、付款並獲得支援。香港不提供 ChatGPT Ads;當地企業可透過獲授權的廣告合作夥伴,向服務可用市場的 ChatGPT 用戶投放廣告。
AWS 宣佈 Amazon Bedrock AgentCore 推出 Web Search API,讓應用程式透過單次 API 呼叫搜尋網頁,並取得 Amazon 營運的網頁索引所提供的排序結果。
推薦理由:文章清楚區分 Web Search API 與 AgentCore Gateway 的適用場景,並説明直接 API 呼叫無須預先建立資源,方便按現有架構選擇接入方式。
文章示範在 Amazon SageMaker HyperPod 的 PyTorch DDP 訓練流程加入三項檢查,以偵測靜默數據損壞並定位可疑 GPU。流程涵蓋非有限梯度檢查、跨節點 ring replay 和權重指紋比對,並説明如何隔離及替換可疑節點,再從可疑窗口前的檢查點恢復。
推薦理由:文章將靜默數據損壞的偵測、定位及節點恢復連成 DDP 實作流程,並説明各項檢查的覆蓋範圍與效能成本。