跳到正文

#部署/工程

今日 5 條
今天10月7日週三
10月6日週二
  1. AWS Machine Learning Blog55

    Amazon SageMaker AI 推出 aws-ai-ml 技能,為編碼智能體提供生成式 AI 推理最佳化能力

    Amazon SageMaker AI 推出 aws-ai-ml 技能,讓支援 MCP 的編碼智能體協助最佳化生成式 AI 推理。它可測試現有端點、推薦部署配置、比較基準測試結果,並生成可檢視及執行的 SageMaker Python SDK v3 程式碼;測試報告提供實際基礎設施負載下的吞吐量、延遲和並行數據。

10月3日週六
  1. AWS Machine Learning Blog61

    Claude Platform on AWS 多環境存取實作指南

    AWS Machine Learning Blog 提供 Claude Platform on AWS 多環境存取指南,示範為 AWS 工作負載、開發者筆電及外部環境配置推理存取。

    推薦理由:文章按 AWS 工作負載、開發者筆電與外部環境,示範 cross-account SigV4、workspace-scoped API key 和 OIDC federation 如何配置,並維持 workspace 隔離。

10月2日週五
  1. Google Research64

    Google Research 介紹採用 TEE 的新一代聯邦學習系統

    Google Research 公佈採用可信執行環境(TEE)的新一代聯邦學習系統,讓伺服器端的數據匿名化處理可供驗證和審計。設備上傳的訓練數據只會交由符合預先授權存取政策的 TEE 工作負載解密處理,相關政策亦發布於 Rekor 公開透明日誌。Gboard 已採用新系統推出英文及日文下一詞預測模型,模型私隱保障更強、準確度更高,計算時間亦較舊系統大幅縮短。

    推薦理由:文章比較舊式聯邦學習與 TEE 架構在服務端可驗證性上的差異,並交代存取政策公開記錄機制及 Gboard 部署後在私隱、準確度和訓練速度上的變化。

  2. AWS Machine Learning Blog66

    如何用 Amazon Bedrock AgentCore 構建環境式智能體,串聯事件觸發與人在迴路工作流

    Amazon Bedrock AgentCore 的參考實作把 Amazon S3 上傳或排程事件轉成智能體工作,並讓智能體在需要澄清、審批或覆核時暫停等待人員回應。

    推薦理由:文章把事件來源、AgentCore 執行與人在迴路處理串成參考架構,並清楚區分樣本內建能力與需自行擴展的訊號來源。

9月30日週三
9月24日週四
  1. Microsoft Research63

    Microsoft 為 Physical AI Toolchain 加入機械人推理卸載功能

    Microsoft 宣佈 Physical AI Toolchain 新增機械人推理卸載功能,支援透過 Kubernetes 工具把 AI 工作負載分配至機械人、邊緣 GPU 和雲端。

    推薦理由:文章將實機工作負載的效能、電池續航與算力配置放在同一脈絡比較,並介紹以 Kubernetes 分配推理的工具,呈現卸載方案的收益與代價。

9月23日週三
9月22日週二
9月10日週四
  1. Mistral AI41

    Cloudera 與 Mistral 合作,為企業數據帶來專門化主權智能

    Mistral 與 Cloudera 建立合作,將 Mistral 模型整合至 Cloudera 混合數據平台,讓企業可在自有環境部署推理,並以專有數據訓練自訂模型。模型可部署於私有及公有雲、本地端及完全隔離環境,企業亦可保有數據與所生成智能的控制權。模型可按企業需求調整並基於開放權重持有,訓練和推理可在客户選定的基礎設施及司法管轄區內進行。

9月8日週二
  1. Mistral AI80

    Mistral 完成 €3 billion D 輪融資,擴大主權開放權重 AI 研發

    Mistral 宣佈完成 €3 billion D 輪融資,投後估值超過 €21 billion,並將藉此擴大前沿研究、訓練算力及基礎設施。本輪由 Samsung Electronics 領投,Scaleup Europe Fund(由 EQT 管理)與現有投資者 PSG Equity 共同領投;Mistral 稱這是歐洲科技公司完成過的最大股權融資。

    推薦理由:融資不只用於前沿研究和訓練算力,也涵蓋基礎設施與商業拓展,呈現 Mistral 主權 AI 全棧路線的擴張重點。

9月3日週四
  1. Hugging Face Blog73

    Hugging Face 推出開源工具 funes,為編碼智能體提供可檢索的持久記憶

    Hugging Face 推出開源工具 funes,讓 Claude Code、Codex、pi 和 Hermes 共用可檢索的持久記憶。funes 預設在本機索引、嵌入及重排工作記錄,檢索時返回原文並標示智能體、時間戳、工作階段和回合;記憶亦可發布至預設私有的 Hugging Face 資料集,供其他機器使用。

    推薦理由:funes 將不同編碼智能體的工作記錄轉為本機可檢索記憶,並保留原始片段及來源脈絡,展示跨會話延續決策依據的實作方式。

9月1日週二
8月31日週一
8月25日週二
  1. Hugging Face Blog64

    Gradio gr.Workflow 如何編排、執行及部署 AI 工作流

    Gradio 內置的 gr.Workflow 可把 AI 工作流表示為由帶類型節點組成的圖,並提供可拖放、逐節點執行及查看中間結果的畫布。節點可執行 Python 函數、調用 Hugging Face Inference Providers 模型或其他 Gradio Space,也可處理 Hub 數據集資料。

    推薦理由:文章以多個可執行示例展示如何把模型、Python 函數與 Gradio Space 串成工作流,並讓節點輸出直接成為 API。

  2. Mistral AI55

    Mistral AI 與 HUMAIN 宣佈戰略合作,推進沙特阿拉伯及中東主權 AI

    Mistral AI 與 HUMAIN 宣佈戰略合作,將在沙特阿拉伯及區域內推進 AI 基礎設施、先進模型開發和 AI 解決方案部署。雙方將開發並本地化先進 AI 模型,初期聚焦網絡安全和語音,並計劃開發阿拉伯語表現出色的前沿模型;合作規模達數億歐元。Mistral AI 將探討使用 HUMAIN 的數據中心基礎設施,雙方亦計劃在沙特制定面向受監管行業的共同市場策略。

8月21日週五
  1. Hugging Face Blog63

    Hugging Face Inference Endpoints、Jobs 和 Buckets 如何支撐 Papers with Code 搜尋

    Hugging Face 以 Inference Endpoints、Jobs 和 Storage Buckets 建立 Papers with Code 混合搜尋系統,為來自 arXiv 和 Daily Papers 的超過 110,000 篇論文維護嵌入向量。

    推薦理由:文章拆解離線批次建向量與線上查詢的分工,並説明端點冷啟動時如何回退全文檢索,呈現混合搜尋進入生產環境的工程取捨。

8月18日週二
  1. Hugging Face Blog72

    Sentence Transformers v6.0 多向量(Late Interaction)嵌入模型使用指南

    Sentence Transformers v6.0 新增 MultiVectorEncoder,支援 ColBERT 式多向量檢索。文中示範載入 PyLate 與 Stanford-NLP ColBERT checkpoint、接入檢索索引,以及以同一 API 執行 ColPali 視覺文件檢索。

    推薦理由:文章對照 LateOn 與 DenseOn 在 NanoBEIR 13 個資料集的結果,並以索引體積數據呈現多向量檢索表現與儲存成本的取捨。

8月12日週三
8月10日週一
8月7日週五
7月23日週四
7月22日週三
  1. Google DeepMind64

    Google 承諾提供 $40M 的 AI tokens 與雲端額度,支持 Genesis Mission

    Google 在 DOE Genesis Mission Summit 2026 宣佈,將提供 $40 million 的 AI tokens 和雲端額度,支持 Genesis Mission 研究人員。

    推薦理由:承諾同時涵蓋科學 AI 工具與 Gemini for Government 一年使用權,並附有顯微鏡校準時間及手動步驟的前後數據,可見資源投入如何落到實驗室工作流程。