跳到正文

部署工程

把模型跑起來的工程實踐:推理優化、顯存與成本、Serving 架構與基礎設施選型。

400條精選相關主題開源生態數據與訓練端側 AI

最新精選

第 101–120 條 · 共 400 條
11月12日週四
  1. Unite.AI77

    AWS 發佈由自主 AI 智能體編寫程式碼的 AWS Emulator 本機模擬器

    AWS 於 November 11, 2026 發佈 AWS Emulator,本機模擬器涵蓋 438 個 AWS API 模型及超過 200 項服務。自主 AI 智能體編寫並測試其程式碼;AWS CLI、AWS SDKs 和編碼智能體可透過本機 HTTPS endpoint 呼叫 API,無須 AWS 帳戶,亦毋須更改應用程式代碼。

    推薦理由:文章交代 AWS Emulator 如何以規格、測試和合併檢查約束智能體生成程式碼,並列出未驗證行為及安全用途的邊界。

11月10日週二
  1. Hugging Face Blog64

    Hugging Face 生態系如何支援決策模型

    Hugging Face 將決策模型支援整合至 Transformers,並以共通介面讓模型根據狀態、問題及允許答案輸出結構化決策和機率。

    推薦理由:文章比較決策模型與傳統分類、零樣本分類的定位差異,並展示 Transformers 與 llama.cpp 如何透過共通介面處理選項、序位評分及是非判斷。

  2. 虎嗅77

    燃氣輪機供不應求,AI 資料中心搶購二手設備

    AI 資料中心用電需求上升,正促使科技公司直接採購發電設備,並帶動二手燃氣輪機搶購。Anthropic於9月下旬與OnePWR Solutions完成34億美元交易,接手其向卡特彼勒訂購的1.7吉瓦重型發電機,供資料中心使用。美國燃氣輪機平均交付期已達6年,新訂單交付排至2030年至2031年;全球截至2025年底的訂單總量為110GW,年產能僅60-70GW。

    推薦理由:文章把科技公司直接採購發電設備、資料中心搜尋二手燃氣輪機,以及新機交期延長放在同一供需脈絡中,呈現 AI 用電需求如何傳導至能源設備市場。

  3. DEV Community78

    Anthropic斥資$3.4B購入1.7 GW天然氣發電機組

    據報,Anthropic同意斥資$3.4 billion購入1.7 GW天然氣發電機組,並接手OnePWR原有設備訂單及安裝工程能力,從原定購電安排改為直接持有發電設備。

    推薦理由:文章把Anthropic的S-1融資風險提示與燃氣機組收購連起來,呈現企業如何以自持發電設備換取交付時程,同時承擔燃料價格和許可風險。

  4. DEV Community78

    Anthropic同意以3.4 billion美元採購1.7 GW燃氣發電機

    Anthropic同意以3.4 billion美元購買燃氣發電機,為其數據中心供電,採購承諾涉及1.7 GW重型發電機。發電機由 Caterpillar 製造,交易亦包括安裝所需的工程及施工工作;Anthropic並未收購供應商 OnePWR Solutions。燃氣渦輪機新訂單積壓延至2030年代初,電網接駁輪候時間亦可能同樣漫長,文章指出這令發電設備、交付時間及安裝工程成為AI基建規劃的一環。

    推薦理由:Anthropic採購1.7 GW燃氣發電機,並把安裝工程納入交易,呈現AI基建規劃如何將發電設備、交付時程與工程安排放進同一採購週期。

11月8日週日
  1. DEV Community77

    為 AI Agent 放行 git,也會一併放行 diff.external 和 core.fsmonitor

    為 AI Agent 放行 git 命令,也可能讓 diff.external、core.fsmonitor 等 Git 設定觸發外部程序,令看似唯讀的 git diff 或 git status 執行程式。

    推薦理由:文章説明 Git 設定如何令白名單放行的命令執行外部程序,並提供跨 worktree 檢查設定來源的方法,方便排查 Agent 工作區的風險。

  2. 創業邦83

    戴偉立參與創立的Marvell擬以1150億美元收購Lumentum,合併後企業價值逾人民幣1.8萬億元

    Marvell宣佈以全股票方式收購光通信企業Lumentum,交易隱含企業價值達1150億美元,預計於2028年上半年完成,仍待股東及監管機構批准。交易旨在整合Marvell的DSP晶片與Lumentum的激光器、光學器件及相關製造能力;合併後預計可服務的潛在市場規模將擴大至5500億美元,每年實現超過10億美元的成本協同效益。

    推薦理由:文章梳理 Marvell 收購 Lumentum 的光互連整合考量,並對照交易溢價與股價反應,呈現市場對大額收購的主要疑慮。

11月7日週六
  1. Hacker News 熱門(buzzing.cc 中文翻譯)77

    研究拆解自 2022 年起 Mac 內置的家庭關係推斷機制

    研究者分析 macOS 26 內置的個人知識圖譜,指出系統會從聯絡人、日曆、照片、訊息等資料推斷用戶及身邊人士的關係。兩個背景服務會結閤家庭共享、位置與行為信號;家庭關係分類器使用 144 項特徵,主要涵蓋通訊模式及照片共同出現資料。作者開源 iKnow 本機儀錶板供用戶唯讀檢視圖譜;相關 SQLite 數據庫以明文儲存在受 TCC Full Disk Access 權限保護的目錄。

    推薦理由:文章逐層追查資料來源與家庭關係分類依據,並以 iKnow 展示通訊、照片和行為信號如何形成個人知識圖譜。

  2. DEV Community76

    AI 協助研究人員發現 PHP2Shell 漏洞,如何盤點待修補的 PHP 執行環境

    本文針對 PHP2Shell 的兩項重大遠端程式碼執行漏洞,整理盤點主機、容器及內嵌執行環境並核實修補的流程。PHP 公佈的修補版本為 PHP 8.5.12、8.4.27、8.3.36 和 8.2.35;文章建議按供應商資訊確認修補狀態,並檢查實際服務程序已更新及重啟。

    推薦理由:文章將資產盤點拆成主機、執行環境與流量路徑,並要求確認實際服務程序及舊工作程序是否退出,補足只查套件版本的盲點。

  3. AWS Machine Learning Blog62

    Claude Code 如何透過 Amazon Bedrock AgentCore 執行受安全控制的遠端編碼任務

    AWS 示範如何把 Claude Code 編碼任務交由 Amazon Bedrock AgentCore 的隔離工作階段執行,並以 GitHub pull request 交回人工審核。

    推薦理由:文章將遠端編碼流程與安全控制放在同一套實作中,具體呈現隔離執行、短期憑證、網絡限制和人工審核如何共同構成部署方案。

  4. AWS Machine Learning Blog61

    Greenlight Financial 如何在 Amazon Bedrock AgentCore 上構建自主安全營運中心(SOC)方案

    Greenlight Financial 在 Amazon Bedrock AgentCore 上構建 Luna 自主安全營運中心(SOC),每月處理 3,000–4,000 宗安全及風險個案,超過 90% 無須人工介入即可解決。

    推薦理由:文章拆解 Luna 的分層多智能體、記憶及人工升級設計,並以自主處理率由 83% 升至超過 90% 説明其在受監管金融場景的實作路徑。

11月6日週五
  1. 虎嗅78

    AI數據中心擴張遭社區反彈與選票制約

    2026年美國中期選舉及地方公投限制措施,使 AI 數據中心擴張面臨更大政治阻力,市場亦重新評估算力需求前景。全美45項涉及數據中心的市級公投中,33項通過限制措施;賓大安嫩伯格公共政策中心調查中,反對在住所附近興建數據中心的比例由春季49%升至夏季61%。文章指出,數據中心對電價的影響仍有爭議,但社區支持、成本分攤和電網承載能力已成為基建投資的重要制約。

    推薦理由:文章把選舉結果、地方限制措施與電網成本放在同一脈絡,呈現社區同意如何由地方議題轉為 AI 基建擴張的政治約束。

  2. Cursor:Changelog77

    Cursor 支援構建可上線運行的應用程式

    Cursor 現已支援用戶透過雲端智能體構建可上線運行的網頁應用程式,並配置資料庫、身份驗證及部署,再以連結分享。應用程式可從 Cursor Origin 或 GitHub 上的新建或現有程式碼庫部署;發布前會經確定性檢查及智能體式安全檢查,並須由用戶明確發布。所有已啟用雲端智能體的付費方案均可使用此功能;應用程式可分享給指定人員、羣組或整個團隊,個人方案亦可公開分享。

    推薦理由:這項能力把應用程式構建、資料庫與身份驗證設定、部署和團隊分享連在同一流程,並列明發布前檢查及管理員控制方式。

  3. Unite.AI82

    Binance 失竊案始於虛構求職面試,權限範圍決定攻擊代價

    Binance 於 10 月 29 日遭攻擊者從錢包轉走約 $6.34 billion,事件起於工程師參與虛構公司的求職面試,並在工作電腦執行含惡意程式的編碼測試。攻擊者其後透過內部 AI 工具控制另外兩名工程師的電腦,再利用具備容器部署權限的 token 和被盜憑證部署容器,啟動竊取行動。文章建議以一次性虛擬機隔離不可信程式碼、限制部署憑證的權限和有效期,並要求高風險操作獨立審批。

    推薦理由:案例呈現受感染開發者電腦如何經內部 AI 工具與部署憑證觸及錢包系統,並提供隔離不可信程式碼及要求獨立審批等防護做法。

11月5日週四
  1. Mistral AI70

    Mistral Studio 新增託管智能體與應用功能,配合 Le Chonk 建置企業 AI

    Mistral 擴展 Mistral Studio,新增託管智能體和應用等功能,讓團隊可用 Mistral Large 4(Le Chonk)建置企業 AI 系統。更新亦加入工作流程、企業上下文、智能體可觀測性及評估功能;平台可部署於雲端、VPC 或本地環境,並支援權限控制和人工審批。文中舉例,產品營運團隊的工作流程每週節省約 35 小時,事故調查智能體則每月為團隊節省數百小時。

    推薦理由:文章具體拆解智能體、工作流程與應用如何共用 Studio 基礎設施,並把權限、人工審批及追蹤評估納入企業部署流程。

  2. TNW82

    美國選民在 41 項地方公投中有 40 項反對 AI 數據中心

    美國選民在分佈於 10 個州的 41 項地方公投中,有 40 項投票反對 AI 數據中心建設。反對數據中心擴建的民主黨人亦贏得德州、俄亥俄州和佐治亞州州長選舉;德州州長當選人 Gina Hinojosa 曾主張暫停興建數據中心。NBC News 出口民調顯示,76% 選民表示會反對在所屬社區興建新數據中心,56% 稱 AI 和數據中心是其國會選舉投票的重要或主要考量。

    推薦理由:文章把 41 項地方公投結果,與德州、俄亥俄州的暫停建設主張及國會電網成本法案並列,呈現選舉如何牽動數據中心政策。

  3. 虎嗅77

    亞馬遜、Alphabet、微軟、Meta、甲骨文開始借貸,AI 資本開支超過經營現金流

    亞馬遜、Alphabet、微軟、Meta 和甲骨文在 2026 年開始借貸,前九個月 AI 資本開支首次超過經營現金流。五家資本開支合計 5569 億美元,經營現金流合計 5429 億美元;合計自由現金流則由去年同期盈餘 1435 億美元轉為赤字 140 億美元。穆迪估算五家表外義務合計約 2.8 萬億美元,主要包括尚未起租的數據中心租約、晶片與服務採購及合資項目擔保。

    推薦理由:文章把資本開支、現金流、債券利差與表外承諾並置,呈現 AI 基建投資如何加重大型科技公司的長期融資壓力。

  4. DEV Community77

    OpenAI 在 Linux 上生成 948 個本機提權漏洞利用程式,API 伺服器是否已修補?

    OpenAI 的流程在 Linux 上生成 948 個獨特的本機權限提升(LPE)漏洞利用程式,按 API 額度計算每個成本為 1,279 美元。這些漏洞須在攻擊者已取得系統內低權限執行據點後才能利用,並非可直接遠端攻擊;OpenAI 未公佈受影響版本清單,亦未報告利用這批漏洞的實際攻擊案例。文章建議安裝發行版安全更新、重新啟動至新核心,並限制服務帳戶權限及隔離高風險工作負載。

    推薦理由:文章把本機提權漏洞與 API 伺服器的初始入侵路徑連結起來,並整理核心修補、重新啟動及容器隔離等實務核查方法。

  5. DEV Community85

    OpenAI 的 AI 找出 948 種 Linux 本機提權漏洞利用方式,文章整理 API 伺服器修補要點

    OpenAI 的 AI 流程在 Linux 上生成 948 個獨特的本機權限提升(LPE)漏洞利用程式,每個成本為 1279 美元 API 額度。這些漏洞不能單靠遠端請求利用,攻擊者須先取得低權限執行位置;OpenAI 未公佈受影響版本清單。文章建議安裝發行版的最新安全更新並重新啟動至新核心,並指出容器共用主機核心,更新容器映像不能修補主機核心。

    推薦理由:文章把 948 個本機提權漏洞利用方式連結到 API 伺服器的初始入侵風險,並整理核心更新、重啟及容器隔離的檢查方法。