跳到正文
11月20日週五
  1. MarkTechPost56

    2026 年 13 款智能體閘道排名與比較:Kong、Bifrost、AgentCore、Arcade 等產品的 MCP、A2A 與 LLM 流量支援

    Asif Razzaq 比較並排列 2026 年 13 款智能體閘道,評估流量覆蓋、身分與授權、部署、成熟度及價格透明度。文中指出,只有 Kong、Bifrost、Gravitee 和 Prisma AIRS 原生治理 LLM、MCP 與 A2A;其他方案的 A2A 支援多為預覽、透傳或僅限 JSON-RPC。

  2. DEV Community51

    跨雲訓練工作如何在啟動 GPU 前完成網絡預檢

    跨雲訓練工作應在分配 GPU 前,按實際作業規模預檢數據讀取、工作節點互傳和 checkpoint 寫入,避免網絡或儲存瓶頸令加速器閒置。檢查應模擬並發讀取、all-reduce 或 broadcast、實際大小的 checkpoint 寫入,並核對端點 DNS、配額及事先訂明的門檻。若未達標,可調整工作位置、先把數據暫存至運算附近,或縮小工作規模;預檢結果應隨每次作業記錄。

  3. DEV Community63

    如何構建 AI Gateway:模型路由、故障回退、預算管理與供應商抽象

    文章説明如何構建 AI Gateway,將多個模型供應商的接入、路由、身份驗證、用量政策與故障處理集中到共用基礎設施層。文章區分任務選模、供應商路由及部署負載平衡,並説明重試、供應商回退與模型回退的不同作用。文中以 Vercel AI Gateway 和 LiteLLM 示範託管整合及自建部署,並指出預算控管、模型能力相容性和串流故障處理須按實際部署驗證。

  4. DEV Community53

    GPS、時區與 IP 是三回事:如何在真實手機上測試地理位置行為

    文章説明如何在真實 Android 手機或 iPhone 上測試地理位置行為,指出單改 GPS 不足以模擬特定城市用戶的體驗。GPS、出口 IP、時區和語言/地區設定須逐項核對;SIM 電訊商及 App Store/Google Play 帳戶國家不受這些設定影響,代理流量亦可能因 DNS、QUIC 等路徑繞過代理。

  5. DEV Community70

    租用 GPU 微調的成本教訓:填充運算如何推高費用

    作者分享租用雲端 GPU 微調克里米亞韃靼語模型時的成本教訓,指出填充運算及周邊流程故障會增加訓練費用和耗時。短對話填充至 seq_len = 1024 時,有用 token 比例約為 5%;採用 packing 後升至 99%,第二階段成本由舊方法估算的 $331 至 $413 降至 $14 至 $17。文章亦提出按實際處理量估算成本、按工作時長設定檢查點,以及在本機完整演練訓練流程等做法。

  6. Unite.AI38

    Perplexity 發佈企業 AI 託管式 RAG 指南

    Perplexity 發佈企業 AI 託管式 RAG 指南,説明供應商可管理向量資料庫、嵌入模型、檢索器及資料攝取等流程,並把這種模式稱為 RAG as a service(RaaS)。指南比較本地 RAG、自建雲端系統及 RaaS 三種部署模式,並列出內部知識管理、客戶支援和銷售協助等用途,以及部署、維護、成本和擴展方面的取捨。

  7. Hacker News 熱門(buzzing.cc 中文翻譯)45

    教 KUKA KR240 機械人雕刻大理石雕塑

    Monumental Labs 宣佈其首個同類端到端自主 CNC 石材雕刻系統,使用 KUKA KR240 機械人。系統可將 3D 模型和石材轉換成數以百萬計的刀具路徑點及方向,並生成運動學資料和模擬。團隊的目標是在機械人製造流程中實現無人介入,但雕塑定稿仍由藝術家和設計師決定,最後表面修整則由人工完成。

  8. Engadget62

    Google 與 Blue Origin 簽署發射服務協議,計劃把 Project Suncatcher 衞星數據中心送入太空

    Google 與 Blue Origin 簽署 Project Suncatcher 發射服務協議,計劃以 New Glenn 火箭部署衞星數據中心。每枚衞星的容量約相當於一個數據中心機架,首次發射安排在 2029 年初。文章指出,太空散熱、輻射、發射成本及軌道碎片風險均是擴展障礙;Google 於 10 月部署的 AI 伺服器衞星每次只能運作 15 分鐘。

  9. OpenAI News64

    OpenAI 如何透過 Performance Factory 讓 ChatGPT 保持高速運行

    OpenAI 建立雲端 Performance Factory,利用 Codex 及其模型自動調查性能退化並提出修復方案,協助維持 ChatGPT 的運行速度。

    推薦理由:文章拆解 Performance Factory 如何把告警調查、修復提案和部署後驗證串成工作流,並呈現 OpenAI 以對抗式審查及歷史事故回測改善智能體診斷的做法。

  10. Preferred Networks:AI 研究與產品38

    PFN 與 MangoBoost 就加快 AI 推理基礎設施達成基本協議

    Preferred Networks(PFN)與 MangoBoost 簽署備忘錄,將共同評估如何提升 AI 推理系統的效率與擴展性。雙方會研究結合 MN-Core L 系列、GPU、網絡、儲存及推理軟件的系統方案,評估先由模擬環境開始,待 MN-Core L1000 硬件樣本可用後再進行實機測試。MN-Core L1000 預計於 2027 年開始提供。

  11. DEV Community61

    Node.js 以 15 行 Promise 池限制並行非同步呼叫,無需依賴套件

    Ali Ahmed 示範如何在 Node.js 中以約 15 行、無需額外套件的 Promise 池限制並行呼叫數量。各工作通道從共用索引取項目,結果按輸入順序保存,單項錯誤會記錄為結果而不阻斷其他工作;測試中 20 項、上限 4 時,峯值並發為 4。針對 LLM API,文章指出並行上限不能代替 token-bucket 速率限制,建議兩者配合使用。

  12. DEV Community50

    使用 MRZ 校驗位修正 OCR 錯誤:O 與 0、I 與 1,以及何時不應猜測

    MRZ OCR 會混淆形似字元,文章説明如何利用校驗位修正護照機讀區(MRZ)的 OCR 錯誤。純數字欄位可直接將字母映射回數字;混合欄位則應搜尋替換候選,但單一校驗位有十分之一機會讓錯誤讀法通過。保留原本已通過校驗的讀法,只接受改動最少且唯一的修正,否則要求重新拍攝。

  13. a16z:News36

    a16z FDE Fellowship 第二期招生

    a16z 宣佈推出 FDE Fellowship 第二期,招募 FDE 和 Applied AI 領袖參加為期 8 週的計劃。活動每兩週舉行晚宴及聚會,大多在 SF 和 NYC 舉辦,參加者可在任何地方。申請現已開放,並於 2026 年 12 月 31 日截止。

  14. DEV Community59

    LLM 需要多少 VRAM?EverXCloud 計算器的估算原理

    EverXCloud 公開免費 LLM VRAM 計算器及 GitHub 原始碼,並説明其估算推理、微調和圖像模型記憶體需求的公式。推理估算將權重與 KV cache 相加後計入額外開銷;例如 70B 模型在 BF16 下,權重需要 140 GB,尚未計入 KV cache 和額外開銷。多 GPU 估算未計互連和框架開銷,結果只適合作規劃參考;長租前應在目標 GPU 上測試。

  15. SiliconANGLE32

    智能體 AI 推動新雲競爭由 GPU 數量轉向全球平台

    智能體 AI 由試點走向生產,正令新雲服務商的競爭焦點由 GPU 數量轉向支援企業部署的全球整合平台。Vultr稱,其數據中心區域可透過單一網絡及 API 管理多個設施,並下單 $1.2 billion 購買 AMD Helios 機架級系統。Vultr高層指,推理模型帶動智能體多步推理及工具呼叫,也增加 CPU 需求。

  16. DEV Community41

    MLV 數據質素:為何不能原生進行欄位級唯一性檢查?

    MLV 切換驗證不能只比對行數,應依序檢查行數、鍵值及欄位彙總,以識別數值、日期或狀態的靜默偏差。文章建議按資料類型設定比較方法和容差,並為每個欄位記錄負責人、檢查方法及簽核。驗證工作應輸出機器可讀結果和有限的差異樣本,作為發布證據,並在 MLV 有重大變更時重新執行。

  17. Hacker News 熱門(buzzing.cc 中文翻譯)45

    不要購買更多記憶體,改用壓縮

    zram 可壓縮記憶體,讓 Linux 用戶從現有硬件取得更多容量,減少添置 RAM 的需要。作者測試顯示,5.7G 數據只佔用 1.7G RAM,壓縮比為 1:3.35。記憶體壓縮會稍微增加 CPU 負載,並令部分程序延遲增加。