Arista 瞄準分散式推理這個 AI 網絡新戰場
Arista 在 SC26 宣佈把網絡產品重心延伸至分散式推理,並推出 Etherlink R4 路由平台及可插拔光線路系統。新產品涵蓋配備 25G 至 400G 連接埠的接入路由器、25.6 Tbps 路由器,以及可在單對光纖上傳輸 25.6 Tbps 的光線路系統;除 7020HR4 將於 2027 年初出貨外,其餘現已供應。
Arista 在 SC26 宣佈把網絡產品重心延伸至分散式推理,並推出 Etherlink R4 路由平台及可插拔光線路系統。新產品涵蓋配備 25G 至 400G 連接埠的接入路由器、25.6 Tbps 路由器,以及可在單對光纖上傳輸 25.6 Tbps 的光線路系統;除 7020HR4 將於 2027 年初出貨外,其餘現已供應。
Emmanuel Mumba 在 Windows 實測 Respan Gateway,展示它可把 Anthropic Messages 格式請求轉成 Gemini 呼叫,並在上游失效時切換至備援供應商。
Postman 作者示範如何以 Postman Collections、Fern 和編碼智能體,在一天內建立開發者入口網站。頁面以 Git 管理,Fern 可自動提供 /llms.txt、/llms-full.txt,並支援在頁面網址後加上 .md 取得 Markdown。文章亦介紹 Ask Fern、MCP 伺服器,以及智能體存取受保護文件的方式。
Google 開源 Another Build File Service(ABFS),透過虛擬內容定址檔案系統和共享建置快取加速 Android 開發。Android 程式碼檢出時間由約 36 分鐘縮至 8 秒以下,完整建置時間由約 80 分鐘縮至略多於 2 分鐘。ABFS 支援多個並行工作區及智能體工作流程,並設計供其他大型 Git 專案使用。
Amazon CEO Andy Jassy表示,美國若要保持對中國的 AI 領先地位,就不能放慢數據中心建設。他稱,因中期選舉期間數據中心遭遇反彈而縮減 AI 基建,將是「歷史性錯誤」,但科技公司須改善做法並加強與社區合作。Amazon正與Meta等公司商討開放網站予消費者智能體,前提是能提供良好的價值交換及客戶體驗;目前尚未達成。
Keshav 比較數據湖、數據倉庫與 Lakehouse 的儲存模式、資料保障和運作取捨,並整理按工作負載選型的考量。數據湖以物件儲存檔案為主,數據倉庫提供受管理的分析 SQL;Lakehouse 在湖中檔案上加入開放表格式,支援交易、寫入時結構描述約束及讀取舊版本。DuckDB 範例展示失敗寫入可能令數據湖讀者看見部分資料,而數據倉庫會回滾交易;Lakehouse 則須維護壓縮、清理和目錄。
Levelrail 的平台即程式碼功能可用 YAML 描述伺服器資源,先預覽計劃及差異,再按依賴次序套用變更;亦可檢查手動修改造成的狀態偏差。該功能目前屬實驗性質,須啟用 APP_EXPERIMENTAL=iac。CLI 會在規劃前驗證檔案,並以退出碼 2 表示有變更待處理。
Red Hat 與 Microsoft 擴大工程合作,讓企業可透過 Red Hat 的 OpenShift Virtualization 在 Microsoft Azure 上運行虛擬機。
Chainguard 開始以自助方式提供其產品,推出免費 Chainguard Starter 和每月 $500 的 Team 方案。Starter 可毋須信用卡或銷售洽談註冊,最多供 5 名用戶使用,包含 5 個容器映像及每月 100 GB 映像下載。Team 提供不限用戶、每月 1 TB 映像下載和 1 million 次依賴項下載,並加入已知漏洞修補及披露當日零日漏洞修補。
作者以 Claude Code 2.1.325 在 Anode 的隱藏 Windows 工作階段進行六次測試,5 次完成修正、重建及檢查流程。桌面監測涵蓋 8,491 個樣本,沒有應用程式或 Anode 成為前景視窗,也沒有無輸入時的指標移動。
Spring Boot 的 @Scheduled 工作即使沒有錯誤日誌、健康檢查仍正常,也可能因四類原因停止執行,包括預設單一排程執行緒遭卡住、未啟用排程、cron 設為 `-`,或應用程式實例未運行。重複任務拋出例外通常只會記錄 ERROR,並在下一個排程時間再次執行。文章建議由外部服務按排程確認每次成功執行的回報,並在回報缺失時發出告警。
法律合約審閲工作區應在搜尋前、搜尋期間及生成前設置租戶隔離檢查,並以伺服器端取得的租戶身份限制檢索範圍。文章比較共享索引、每租戶索引和獨立資源的適用條件與運維成本。跨租戶候選或缺少可信租戶範圍時,應在請求抵達生成階段前拒絕,並透過涵蓋不同檢索路徑的測試與監控驗證。
Quartz 工作未觸發,常見原因包括排程器未啟動、工作執行緒繁忙、錯過觸發時間、資料庫保留舊排程,或觸發器處於錯誤狀態。檢查觸發器狀態及下次觸發時間,可協助判斷原因;Spring Boot Actuator 亦可查看觸發器狀態、上次及下次觸發時間。讓工作回報每次執行,並在未收到回報時發出警示,可偵測工作停止執行。
寒武紀完成商湯 SenseNova Loop-9B 的 Day 0 適配,打通模型在 MLU 平台上的推理鏈路。適配以靜態展開方式將循環計算轉為 56 個順序執行的層,並沿用 vLLM 標準調度和 KV cache 機制。模型約有 9B 參數,32 個物理解碼層可擴展為 56 次層計算;官方 4bit 量化後權重約 4.9GB,部署顯存需求低至 10 GB 內。
Islo 宣佈獲得由 Insight Partners 領投的 $15 million 投資,並推出 Enterprise Software Factory 平台,透過 AI 智能體自動化重複工程工作,同時保留企業對安全、驗證和部署的控制。
Folio 是免費的線上 PDF 工作室,提供 41 款工具及可修改 PDF 既有文字的頁面編輯器。檔案在 Folio 自家伺服器處理,完成後 6 小時刪除;在編輯器中開啟的文件則於 24 小時後刪除。使用服務毋須帳戶或註冊,工具涵蓋格式轉換、OCR、簽署、保護及遮蓋敏感資料。
Microsoft Foundry 的 Web App 部署應先視為身份與出口網絡設計,而非只確認容器能否啟動。文章建議重用 Entra 應用程式註冊及受控識別,並分開處理入口方式與 VNet 出口。發布前應驗證私有 DNS、角色指派及真實用戶的 OBO 流程,再執行提示詞評測。
文章提出一套智能體可追溯性設計:按每輪對話儲存標準化活動事件,並以同一事件資料生成介面計數,再與平台追蹤記錄對帳。知識搜尋須與一般工具呼叫分開統計,並透過關聯 ID 串連 shell、API、Foundry 和 App Insights。文章建議提供設有角色權限的除錯抽屜,並以政策訂明保留期限、資料遮蔽及審計存取權限。
Federico 推出 canfit,可按當前可用記憶體檢查本機大語言模型及應用程式能否啟動,並在空間不足時建議可安全關閉的應用程式。它以 Rust 編寫,支援 macOS、Windows 和 Linux,不收集遙測資料,所有資料留在本機;系統程序不會被列為可關閉項目。GGUF 檢查會估算模型權重、上下文快取及額外開銷,Apple Silicon 上亦會檢查 GPU 可使用的統一記憶體限制。
寒武紀完成商湯 SenseNova Loop-9B 的 Day 0 適配,打通模型在 MLU 平台上的推理鏈路。適配基於 vllm_mlu,聚焦 Loop 循環結構、MLU 算子適配及 mHC 路由優化。
You.com 於 2026 年 11 月 17 日推出 Extract API,讓開發者透過單一端點擷取網頁或 PDF,並以 Markdown 或 HTML 返回內容。
SGLang 團隊回顧首屆 SGLang Summit,會上宣佈 SGLang v1.0、Miles v0.2,並成立由九名創始成員組成的 SGLang Consortium。
在由 AI 智能體運作的軟件工廠中,開發者的專業知識並未消失,而是轉向設計工作流程、設定防護措施,以及判斷產出是否可信。Anthropic 表示,Claude 編寫了其程式碼庫中約 80% 已合併的程式碼,並配合自動化檢查及按風險安排的人手監督。開發者對問題、標準和驗證證據的判斷,仍是軟件工程的重要部分。
Azure Databricks on Azure Government 進入 Beta,為美國公共部門提供採用 Databricks Data + AI Platform 的政府雲環境。
AWS 提出供 AI 智能體平台團隊及應用團隊採用的負責任 AI 三階段成熟度框架,涵蓋治理基礎、試點部署,以及評估與加固。平台團隊建立護欄,應用團隊在其框架內建構智能體,各階段分別處理治理、安全與私隱、可靠性、可控性、公平性、可解釋性及透明度。配套的 Responsible AI Assessment Skill 以 1–5 分評估成熟度,低於 4 分代表有重大風險需要處理,並提供改善建議。
Databricks packaged clean rooms 讓客戶透過 LiveRamp Embedded Identity 在自有資料上進行身份解析,並在 Unity Catalog 取得 RampID,毋須把 PII 匯出至外部服務。
作者在 Lightning Faucet 的 L402 閘道登記 20 個付費 API 端點,讓 HTTP 呼叫透過 Lightning Network 以 satoshis 計費。登記探測約 10 秒便會逾時,因此需要長時間執行的上游端點可能無法通過;作者的 LLM 端點需時約 20 秒。上線一天內,手續費及市場數據端點開始收到 10-sat 付費呼叫。
文章指出,單元測試只能驗證 LLM 周邊的確定性程式,不能單獨確認 AI 智能體在不同用戶輸入下能否正確行動,因此需要加入評測測試(evals)。評測以帶標籤的真實輸入數據集為基礎,分別檢查是否應採取行動、動作類型及欄位抽取,並按類別追蹤結果和執行間波動。文中以 98 個案例測試 gpt-4o-mini 為例,整套評估成本為 $0.0106;單元測試、評測及整合測試各自處理不同問題,不能互相取代。
原生智能體作業系統以 AI 取代傳統桌面成為作業系統本身,智能體是用戶登入後使用的介面,而非加在桌面上的助理。它以交付視窗取代應用程式視窗,並透過預設拒絕的權限代理機制管控重要操作;目標包括操作可檢視、權限受限制、本機優先及工作階段可持續。文章提到,alpha 版以 Debian/Ubuntu 套件形式提供,保留現有核心。
LLM 閘道在應用程式與模型供應商之間提供單一 API;LiteLLM 是可作為 Python 程式庫或代理伺服器使用的開源方案。它集中處理路由與備援、每個團隊或應用的金鑰與預算、限流、成本追蹤、快取和日誌;單一應用只接一個供應商時可直接使用供應商 SDK,多個應用或團隊共用供應商時則可考慮閘道。
nvidia-nemotron-lightning-35-test 專案透過 Ollama 提供本地探索及測試框架,用於互動、監察和視覺化 NVIDIA Nemotron 3.5 Lightning。這款開放權重 MoE 模型有 30B 參數,每個 token 啟用 3B 參數。框架會量度生成速度、token 數量及首個 token 延遲;專家啟動熱圖則是模擬結果。
Simon Willison 發佈 Datasette Lite 的完整重寫版,透過 service workers、WebAssembly 和 Pyodide,讓完整的 Datasette Python 應用程式直接在瀏覽器執行,體驗幾乎與伺服器端版本無異。
文章梳理軟件團隊如何由前沿 AI 實驗室的 API,轉用推理服務商託管的開放權重模型,並選擇相應部署方式。轉用的常見原因包括降低成本、加強延遲控制和微調模型;典型路徑是先用多租戶 API,再按需求遷至專用 GPU。文章亦分析 TTFT 延遲、KV cache、快取命中率、速率限制和 GPU 容量等工程考量。
Mobilerun 説明手機智能體點擊失準與定位方式、畫面狀態等多種因素有關,並比較固定座標、Android 無障礙樹與視覺截圖。Mobilerun 以無障礙樹為預設,配合視覺處理缺少可讀節點的畫面,並將模型看到的截圖尺寸換算回裝置像素;文章列出縮放、WebView、自訂畫布、遮擋、鍵盤、動畫及點擊位置等七類失誤來源。
管理物業的 SaaS 應將 AI 生成圖片存入私有物件儲存,由應用程式核實權限後才發出短效簽署連結。Infrai 適合需要以單一 REST API 接入多項後端能力的服務;如需公開傳送、版本控制、物件鎖定或成熟的複寫控制,Amazon S3、Cloudflare R2、DigitalOcean Spaces 或 Backblaze B2 是較合適的選擇。
NexPHP 是為現代 PHP 執行環境及 AI 輔助編碼設計的框架,採用嚴格型別、明確屬性,並支援 FrankenPHP 和長駐工作程序。持續工作程序模式的基準測試約達 218,000 req/sec,經過 10,000 次請求測試後記憶體增長為 0.00 MB。框架亦內置佇列、排程、安全及可觀測性功能。
developerz.ai 構建並開源 db-mcp-gateway,讓 AI 智能體透過 MCP 提交資料庫查詢意圖,憑證則留在伺服器,不會暴露給智能體或開發者手提電腦。
Fortra 宣佈,GoAnywhere MFT 與 Globalscape EFT 的 AI 模組已開放予指定客戶測試及提供意見,預計於 2027 年初全面推出。GoAnywhere MFT 支援以自然語言建立及修改專案,Globalscape EFT 則提供關鍵事件診斷、事件規則分析及動態報告。兩款產品的 AI 建議均須經管理員審核,並設有角色權限、身份驗證、網絡控制及回復工作流程。
Elementl Power 宣佈與 Google Cloud 合作,為其核能項目組合開發人工智能工具,重點處理建設前期的選址、技術選擇、監管審批和規劃工作。其 Lattice 項目交付套件將採用 Gemini for business 和 Big Query;首個應用 Atlas 可按地理、環境及基建條件篩選核能項目選址。
文章聚焦 incr,探討如何在運行中的服務量度增量計算。