Taisei Corporation 以 AI 培育新一代人才
Taisei Corporation 人力資源團隊正主導在整個組織推行 ChatGPT Enterprise,以推動 AI 賦能的人才培育。這項部署聚焦於培養新一代人才。
Taisei Corporation 人力資源團隊正主導在整個組織推行 ChatGPT Enterprise,以推動 AI 賦能的人才培育。這項部署聚焦於培養新一代人才。
OpenAI 深入剖析 Codex 智能體循環,説明 Codex CLI 如何透過 Responses API 協調模型、工具、提示詞與效能。
OpenAI 擴展 PostgreSQL 以支撐 800 million ChatGPT 用户,並將其處理規模提升至每秒數百萬次查詢。所述做法包括使用副本、快取、速率限制及工作負載隔離。
Mistral AI 團隊追查 vLLM 分離式服務的記憶體洩漏,定位到 UCX 的 mmap hook 與延後清理的記憶體池。問題只在使用 NIXL 的 Prefill/Decode 分離式設定中重現;設置 UCX_MEM_MMAP_HOOK_MODE=none 可解決洩漏,且在此 vLLM 用例中不影響效能。
推薦理由:這篇排查記錄示範如何從 RSS 與匿名映射的異常增長開始,逐步利用 BPFtrace 和 GDB 定位 UCX mmap hook,並整理 vLLM 分離式服務可用的修復設定。
Stargate Community 計劃以社區優先方式規劃 AI 基礎設施,並按地方情況調整方案。方案會參考社區意見、能源需求及勞動力優先事項制定。
OpenAI 與 Cerebras 合作增加 750MW 高速 AI 算力,以降低推理延遲,並讓 ChatGPT 在即時 AI 工作負載下更快。
推薦理由:這項合作把 750MW 高速算力與降低推理延遲、提升 ChatGPT 即時 AI 工作負載速度連結起來,交代新增算力的服務用途。
OpenAI 與 SoftBank Group 聯同 SB Energy 合作開發多吉瓦級 AI 數據中心園區。項目包括一座位於德州、支援 Stargate 計劃的 1.2 GW 設施。
推薦理由:合作涵蓋多吉瓦級 AI 數據中心園區,並列出支援 Stargate 計劃的德州 1.2 GW 設施,可瞭解項目規模及合作的具體落點。
企業評估辦公室自動化系統時,關注的不只是流程效率,更包括數據存放地點、跨境傳輸、文件刪除及 AI 是否讀取資料或用於模型訓練。伺服器與備份位置、資料存取權限及數據是否留在可控範圍內,均關乎合規風險。企業需要明確掌握數據的位置、誰可查看,以及數據會否流出可控範圍。
llama.cpp server 現已提供 router mode,可在不重啟的情況下動態載入、卸載及切換多個模型。它會從 llama.cpp 快取或指定的 --models-dir 尋找 GGUF,並在收到請求時載入模型;達到 --models-max 上限時按 LRU 卸載,預設最多同時載入 4 個模型。各模型以獨立程序運行,一個模型崩潰不會影響其他模型。
推薦理由:多進程隔離配合按需載入和 LRU 卸載,展示 llama.cpp 如何在同一服務中管理多個模型並限制同時載入數量。
Hugging Face 宣佈推出 swift-huggingface,一款提供完整 Hugging Face Hub API 的 Swift 套件,可作為獨立套件使用。
Hugging Face Skills 讓 Claude Code 等編碼智能體透過對話處理模型微調,涵蓋資料集驗證、GPU 選擇、雲端工作提交與進度監控。它亦兼容 Codex 和 Gemini CLI;文中以 Qwen3-0.6B 在 open-r1/codeforces-cots 上進行 SFT 為例,估算使用 t4-small 約需 20 分鐘、成本約 $0.30。
推薦理由:文章將資料集驗證、GPU 選擇、雲端工作提交與進度監控串成智能體訓練流程,並比較 SFT、DPO、GRPO 的適用場景。
Hugging Face 發佈 Transformers v5.0.0rc-0,將簡化模型定義、訓練、推理和生產支援列為重點,並以互操作性貫穿版本改造。
推薦理由:文章説明 Transformers v5 如何銜接訓練工具、推理引擎與本地部署,並呈現其聚焦 PyTorch、提升量化支援的工程取捨。
OpenAI 擴大 ChatGPT Enterprise、ChatGPT Edu 及 API Platform 的資料駐留服務,讓全球合資格客户可在區內儲存靜態資料。
OVHcloud 已成為 Hugging Face Hub 支援的推理服務提供商,用户可透過 Hub 模型頁面及 JS、Python SDK 使用其服務。OVHcloud AI Endpoints 是全託管無伺服器服務,每百萬個 tokens 收費由 €0.04 起,基建設於歐洲數據中心。服務支援結構化輸出、函數呼叫及文字和圖像處理,首個 token 回應時間低於 200ms。
Google Research 公佈一款輕量、高效的線性迴歸模型,預測電動車充電站未來的充電接口可用情況。測試涵蓋 100 個隨機抽選站點及 30 分鐘、60 分鐘預測時距;模型相較「Keep Current State」基線,更能識別接口佔用變化顯著的時段。
OpenAI 與 Foxconn 將合作在美國設計和製造新一代 AI 基礎設施硬件,以強化 AI 供應鏈。合作計劃開發多代數據中心繫統,並在美國本土製造關鍵零部件,以加快先進 AI 基礎設施建設。
AnyLanguageModel 是一個 Swift 套件,以 Apple Foundation Models 的 API 為基礎,為 Apple 平台的本地與雲端 LLM 提供統一介面,目標是減少多供應商整合摩擦。
Mistral AI 宣佈深化在德國的戰略承諾,與 SAP 建立多年合作,並與 Helsing 加速相關模型研發。與 SAP 的合作旨在為德國和歐洲提供完整的主權 AI 技術堆疊,將 Mistral AI 的模型整合至 SAP AI Foundation,並共同開發面向歐洲複雜產業與行政機構的專用方案。
Hugging Face 與 Google Cloud 宣佈深化策略合作,協助企業以開放模型建置及客製化 AI。Google Cloud 客户對 Hugging Face 的使用量在過去 3 年增長 10x,目前每月涉及數十 PB 模型下載及數十億次請求;雙方正建置 CDN Gateway,將模型和資料集快取至 Google Cloud,以縮短下載時間並加強模型供應鏈穩健性。
OpenAI 已在 API 中提供 GPT-5.1,帶來更快的自適應推理、擴展的提示詞快取及更佳的編碼表現。API 新增 apply_patch 和 shell 工具。
推薦理由:更新涵蓋自適應推理、提示詞快取、編碼表現及 apply_patch 和 shell 工具,勾勒 GPT-5.1 面向開發者的 API 改進範圍。
Google Research 發表 Project Suncatcher 的研究,探討以太陽能衞星搭載 Google TPU、透過光學鏈路構建可擴展的太空 AI 基礎設施。
OpenAI 與 AWS 宣佈達成一項為期多年的 $38 billion 戰略合作,以擴展先進 AI 工作負載。AWS 將提供一流基礎設施及運算容量,支援 OpenAI 下一代模型。
推薦理由:這項多年期合作把 AWS 的基礎設施與運算容量,對應到 OpenAI 擴展先進 AI 工作負載及支援下一代模型的需求,呈現雙方合作的資源配置方向。
Google Research 公佈可證明私隱洞察(PPI)系統,結合 LLM、TEE 與差分私隱分析生成式 AI 工具的真實使用情況,只釋出匿名化聚合結果。
推薦理由:文章將 LLM 結構化摘要、TEE 內的資料隔離與 user-level 差分私隱聚合串成可外部檢查的流程,並以 Pixel Recorder 説明實際部署方式。
Mistral AI 推出 Mistral AI Studio,為企業團隊提供建置、評估及在生產環境運行 AI 的平台。平台由 Observability、Agent Runtime 和 AI Registry 三部分組成,支援流量與回饋追蹤、輸出評估、智能體執行及 AI 資產版本管理。
LeRobot 發佈 v0.4.0,加入 Datasets v3.0、VLA 模型 PI0 和 PI0.5、GR00T N1.5,以及硬件插件系統。Datasets v3.0 採用分塊 episode 格式並支援串流,可處理 OXE 級(> 400GB)資料集。
推薦理由:資料集規模化、模擬評測、多 GPU 訓練和硬件插件同時更新,勾勒出 LeRobot 從資料處理到機械人控制的工具鏈演進。
Hugging Face 更新開放 OCR 模型指南,加入 Chandra、OlmOCR-2 及模型在 OlmOCR Benchmark 的比較分數。指南對照多款模型的輸出格式、語言支援、功能與成本,並介紹 OmniDocBenchmark、OlmOCR-Bench 和 CC-OCR 等評測基準。
推薦理由:文章對照模型能力、輸出格式、評測基準與部署成本,並建議以代表性樣本檢驗不同文件和語言下的表現。
Hugging Face Blog 提供以 Optimum Intel 和 OpenVINO 在 Intel CPU 上本地運行 SmolVLM2-256M-Video-Instruct 的三步教程,涵蓋模型轉換、量化及推理。
推薦理由:文章展示 VLM 在 Intel CPU 上以 OpenVINO 完成轉換、兩種量化和推理的三步流程,並交代靜態量化校準與精度影響。
OpenAI 與 Broadcom 宣佈多年合作,計劃在 2029 年前部署 10 gigawatts 的 OpenAI 設計 AI 加速器。雙方亦將共同開發下一代系統及以太網方案,以支援可擴展且具能源效益的 AI 基礎設施。
推薦理由:這項多年合作把加速器部署、下一代系統共同開發與以太網方案連在一起,呈現其 AI 基礎設施建設所涵蓋的環節。
AI 人機混合管理系統的核心,是促進人與 AI 協作,而非單純以 AI 減少人手;AI 會放大現有管理系統的優缺點。招聘應重視流程設計、分析錯誤並優化工作流程,以及把專業知識整理成 SOP 的能力;績效評估亦應考慮系統建構能力。設計 AI 工作流程要識別痛點、設定觸發條件、建立監察點並持續優化,原則是「AI 起草,人類定稿」。
AMD 與 OpenAI 宣佈多年合作,計劃部署 6 gigawatts AMD Instinct GPUs,以支援 OpenAI 下一代 AI 基礎設施並加快全球 AI 創新。部署將於 2026 年從 1 gigawatt 開始。
推薦理由:合作涵蓋 6 gigawatts AMD Instinct GPUs,並安排 2026 年先部署 1 gigawatt,呈現 OpenAI 下一代 AI 基礎設施的建置規模與時間節點。
在深圳設立 AI 辦公室,企業須應對香港與內地之間的網絡限制、雙重通訊生態及數據私隱規定差異。文章提出以 AI 自動化處理跨平台翻譯、文件管理、工作流程協調及合規監察。建議及早規劃雙重數碼基建、採用本地平台,並以 AI 建立系統化連接。
在深圳設立跨境 AI 辦公室,須應對網絡限制、港深法規差異,以及 WeChat、DingTalk 與國際通訊平台並行的數碼基建挑戰。文章列出 AI 翻譯、文件管理、工作流程協調及合規監察等自動化應用,並建議及早規劃雙重基建、接入本地平台及以 AI 建立系統化連接。
Hugging Face Blog 記錄將 RedNote 的 dots.ocr 視覺編碼器轉換至 Core ML,作為探索以 Core ML 和 MLX 在裝置端運行 OCR 的三篇系列首篇。
Samsung 與 SK 加入 OpenAI 的 Stargate 計劃,以擴大全球 AI 基礎設施。合作將擴充先進記憶體晶片產能,並在韓國建設新一代數據中心。
推薦理由:合作內容同時涵蓋先進記憶體晶片產能擴大與韓國新一代數據中心建設,呈現 Stargate 推進全球 AI 基礎設施的兩條實體建設路徑。
OpenAI 建立系統,快速擷取合約資料並轉化為可搜尋資料。系統縮短了處理時間,也讓團隊更容易取得所需細節。
OpenAI 運用 AI 改善支援服務,縮短回應時間、提升支援質素,並擴大支援規模以配合高速增長。
Yum! Brands 透過 Byte by Yum 整合旗下品牌的營運工具,推動全球餐廳的數碼化及 AI 應用。平台於 2025 年推出,現已在全球超過 25,000 間餐廳上線,並處理超過 300 million 張數碼訂單。Taco Bell 會員活躍度按年上升 30%,部分得來速地點使用的語音點餐系統則據初步數據可縮短約 10-20% 等候時間。
Yum! Brands 於 2025 年推出 Byte by Yum,一個旨在整合旗下品牌餐廳營運工具的 AI 驅動 SaaS 平台。平台已在全球逾 25,000 間餐廳上線,涵蓋美國所有品牌,並處理超過 300 million 筆數碼訂單。
OpenAI、Oracle 與 SoftBank 宣佈 Stargate 新增五個 AI 數據中心站點,並加快美國 $500B、10-gigawatt 的基礎設施建設。該建設旨在支援下一代 AI,並創造數以萬計個職位。
推薦理由:公告將新增五個站點放在 $500B、10-gigawatt 的美國基建計劃中,並交代其支援下一代 AI 和創造數以萬計職位的目標。
Public AI 現已成為 Hugging Face Inference Providers 的支援服務商,用户可在 Hub 模型頁面及 Python、JS SDK 調用其推理服務。