Mistral AI 公佈 LLM 生命週期環境影響研究,倡議全球標準
Mistral AI 公佈其 LLM 生命週期環境影響研究,披露 Mistral Large 2 及 Le Chat 的碳、水與資源消耗數據。
Mistral AI 公佈其 LLM 生命週期環境影響研究,披露 Mistral Large 2 及 Le Chat 的碳、水與資源消耗數據。
OpenAI 與 Penda Health 推出 AI 臨牀協作助手,該助手在真實應用中令診斷錯誤減少 16%。這為醫療領域安全、有效地應用 AI 提供新路徑。
OpenAI 的新經濟分析探討 ChatGPT 對經濟的影響。OpenAI 同時啟動新的研究合作,研究 AI 對勞動市場及生產力更廣泛的影響。
Oracle 與 OpenAI 達成協議,將在美國開發 Stargate 額外 4.5 gigawatts 的數據中心容量。Stargate 是 OpenAI 的 AI 基礎設施平台,這項協議亦是該計劃的重要里程碑。OpenAI 表示,這項投資將創造新職位、加快美國再工業化並推進美國 AI 領導地位。
推薦理由:這項協議把 Stargate 在美國的新增數據中心容量明確為 4.5 gigawatts,呈現 OpenAI 與 Oracle 推進 AI 基礎設施建設的合作規模。
NVIDIA NIM 現可透過單一 Docker 容器部署 Hugging Face 上逾 100,000 個 LLM。NIM 會自動識別模型格式、架構和量化格式,並在 NVIDIA TensorRT-LLM、vLLM 與 SGLang 間選擇後端及套用預設設定。
推薦理由:文章展示 NIM 如何按模型格式、架構與量化方式自動選擇推理後端,並以部署示例説明從 Hugging Face 模型到 Docker 服務的操作流程。
OpenAI 與英國政府建立戰略合作夥伴關係,旨在推動 AI 應用並帶動經濟增長。合作亦聚焦提升公共服務,促進英國 AI 生態系統蓬勃發展。
AI 有望為比歷史上任何其他技術更多的人帶來機遇;若能妥善發展,便可讓每個人擁有比以往更大的力量。
OpenAI 推出初始規模為 $50 million 的基金,支援非牟利及社區組織。基金的設立參考了獨立的 OpenAI Nonprofit Commission 報告。
Mistral AI 為 Le Chat 推出 Deep Research、語音、多語言推理、Projects 和圖片編輯等新功能。Deep Research(Preview)可搜尋可信來源並生成附參考資料的結構化報告,語音模式採用 Voxtral,多語言推理由 Magistral 驅動,圖片編輯則與 Black Forest Labs 合作。
推薦理由:Le Chat 把研究、語音、多語言推理、Projects 與圖片編輯納入同一產品,呈現其如何覆蓋資訊整理、語音互動和圖像修改等不同任務。
OpenAI 推出 ChatGPT agent;它能思考並採取行動,在使用者指引下運用工具完成研究、預訂及簡報等任務。
推薦理由:原文將 ChatGPT agent 的定位連到工具操作與使用者指引,並以研究、預訂和簡報列出可處理的任務範圍。
Invideo AI 使用 OpenAI 的 GPT-4.1、gpt-image-1 及文字轉語音模型,將創意構想轉化為專業影片,製作速度快 10 倍。影片可在數分鐘內完成。
Gradio 5.38.0 為 MCP 伺服器加入五項改進,包括 File Upload MCP 伺服器、即時進度通知、OpenAPI 轉 MCP、認證標頭支援及工具描述自訂。
OpenAI Academy 聯同 Walton Family Foundation、Emerson Collective 及多個地方非牟利組織舉辦全國性 Nonprofit Jam,聚集逾 1,000 名非牟利機構領袖。活動為期一天,在 10 個地點舉行。
Ettin Suite 發佈涵蓋 17M-1B 參數的配對編碼器與解碼器模型,兩者使用相同的 2T tokens 公開數據及訓練配方。編碼器在各項任務及規模上超越 ModernBERT,解碼器則勝過或追平 Llama 3.2 和 SmolLM2。同條件測試中,編碼器在分類和檢索任務較佔優,解碼器在生成任務較佔優;模型涵蓋六種規模,訓練數據公開且可重現。
推薦理由:Ettin 在相同的數據、模型規模與訓練配方下比較編碼器和解碼器,呈現兩類架構在分類、檢索和生成任務上的不同優勢。
Mistral AI 發佈 Voxtral 語音理解模型,提供 24B 生產級版本及 3B 本地與邊緣部署版本。兩者均以 Apache 2.0 授權發布,並可透過 API 使用;32k token 上下文支援最長 30 分鐘音訊轉錄或 40 分鐘音訊理解,也可對音訊提問及生成摘要。API 價格由每分鐘 $0.001 起。
推薦理由:Voxtral 同時提供 24B 與 3B 版本及 API 使用方式,並列出音訊時長上限和起始價格,方便比較本地部署與雲端接入的適用情境。
OpenAI 將 ChatGPT 設計為實用、可信賴且可調適的產品,讓使用者能按自身需要打造個人化使用體驗。
OpenAI 加入歐盟《AI 實踐守則》,表示此舉將推進負責任 AI。OpenAI 並稱會與歐洲各國政府合作,推動創新、基礎設施及經濟增長。
Mistral AI 推出 Devstral Medium,並將 Devstral Small 升級至 1.1,兩者聚焦對不同提示詞及智能體框架的泛化能力。Devstral Small 1.1 採 Apache 2.0 授權,參數量為 24B,在 SWE-Bench Verified 得分 53.6%;Devstral Medium 得分 61.6%。
推薦理由:Devstral Small 1.1 採 Apache 2.0 授權並可本地部署,Devstral Medium 支援 API 和私有基礎設施部署;對照 SWE-Bench Verified 分數,可比較兩者的模型表現、開放方式與部署選項,並據此判斷不同工作環境的適配差異。
Hugging Face 推出 ScreenEnv,這是一個可在 Docker 容器中建立隔離 Ubuntu 桌面環境、用於測試和部署 GUI 智能體的 Python 程式庫。
推薦理由:ScreenEnv 將桌面控制、Docker 隔離與 MCP/API 接入整合在同一工具,並以 smolagents 範例展示如何建立和執行桌面任務智能體。
Hugging Face 分享其官方 MCP Server 的建置經驗,説明 AI 助手如何透過 hf.co/mcp 存取 Hub 及 Spaces 上的 AI 應用。
推薦理由:文章拆解遠端 MCP Server 在傳輸模式、連線狀態與資源開銷上的取捨,並以 Hugging Face 的部署配置呈現決策脈絡。
Hugging Face Blog 示範如何透過 Gradio MCP 伺服器為 LLM 接入工具能力,並以 Flux.1 Kontext[dev] 展示按文字指令編輯圖片。
推薦理由:文章以 Flux.1 Kontext[dev] 示範將 Hugging Face Spaces 的 MCP 服務接入 Cursor,並交代圖片須使用公開 URL,呈現從選擇服務到設定客户端的實作流程。
Pollen Robotics 與 Hugging Face 推出 Reachy Mini,一款面向人機互動、創意編程與 AI 實驗的開源桌面機械人,售價由 $399 起。
推薦理由:Reachy Mini Lite 與 Compute 版分別售 $399 和 $499,連線及供電配置不同,規格表可供對照入門成本與功能取捨。
OpenAI 與美國教師聯合會合作,啟動一項為期 5 年的計劃,面向 400,000 名 K-12 教育工作者,支持他們在課堂引領 AI 創新。
Hugging Face 發佈 3B 模型 SmolLM3,使用 11.2T tokens 訓練,支援 think / no_think 雙模式推理及最高 128k 上下文。
推薦理由:SmolLM3 公開分階段訓練、長上下文適配與雙模式推理配方,並交代數據配比和模型合併流程,呈現 3B 模型的工程實作路徑。
Mistral AI 推出 AI for Citizens 協作倡議,協助各國政府及公共機構按本地需要制定 AI 策略並建設公共服務方案。倡議涵蓋自託管、由 Mistral AI 及本地夥伴營運的 AI 數據中心、SaaS 和無伺服器 API,並支援數據留在主權範圍內及按本地語言、文化和用途定製模型。
Hugging Face Blog 示範如何使用 Sentence Transformers 訓練及微調稀疏嵌入模型,介紹 SPLADE、Inference-free SPLADE、CSR 架構,以及資料、損失函數、評估器和訓練器的配置。
推薦理由:文章按 SPLADE、Inference-free SPLADE 與 CSR 的適用情境梳理架構選擇,並以實作例子串連資料、損失函數和評估器配置。
OpenAI 與 Mandala Partners 合作發布《澳洲 AI 經濟藍圖》,提出釋放人工智能經濟與社會潛力的清晰、可執行方案。該藍圖旨在回應澳洲把提升生產力列為國家優先事項的需要。
NVIDIA 將 8B 視覺語言模型 Llama Nemotron Nano VL 上架 Hugging Face Hub,亦可透過 NVIDIA NIM API 使用,主打智能文檔處理與 OCR。
Gemma 3n 已接入多個主流開源工具庫,並推出 E2B、E4B 兩種尺寸的 base 與 instruct 版本。支援工具包括 Transformers、timm、MLX、llama.cpp、Transformers.js 和 Ollama;兩款模型實際參數量為 5B 和 8B,GPU 記憶體佔用約相當於 2B 和 4B 模型。
推薦理由:文章並列模型的實際參數量、GPU 記憶體需求和多個工具庫的接入方式,方便衡量 Gemma 3n 本地多模態部署時的硬件門檻與工具選擇。
SGLang 新增 Hugging Face Transformers 後端整合,讓 Transformers 兼容模型可由 SGLang 執行,未獲原生支援時會自動切換至 Transformers 實作。
OpenAI 正主動評估先進 AI 在生物學與醫學領域的能力,並實施防護措施以防止濫用。先進 AI 可改變生物學與醫學,但亦帶來生物安全風險。
OpenAI 研究指出,對語言模型以錯誤回答進行訓練,可能引發更廣泛的對齊失配。研究識別出一項驅動此行為的內部特徵,該特徵可透過少量微調逆轉。https://openai.com/index/emergent-misalignment
OpenAI 推出 OpenAI for Government,旨在向美國各地公務人員提供其最先進的 AI 工具。該計劃支持美國政府採用一流技術,並將這些工具用於服務公眾利益。
Hugging Face 將 Groq 加入 Inference Providers,讓使用者可在 Hub 模型頁面及 Python、JS 客户端 SDK 中透過 Groq 調用模型。
TNG 指出,長提示詞的 prefill 會阻塞後續請求,並在與 decode 共用 GPU 時拖慢已開始生成的請求。vLLM 的並行 partial prefill 可降低短請求的 time-to-first-token;例如可設定最多並行 4 個請求,當中最多 1 個的 prompt 超過 10,000 tokens。
OpenAI 與 Mattel 合作,將 AI 整合至 Barbie、Hot Wheels 等經典品牌,旨在提升創意開發、簡化工作流程,並創造粉絲互動新方式。
Featherless AI 現已成為 Hugging Face Hub 支援的 Inference Provider,接入模型頁面及 Python、JS SDK 的無伺服器推理服務。
Mistral AI 推出 Mistral Compute,提供可按客户需求配置的私有整合式 AI 基礎設施,形態涵蓋裸金屬伺服器至全託管 PaaS。服務整合 GPU、編排、API、產品及服務,將提供最新 NVIDIA 參考架構,GPU 可用量達數萬枚,並於未來數年快速擴充。
推薦理由:Mistral Compute 將 GPU、編排、API、產品及服務整合為私有 AI 基礎設施,讓客户按需求配置,並提供由裸金屬伺服器至全託管 PaaS 的部署形態。
Hugging Face 與 NVIDIA 宣佈合作推出 Training Cluster as a Service,讓研究機構可按訓練需求申請 GPU 叢集,並按訓練運行時長付費。
推薦理由:服務將 GPU 叢集申請、算力採購、部署和訓練排程串起來,並按訓練時長付費,呈現研究機構如何依地區、規模與訓練週期取得所需算力。
Mistral AI 發佈首款推理模型 Magistral,包含 24B 參數的開放權重版 Magistral Small 及企業版 Magistral Medium。
推薦理由:AIME2024 成績呈現兩版差異,Magistral Medium 和 Small 分別得 73.6% 和 70.7%,majority voting @64 時為 90% 和 83.3%。