跳到正文
目前篩選:模型
  1. Hacker News 熱門(buzzing.cc 中文翻譯)77

    LookAtMyQuant 將 Inkling-2-Mini 壓縮至 5.38 GB 和 8.87 GB

    LookAtMyQuant 使用量化編譯器將 Inkling-2-Mini 壓縮為 5.38 GB 和 8.87 GB 兩個版本,並比較其基準測試表現。5.38 GB 版本在 GSM8K 得 134/200、HumanEval 得 60/164,高於 9.14 GB 的 Unsloth UD-Q2_K_XL(132/200、49/164)。

    推薦理由:文中比較 5.38 GB 版本與 9.14 GB 的 UD-Q2_K_XL,並列出 GSM8K 和 HumanEval 成績,呈現較小模型檔案在兩項基準上的表現。

  1. OpenAI News74

    OpenAI 模型改進 Jalapeño、AMD 及 RISC-V 晶片設計

    OpenAI 表示,其模型已用於改進自研 Jalapeño、AMD GPU IP 及開源 RISC-V 核心的晶片設計,並提升 RISC-V 評測中的吞吐量。在 AMD 旗艦 GPU IP 上,相較高度優化基線,PPA 改善最高達 14%;Jalapeño warp engine 和 matrix unit 的標準單元面積則分別減少約 13% 和 10%。

    推薦理由:文章並列量產設計中的 PPA 改善與兩款開源 RISC-V 核心評測,亦交代功能取捨和物理綜合檢查等限制,可對照模型測試分數與實際晶片設計要求。

  1. DEV Community76

    Qwen4-Max 發佈:2.4T 參數,Work360 任務平均成本下降 62%

    阿里巴巴千問團隊推出旗艦模型 Qwen4-Max,採用 2.4T 參數稀疏 MoE 架構,支援原生視覺及 100 萬 token 上下文窗口。在千問自有的 Work360 評測中,每項任務平均成本由 $4.43 降至 $1.67,較 Qwen3.8-Max 減少 62%;Qwen4-Max 本身並未開源。

    推薦理由:文章結合 Qwen4-Max 的架構與長程智能體案例,並交代 62% 成本降幅來自千問自有的 Work360 評測,呈現數字的比較背景。

  1. DEV Community77

    GPT-6.1 Terra:$1/$5 定價、電腦操作 API 呼叫、none 推理檔位與 272K 價格門檻

    Yong Yu 整理 GPT-6.1 Terra 的電腦操作 API 用法、推理檔位和 272K tokens 價格門檻,並以離線工具檢查請求格式及估算成本。工具呼叫須經 Responses API,指南採用 `type: "computer"`;`reasoning.effort` 可設為 `none`,省略時預設為 `medium`。

    推薦理由:文章把電腦操作的 API 接法、推理檔位和長上下文價格門檻放進同一工作流,並交代離線估算假設,便於核算自動化任務成本。

  1. DEV Community80

    Meta 開放 Muse Spark Open 權重,模型規模為 816B 參數

    Meta 公開 Muse Spark Open 的模型權重;這款 MoE 模型共有 816B 參數、每個 token 啟用 42B 參數,並設有 1 million tokens 的上下文窗口。

    最新進展10月16日 01:54Meta 開放 Muse Spark Open,並與 Apple 合作支援 Mac Studio 本機運行

    推薦理由:文章交代 Muse Spark Open 開放權重後的本地部署條件,並比較桌面硬件、資料中心 GPU 與雲端 API 三種使用方式。

  1. Mistral AI61

    Mistral AI 發佈 Timestral 時序基礎模型系列

    Mistral AI 發佈 Timestral 時序基礎模型系列,提供 5M、28M、123M 和 209M 四種尺寸,支援機率式多變量預測及過去與已知未來協變量。209M 模型在 GIFT-Eval、TIME 和 fev-bench 三個公開基準均排名第一;以三週、每 15 分鐘一筆的歷史資料預測一天,在 8 threads 的標準伺服器 CPU 上耗時 140 ms。

    推薦理由:Timestral 的四種模型尺寸對應不同的預測表現與推理速度,文章提供公開基準結果和 CPU 延遲數據,方便比較準確度與部署效率之間的取捨。

  1. AWS Machine Learning Blog69

    AWS 宣佈 Claude Haiku 5.5 登陸 Amazon Bedrock 及 Claude Platform on AWS

    AWS 宣佈 Claude Haiku 5.5 已可透過 Amazon Bedrock 及 Claude Platform on AWS 使用。Anthropic 表示,它是 Claude 5.5 系列中速度最快、效率最高的模型,大多數任務的成本比 Claude Haiku 4.5 低約 75 percent。

    推薦理由:文章説明 Claude Haiku 5.5 面向高用量、成本敏感任務的定位,並列出 Amazon Bedrock 使用範例及可用區域,提供模型選用與部署的實用參考。

  1. Google DeepMind70

    Google DeepMind 發佈開放、輕量級多模態嵌入模型 EmbeddingGemma 2

    Google DeepMind 發佈 EmbeddingGemma 2,將文字、程式碼、圖像、影片及音訊映射至同一嵌入空間,供裝置端推理使用。

    推薦理由:EmbeddingGemma 2 將文字、程式碼、圖像、影片及音訊映射至同一嵌入空間,並列出裝置端記憶體與向量儲存數據,方便評估跨模態搜尋的本地部署。

  1. MiniMax:Blog76

    MiniMax 開源 M2 模型,並推出中國版、升級海外版 MiniMax Agent

    MiniMax 正式開源並推出面向智能體與編碼的 MiniMax M2,同時在中國推出 M2 驅動的 MiniMax Agent,並升級海外版本。

    推薦理由:MiniMax M2 公佈 Artificial Analysis 10 項測試成績、API 定價與約 100 TPS 推理速度,並開放權重,呈現智能體模型在表現、速度與部署成本間的取捨。

  1. gihyo.jp78

    Meta 發佈面向本地 AI 智能體的 30B 開放權重模型 Muse Glimmer

    Meta 於 2026年8月10日發佈開放權重模型 Muse Glimmer,面向可在本地持續運行的 AI 智能體,規模約 30B 參數。模型以 Apache License 2.0 公開,提供約 4-bit 量化版本;Meta 稱模型可在 24GB 或 32GB 記憶體環境運行,並支援多階段推理、工具呼叫及長時間任務。

    推薦理由:文章比較 Muse Glimmer 與 Gemma4-31B、Qwen3.6-27B 的基準表現,並説明 24GB、32GB 記憶體環境的量化配置,呈現本地部署條件與任務表現。

  1. Mistral AI60

    Mistral OCR 4 發佈,新增文件區塊定位、分類與信心分數

    Mistral AI 發佈文件解析模型 Mistral OCR 4,除提取文字外亦輸出邊界框、區塊類型和信心分數,並支援 170 種語言、10 個語言組別。獨立人工偏好評估的平均勝率為 72%,模型在 OlmOCRBench 得分 85.20;官方提醒自動基準存在評分侷限,建議以自有文件評估。

    推薦理由:文章列明 OCR 4 的結構化輸出和自動基準評分侷限,為企業按自身文件評估解析、檢索及資料管線提供具體參照。

  1. Hugging Face Blog62

    NVIDIA 發佈 Nemotron 3.5 Content Safety,整合多模態安全判定與自訂政策

    NVIDIA 發佈 Nemotron 3.5 Content Safety,將多模態輸入、多語言覆蓋、自訂企業政策與可審計推理整合至單一 4B 模型。模型基於 Google Gemma 3 4B IT,明確訓練覆蓋 12 種語言,並承接其約 140 種語言的 zero-shot 泛化;可選 THINK mode 會輸出推理軌跡。

    推薦理由:Nemotron 3.5 將多模態判定、自訂政策和可審計推理整合於 4B 模型,並附訓練資料集,提供企業安全審核的部署參考。

  1. Hugging Face Blog63

    Holo3.1 系列發佈,擴展電腦操作至手機並提供本地量化權重

    H Company 發佈 Holo3.1 電腦操作模型系列,擴展至網頁、桌面及手機環境,並提供本地推理量化權重。AndroidWorld 上,35B-A3B 模型的分數由 67% 升至 79.3%,4B 和 9B 版本由 58% 升至 72%。

    推薦理由:文章同時列出不同尺寸、量化格式,以及 AndroidWorld 和 DGX Spark 數據,讀者可據此比較本地部署的性能與速度取捨。

  1. Hugging Face Blog61

    Waypoint-1.5 提升互動世界保真度並擴展本地硬件支援

    Overworld 推出 Waypoint-1.5 即時影片世界模型,提升視覺保真度並擴大可本地運行的硬件範圍。桌面硬件 RTX 3090 至 5090 可生成最高 720p、60 FPS 的即時環境;另有面向更廣泛消費級硬件(包括遊戲筆電)的 360p 版本,Apple Silicon Mac 支援即將推出。

    推薦理由:Waypoint-1.5 分設 720p 與 360p 檔位,並列明 RTX 3090 至 5090 可達最高 720p、60 FPS,呈現其畫質與本地硬件覆蓋方案。

  1. OpenAI News69

    GPT-5.1 現已向開發者開放 API,帶來多項能力更新

    OpenAI 已在 API 中提供 GPT-5.1,帶來更快的自適應推理、擴展的提示詞快取及更佳的編碼表現。API 新增 apply_patch 和 shell 工具。

    推薦理由:更新涵蓋自適應推理、提示詞快取、編碼表現及 apply_patch 和 shell 工具,勾勒 GPT-5.1 面向開發者的 API 改進範圍。

  1. Hugging Face Blog67

    Google 發佈 EmbeddingGemma 多語言嵌入模型

    Google 發佈 EmbeddingGemma,一款支援 100 多種語言、具備 308M parameters 和 2K context window 的多語言嵌入模型。文章示範以 Sentence Transformers、LangChain 等工具接入模型,並在 MIRIAD 醫療檢索測試中將微調版的 NDCG@10 提升至 0.8862,基礎模型為 0.8340。

    推薦理由:文章提供 EmbeddingGemma 接入多個檢索框架的程式示例,並説明查詢與文件提示詞的設定方式,方便將模型納入既有檢索流程。

  1. Hugging Face Blog91

    OpenAI 發佈開源 GPT OSS 模型系列

    OpenAI 發佈 GPT OSS 開源模型系列,包含 117B 參數的 gpt-oss-120b 和 21B 參數的 gpt-oss-20b。兩款均為 MoE 推理模型,採用 MXFP4 4-bit 量化;gpt-oss-120b 可在單張 80 GB GPU 運行,gpt-oss-20b 可在 16GB 記憶體內運行。

    推薦理由:文章將兩款模型的量化方式、硬件需求與多種部署路徑整理在一起,便於評估本地推理的資源門檻及接入方式。