英國 AI Security Institute 宣佈推出 Inspect Evals 開源評測倉庫
英國 AI Security Institute 宣佈推出 Inspect Evals，這個開源評測倉庫收錄社羣貢獻的 LLM 基準評測。其中有數十項評測，涵蓋編碼、數學、網絡安全、安全防護、推理及常識，並收錄多數前沿模型供應商常報告的基準。
#推理
#推理
今日 75 條英國 AI Security Institute：BlogAI 評分5757 英國 AI Security Institute：BlogAI 評分7070 AI 網絡安全任務的推理擴展證據：提高評測預算揭示更高成功率
英國 AI Security Institute（AISI）與 Irregular 的評測顯示，前沿模型在網絡安全任務中可利用更高推理預算取得更高成功率，並解出此前未解的任務。
英國 AI Security Institute：Blog精選AI 評分7676 英國 AI Security Institute 評估 OpenAI GPT-5.5 的網絡安全能力
英國 AI Security Institute 評估中，GPT-5.5 的 Expert 級進階任務平均通過率為 71.4%，高於 Mythos Preview 的 68.6%。
推薦理由：報告分別測試進階網絡任務、企業攻擊鏈及工控模擬，並交代結果與測試限制，呈現 GPT-5.5 網絡安全能力的不同面向。
英國 AI Security Institute：BlogAI 評分5252 AI 系統會否愈來愈難監督？
英國 AI Security Institute 的報告指出，現有 AI 監督所依賴的基礎可能逐漸削弱，而新興方法尚未成熟到足以彌補。報告梳理內部激活、思維鏈、外部行動及智能體間通訊四類監督面向，並列出二十多條監督能力退化路徑。開發者可採取措施維持現有監督渠道，並投資新興技術，作為監督能力退化時的後備方案。
英國 AI Security Institute：BlogAI 評分6969 AI 智能體評測為何需要納入測試時計算量：更多計算帶來更強能力
英國 AI Security Institute 的 Science of Evaluation 團隊發現，固定計算預算會低估前沿 AI 智能體在多項基準上的能力，尤其是較新的模型。
HuggingFace Daily Papers（社區熱門論文）AI 評分6767 基礎模型可藉訓練數據中的線索進行推理
研究顯示，固定基礎模型回答開頭的特定 token 線索，可令其在數學及編碼任務上取得媲美 RL 訓練模型的表現。例如，指定線索令 Olmo-3-7B 在 MATH-500 的 pass@1 準確率由 42% 升至 78%，而 Qwen3-14B 則由 72% 升至 87%。
HuggingFace Daily Papers（社區熱門論文）AI 評分4848 RealtimeWAM：一步式非同步世界動作模型
RealtimeWAM 透過一步動作生成與非同步推理，提升世界動作模型（WAM）的推理效率。其提出 Teacher-Anchored Consistency Distillation（TACD）及 Cross-Expert Wavefront Pipelining（CEWP），分別減少動作生成的多步迭代與影片、動作專家之間的等待。
Cerebras：BlogAI 評分6363 Jais 2 推出 8B 和 70B 阿拉伯語大型語言模型，展示主權 AI 開發藍圖
G42 旗下 Inception、MBZUAI 基礎模型研究所與 Cerebras Systems 推出 Jais 2 阿拉伯語大型語言模型系列，包含 8B 和 70B 型號。
Cerebras：BlogAI 評分6666 GLM-4.7 登陸 Cerebras Inference Cloud，部分場景程式碼生成速度最高達 1,700 TPS
Cerebras 宣佈，Z.ai 的 GLM-4.7 現已登陸 Cerebras Inference Cloud，程式碼生成約為 1,000 tokens per second，部分場景最高達 1,700 TPS。
Cerebras：Blog精選AI 評分7676 OpenAI 與 Cerebras 簽訂多年協議，部署總容量達 750 megawatts 的晶圓級系統
OpenAI 與 Cerebras 簽訂多年協議，將分階段部署 750 megawatts 的 Cerebras 晶圓級系統，為 OpenAI 客戶提供服務。部署將於 2026 年開始；Cerebras 稱這將成為全球最大高速 AI 推理部署。Cerebras 表示，其系統上的大語言模型在編碼智能體或語音聊天場景中，回應速度較基於 GPU 的系統快達 15×。
推薦理由：文章列出 750 megawatts 的部署規模，並引述 Cerebras 稱其推理回應較 GPU 系統快達 15×，呈現合作的規模與方案定位。
Cerebras：BlogAI 評分7171 OpenAI GPT-5.3-Codex-Spark 由 Cerebras 提供支援，開放研究預覽
Cerebras 宣佈，由其提供運算支援的 OpenAI GPT-5.3-Codex-Spark 已開放研究預覽，面向即時軟件開發。模型運行速度超過 1,000 tokens/s；在 SWE-Bench Pro 和 Terminal-Bench 2.0 等基準上，其回應較 GPT-5.1-Codex-mini 更有能力，完成任務只需一小部分時間。
Cerebras：BlogAI 評分6464 為何 AI 競賽轉向推理速度
Cerebras 指出，AI 競賽的焦點正由模型智能轉向推理速度，因生成 token 的速度影響模型迭代與軟件開發。
Cerebras：BlogAI 評分5656 Cerebras 為企業客戶提供 Kimi K2.6 1 萬億參數模型試用
Cerebras 正向企業客戶提供 Kimi K2.6 試用，這是該公司首次提供 1 萬億參數開放權重模型推理服務。Artificial Analysis 於 2026 年 5 月 6 日測得其輸出速度為 981 tokens per second，較次快的 GPU 雲端服務快 6.7 倍，較推理服務中位數快 23 倍。
Cerebras：BlogAI 評分5757 Cerebras 開放預覽 Gemma 4 31B，多模態推理速度達每秒 1,851 個 token
Cerebras 已在 Cerebras Inference Cloud 限時公開預覽 Gemma 4 31B，支援以圖片輸入進行多模態推理。Artificial Analysis 測得其輸出速度為每秒 1,851 個 token，是典型 GPU 端點的 35 倍；首次回應 token（包括推理）在 1.5 秒內返回。
Cerebras：BlogAI 評分2929 更快推理如何為網絡安全公司帶來優勢
更快的模型推理讓網絡安全公司能在既有工作流程內處理更多上下文、推理及驗證，並維持流暢的用戶體驗。實務上可採分層架構，由規則、傳統模型及小型語言模型先行篩選、分類和分流，再把可疑事件、高風險發現等交由較強的推理模型深入分析，兼顧日常流程速度與重要個案的分析深度。
Cerebras：BlogAI 評分6060 Cerebras 以 Ultrafast 模式加速 GPT-5.6 Sol
Cerebras 與 OpenAI 公佈 GPT-5.6 Sol 的 Ultrafast 服務級別，率先於 OpenAI API 推出。服務由 Cerebras 提供支援，輸出速度最高達每秒 750 個 tokens；目前以有限預覽形式向部分客戶開放，並會隨容量增加擴大開放。
MarkTechPostAI 評分6464 Aleph Alpha 發佈 Kolibri 英德雙語 MoE 模型，總參數 78.1B、每個 token 啟用 3.46B
Aleph Alpha 發佈 Kolibri（Kolibri-1），一款面向英語和德語的開放權重 MoE 語言模型，總參數為 78.1B，每個 token 啟用 3.46B。
Zyphra ResearchAI 評分3636 Zyphra 發佈面向裝置端應用的 Zamba2-small（2.7B）小型語言模型
Zyphra 發佈 Zamba2-small（2.7B），一款面向裝置端應用的小型語言模型。相較 Phi3-3.8B，其首 token 生成速度快 2x、記憶體開銷減少 27%，生成延遲低 1.29x。模型權重以 Apache 2.0 授權開源。
Zyphra ResearchAI 評分4141 Tree Attention：面向 GPU 叢集長上下文注意力的拓撲感知解碼
Zyphra 提出 Tree Attention，以樹狀歸約平行化多 GPU Transformer 解碼，實測可提升長上下文注意力的解碼速度並降低記憶體開銷。Zyphra 估算，在 1M 序列長度下，Tree Attention 的解碼速度較 Ring Attention 快逾 8x，通訊量則減至一半或更低。其跨裝置複雜度為對數級，而 Ring Attention 為線性級。
Zyphra ResearchAI 評分5959 Zyphra 發佈 Zamba2-VL 視覺語言模型系列，提供 1.2B、2.7B 和 7B 參數規模
Zyphra 發佈 Zamba2-VL 視覺語言模型系列，提供 1.2B、2.7B 和 7B 參數版本，採用 Zamba2 混合 SSM–Transformer 骨幹。
Zyphra ResearchAI 評分5454 Zyphra 預覽 ZAYA1，稱其為首個完全以 AMD 硬件、軟件及網絡堆疊端到端訓練的 AI 模型
Zyphra 預覽 ZAYA1，稱其為首個完全以 AMD 硬件、軟件及網絡堆疊端到端訓練的 AI 模型。ZAYA1-base 使用 Zyphra 內部 AMD 專用訓練堆疊，訓練總量為 14T tokens；訓練叢集由 128 個節點組成，搭載 AMD MI300X GPU，實際訓練效能超過 750 PFLOPs。
Zyphra ResearchAI 評分5858 Zyphra 發佈在 AMD Instinct™ MI300 stack 上訓練的 ZAYA1-8B MoE 模型
Zyphra 發佈 ZAYA1-8B，這款 MoE 模型的活躍參數少於 1 billion。該模型在部分數學和編碼基準中勝過規模大得多的開放權重模型；搭配 Markovian RSA 時，HMMT'25 得分為 89.6，並逐輪只傳送最後 4K tokens 以維持固定上下文長度。
Zyphra ResearchAI 評分5050 ZAYA1-8B-Diffusion-Preview 在 AMD 上實現高效並行解碼
Zyphra 發佈 ZAYA1-8B-Diffusion-Preview，將自回歸訓練的 ZAYA1-8B 轉換為離散擴散模型，並同時草擬 16 個 token。
Fireworks AIAI 評分5555 在 Fireworks 透過 LoRA 訓練，讓 Kimi K3 貼合指定任務
Fireworks 以私人預覽形式開放 Kimi K3 的 Multi-LoRA 訓練與服務，並透過 Fireworks Serverless Training 提供。
Fireworks AIAI 評分7373 Fireworks AI 提供 Kimi K3 推理與訓練，推出美國境內 Serverless 端點
Fireworks AI 已在其平台提供 Kimi K3 推理與訓練，並推出以 Kimi K3 起步的美國境內 Serverless 端點。Kimi K3 有 2.8T 參數；端點提供美國境內推理及零資料保留，Fireworks 對開放模型預設不記錄或儲存提示詞及生成數據，除非用戶明確選擇加入。
Prime IntellectAI 評分5151 Prime Intellect 提出 TOPLOC，以局部敏感雜湊驗證 LLM 推理
Prime Intellect 提出 TOPLOC，以局部敏感雜湊驗證 LLM 推理，並在實驗中以 100% 準確率檢測模型、提示詞或計算精度遭未授權修改。TOPLOC 將最後隱藏狀態的 top-k 特徵編碼成證明並透過重算驗證，驗證速度最高可達原始推理速度的 100×，生成證明的儲存開銷減少 1000×。
Goodfire ResearchAI 評分5757 Goodfire 剖析 DeepSeek R1 推理模型內部機制，公開兩個 SAE
Goodfire 公開兩個以 DeepSeek R1 激活值訓練的稀疏自編碼器（SAE），並分享對推理模型內部機制及操控方式的早期研究。研究發現，R1 的特徵操控需等模型開始輸出「Okay, so the user has asked a question about…」一類思考前綴後才有效；部分特徵被過度操控時，模型反而會回復原有行為。
Prime IntellectAI 評分7474 Prime Intellect 啟動 INTELLECT-2 全球分散式 32B 參數模型強化學習訓練
Prime Intellect 啟動 INTELLECT-2，展開 32B 參數模型的全球分散式強化學習訓練，並開放任何人無需許可地貢獻異構算力。訓練以 QwQ-32B 為基礎，採用 DeepSeek-R1 的 GRPO 方法，聚焦可驗證的數學與編碼任務，並以系統提示詞設定思考 token 預算。
Prime IntellectAI 評分5656 Prime Intellect 發佈 INTELLECT-2，這是首個透過全球分散式強化學習訓練的 32B 參數模型
Prime Intellect 發佈 INTELLECT-2，稱這是首個透過全球分散式強化學習訓練的 32B 參數推理語言模型。訓練以跨異構運算節點的全非同步 RL 為核心，並配套推出 PRIME-RL、TOPLOC 和 SHARDCAST；模型、程式碼及數據均已開源，技術報告見 primeintellect.ai/intellect-2。
Goodfire ResearchAI 評分6262 Goodfire Research 提出模型差分放大法，協助發現罕見不良行為
Goodfire Research 提出模型差分放大法，放大模型在後訓練前後的 logits 差異，以協助浮現罕見不良行為。實驗顯示，該方法令湧現失配回覆增加 10 至 300 倍；當資料集含 5% 不良醫療建議時，有害回覆由每 10,000 次抽樣 1 次增至每 30 次 1 次。研究亦把此法用於監察後訓練和偵測後門行為；作者指出，放大後的回覆頻率不代表模型行為的實際發生率。
Prime IntellectAI 評分6262 Prime Intellect 發佈 SYNTHETIC-2 開放數據集，收錄 400 萬條經驗證的推理軌跡
Prime Intellect 發佈開放數據集 SYNTHETIC-2，收錄 400 萬條經驗證的推理軌跡，涵蓋複雜強化學習任務。全球共有 1,253 張 GPU 參與生成；TOPLOC v2 的誤報率為 0.000925%，證明驗證中位成本跨模型平均比重新執行原始推理低 25 倍。
Prime IntellectAI 評分7373 Prime Intellect 發佈 106B 參數 INTELLECT-3 MoE 模型，開源大規模 RL 訓練資源
Prime Intellect 發佈 106B 參數的 INTELLECT-3 MoE 模型，並開源模型權重、訓練框架、數據集、RL 環境及評測。模型以 GLM-4.5-Air 為基礎，經 SFT 和 RL 訓練，使用 512 張 NVIDIA H200 GPU、分佈於 64 個互連節點，歷時兩個月。
Prime IntellectAI 評分7474 Prime Intellect 推出 Lab 全棧模型訓練平台
Prime Intellect 推出 Lab，將 Environments Hub、Hosted Training 和 Hosted Evaluations 整合為模型後訓練研究的全棧平台。平台現支援基於 prime-rl、使用 LoRA 的智能體強化學習訓練，並可在自建環境中執行。私測期間已完成逾 3,000 次 RL runs，現已向所有人開放。
Goodfire ResearchAI 評分5454 Goodfire Research 透過損失曲率分析模型記憶
Goodfire Research 提出以損失曲率辨識記憶方向的模型編輯方法，移除低曲率權重方向以抑制背誦，無需標註指定遺忘資料。在採用 10% 隨機標籤噪聲的 ViT 實驗中，噪聲標籤記憶率由 81.6% 降至 3.5%，驗證準確率則由 67% 升至 71.7%。語言模型的純記憶任務準確率降至原有水平的 3–16%，邏輯推理維持或略有改善，但算術和封閉式事實回憶較易受影響。
Goodfire ResearchAI 評分5454 Goodfire Research 研究模型思維鏈的表演性與內部判斷落差
Goodfire Research 發現，DeepSeek-R1、GPT-OSS 等模型在簡單題上，往往在思維鏈文字表露答案前已形成內部判斷。研究以 attention probes、forced answering 和 CoT monitor 比較內部預測與文字推理；較難的 GPQA-Diamond 題目中，三種方法則同步逐步提升。
Prime IntellectAI 評分6161 prime-rl 0.6.0：萬億參數規模強化學習效能深度解析
Prime Intellect 發佈 prime-rl 0.6.0，支援萬億參數規模模型的智能體強化學習訓練。該團隊表示，可在 28 個 H200 節點上以最高 131k 的序列長度、低於 5 分鐘的單步時間及 256 個 rollouts 的批次大小，訓練 GLM-5 執行 SWE 任務。
Prime IntellectAI 評分6666 Prime Intellect 宣佈募集 $130M A 輪融資，以建設開放超級智能全棧
Prime Intellect 於 2026 年 7 月 8 日宣佈募集 $130M A 輪融資，由 Radical Ventures 領投，多家投資者參與。公司稱，累計融資額已超過 $150M，將用於建設涵蓋訓練、部署及持續改進的開放超級智能全棧。Prime Intellect 表示，其全棧已有超過 6k 名客戶使用，年化收入在不足一年內升至超過 $100m。
Goodfire ResearchAI 評分5252 Goodfire 在 Llama 3.1 8B 第 18 層發現以圓形表徵運作的加法模組
Goodfire 在 Llama 3.1 8B 第 18 層發現一個加法模組，透過多個圓形表徵並行計算不同模數下的和。該模組亦用於一般算術、星期及月份等循環概念的推算，數字以 Fourier features 表示。研究人員操控這些圓形表徵後觀察到月份預測隨輸出改變，作為模組參與月份推算的因果證據；文章指出相關實證仍未完整。
Liquid AI 模型與工程博客AI 評分6161 Liquid AI 發佈 LFM2，定位為市場上最快的裝置端基礎模型
Liquid AI 發佈 LFM2，推出 0.35B、0.7B 和 1.2B 三個參數規模的模型，面向裝置端生成式 AI。官方表示，LFM2 在 CPU 上的 prefill 和 decode 速度最高達 Qwen3 的 2 倍，訓練效率較上一代提升 3 倍。
Liquid AI 模型與工程博客AI 評分6060 Liquid AI 發佈 LFM2-8B-A1B 端側 MoE 模型（已由 LFM2.5-8B-A1B 取代）
Liquid AI 發佈 LFM2-8B-A1B 早期檢查點，這款端側 MoE 模型共有 8.3B 參數，每個 token 啟用 1.5B 參數。官方公佈 16 項基準測試結果，其中 MMLU-Pro 得分為 37.42，較 LFM2-2.6B 高 11.46 分；模型面向手機、平板及手提電腦的本地推理。頁首註明，該模型已棄用，並由 LFM2.5-8B-A1B 取代。