Zyphra 發佈面向裝置端應用的 Zamba2-small（2.7B）小型語言模型
Zyphra 發佈 Zamba2-small（2.7B），一款面向裝置端應用的小型語言模型。相較 Phi3-3.8B，其首 token 生成速度快 2x、記憶體開銷減少 27%，生成延遲低 1.29x。模型權重以 Apache 2.0 授權開源。
全部AI 動態
全部動態
今日 427 條Zyphra ResearchAI 評分3636 Zyphra ResearchAI 評分4141 Tree Attention：面向 GPU 叢集長上下文注意力的拓撲感知解碼
Zyphra 提出 Tree Attention，以樹狀歸約平行化多 GPU Transformer 解碼，實測可提升長上下文注意力的解碼速度並降低記憶體開銷。Zyphra 估算，在 1M 序列長度下，Tree Attention 的解碼速度較 Ring Attention 快逾 8x，通訊量則減至一半或更低。其跨裝置複雜度為對數級，而 Ring Attention 為線性級。
Zyphra ResearchAI 評分5959 Zyphra 發佈 Zamba2-VL 視覺語言模型系列，提供 1.2B、2.7B 和 7B 參數規模
Zyphra 發佈 Zamba2-VL 視覺語言模型系列，提供 1.2B、2.7B 和 7B 參數版本，採用 Zamba2 混合 SSM–Transformer 骨幹。
Zyphra ResearchAI 評分3131 MixPR：用於長上下文預處理的 Mixture-of-PageRanks 檢索器
Zyphra 提出 MixPR，一套結合兩類 PageRank 檢索、用於高效預處理長上下文輸入的 RAG 系統。系統按任務採用 PageRank 作全域檢索，或 Personalized PageRank 作局部檢索，並在多項長上下文基準測試取得 SOTA 結果。MixPR 可配合任何現有基礎模型，把有效 LLM 上下文長度延伸至十億級，並可在 CPU 上高效運行。
Zyphra ResearchAI 評分5858 Zyphra Research 發佈 Zonos-v0.1 beta，開源兩款 1.6B TTS 模型
Zyphra Research 發佈 Zonos-v0.1 beta，開源兩款採用 Transformer 與 SSM hybrid 架構的 1.6B TTS 模型，授權為 Apache 2.0。
Zyphra ResearchAI 評分5454 Zyphra 預覽 ZAYA1，稱其為首個完全以 AMD 硬件、軟件及網絡堆疊端到端訓練的 AI 模型
Zyphra 預覽 ZAYA1，稱其為首個完全以 AMD 硬件、軟件及網絡堆疊端到端訓練的 AI 模型。ZAYA1-base 使用 Zyphra 內部 AMD 專用訓練堆疊，訓練總量為 14T tokens；訓練叢集由 128 個節點組成，搭載 AMD MI300X GPU，實際訓練效能超過 750 PFLOPs。
Zyphra ResearchAI 評分4343 Zyphra 提出 Online Vector-Quantized (OVQ) Attention 處理長上下文
Zyphra 提出 Online Vector-Quantized（OVQ）attention，以線性計算複雜度和常數記憶體複雜度處理長上下文。其稀疏狀態更新可擴大記憶容量；實驗顯示，在 16k+ 上下文長度下，OVQ-attention 使用的記憶狀態僅為強自注意力基線的一小部分，表現相若或略有差距。長上下文任務中，OVQ-attention 顯著勝過線性注意力及 SSM 基線。
Zyphra ResearchAI 評分5555 Zyphra 發佈 380M 參數 ZUNA 腦電圖基礎模型，支援訊號去噪與重建
Zyphra 發佈 380M 參數的 ZUNA，這是一款用於腦電圖（EEG）訊號去噪、重建及上採樣的擴散自編碼器基礎模型。在通道缺失超過 75% 時，ZUNA 在所有評估數據集均優於球面樣條插值；模型亦可按電極座標預測新通道訊號。模型以約 2 million channel-hours EEG 數據訓練，並按 Apache 2.0 授權發佈模型權重及推理、預處理程式碼。
Zyphra ResearchAI 評分5858 Zyphra 發佈在 AMD Instinct™ MI300 stack 上訓練的 ZAYA1-8B MoE 模型
Zyphra 發佈 ZAYA1-8B，這款 MoE 模型的活躍參數少於 1 billion。該模型在部分數學和編碼基準中勝過規模大得多的開放權重模型；搭配 Markovian RSA 時，HMMT'25 得分為 89.6，並逐輪只傳送最後 4K tokens 以維持固定上下文長度。
Zyphra ResearchAI 評分5050 ZAYA1-8B-Diffusion-Preview 在 AMD 上實現高效並行解碼
Zyphra 發佈 ZAYA1-8B-Diffusion-Preview，將自回歸訓練的 ZAYA1-8B 轉換為離散擴散模型，並同時草擬 16 個 token。
Prime IntellectAI 評分3535 Prime Intellect 探討全球分散式訓練的前沿方法
Prime Intellect 探討全球分散式訓練方法，説明如何整合各地 GPU 資源訓練 AI 模型。文中介紹 Google DeepMind 的 DiLoCo，利用內外層最佳化，讓各運算島約每 500 次更新才同步梯度，以減少通訊負擔。全球部署仍要應對頻寬有限、硬件規格不一、算力變動及容錯等問題。
Prime IntellectAI 評分3636 Prime Intellect Compute 全面公開，推出全球 GPU 算力交易平台
Prime Intellect 將 Prime Intellect Compute 全面公開，作為聚合及調度全球 GPU 資源的算力交易平台。平台已整合 12 個雲端供應商，用戶可即時按需使用最多 8 張 GPU；H100 按需價格為 $1.5-4/hr。
Zyphra ResearchAI 評分5959 Zyphra 發佈 ZONOS2 即時文字轉語音模型，支援高保真聲音複製
Zyphra 發佈採用 Apache 2.0 授權的即時文字轉語音模型 ZONOS2，支援高保真聲音複製。模型採用 MoE 架構，規模由前代的 1.6B 增至 8B，即時生成吞吐量較前代提升 4x，並支援最長一分鐘的多語言及語碼轉換語音生成。ZONOS2 提供 stable 和 expressive 兩種模式，分別側重乾淨輸出，以及聲音複製的自然度與保真度。
Prime IntellectAI 評分5858 Prime Intellect 發佈 INTELLECT-1，稱其為首個全球協作訓練的 10B 參數模型
Prime Intellect 發佈 INTELLECT-1，並稱這是首個全球協作訓練的 10B 參數語言模型。模型以 1T tokens 訓練 42 天，橫跨 5 個國家和 3 大洲，最多同時使用 112 張 H100 GPU；全球分散式訓練的計算利用率為 83%。
Prime IntellectAI 評分5050 METAGENE-1 宏基因組基礎模型發佈，參數量為 7B
Prime Intellect、USC 與 Nucleic Acid Observatory 合作發佈 METAGENE-1，這是一個為疫情監測設計的 7B 參數宏基因組基礎模型。
Fireworks AIAI 評分5555 在 Fireworks 透過 LoRA 訓練，讓 Kimi K3 貼合指定任務
Fireworks 以私人預覽形式開放 Kimi K3 的 Multi-LoRA 訓練與服務，並透過 Fireworks Serverless Training 提供。
Fireworks AIAI 評分7373 Fireworks AI 提供 Kimi K3 推理與訓練，推出美國境內 Serverless 端點
Fireworks AI 已在其平台提供 Kimi K3 推理與訓練，並推出以 Kimi K3 起步的美國境內 Serverless 端點。Kimi K3 有 2.8T 參數；端點提供美國境內推理及零資料保留，Fireworks 對開放模型預設不記錄或儲存提示詞及生成數據，除非用戶明確選擇加入。
Prime IntellectAI 評分5151 Prime Intellect 提出 TOPLOC，以局部敏感雜湊驗證 LLM 推理
Prime Intellect 提出 TOPLOC，以局部敏感雜湊驗證 LLM 推理，並在實驗中以 100% 準確率檢測模型、提示詞或計算精度遭未授權修改。TOPLOC 將最後隱藏狀態的 top-k 特徵編碼成證明並透過重算驗證，驗證速度最高可達原始推理速度的 100×，生成證明的儲存開銷減少 1000×。
Goodfire ResearchAI 評分4646 解讀 Evo 2：Arc Institute 的下一代基因組基礎模型
Goodfire 與 Arc Institute 合作將可解釋性技術應用於 Evo 2，識別出多種具生物學意義的模型特徵。Evo 2 提供 7B 和 40B 參數架構，可處理長達 1M 個鹼基對的序列。以特徵引導 Evo 2 精確設計新蛋白質結構的研究仍處早期，尚需進一步研究。
Goodfire ResearchAI 評分5757 Goodfire 剖析 DeepSeek R1 推理模型內部機制，公開兩個 SAE
Goodfire 公開兩個以 DeepSeek R1 激活值訓練的稀疏自編碼器（SAE），並分享對推理模型內部機制及操控方式的早期研究。研究發現，R1 的特徵操控需等模型開始輸出「Okay, so the user has asked a question about…」一類思考前綴後才有效；部分特徵被過度操控時，模型反而會回復原有行為。
Goodfire ResearchAI 評分7474 Goodfire Research 展示 Paint With Ember 以擴散模型潛在表徵進行概念繪圖
Goodfire Research 展示 Paint With Ember，讓用戶透過畫布操控 SDXL-Turbo 的內部表徵，以概念方式生成和編輯圖像。工具使用 BatchTopK SAE 拆解圖像潛在表示，再以 NMF 將相關特徵聚合為概念，支援繪製、拖曳和調整概念。Goodfire Research 提供應用程式公開版本及開源 SAE 解讀器模型。
Prime IntellectAI 評分7474 Prime Intellect 啟動 INTELLECT-2 全球分散式 32B 參數模型強化學習訓練
Prime Intellect 啟動 INTELLECT-2，展開 32B 參數模型的全球分散式強化學習訓練，並開放任何人無需許可地貢獻異構算力。訓練以 QwQ-32B 為基礎，採用 DeepSeek-R1 的 GRPO 方法，聚焦可驗證的數學與編碼任務，並以系統提示詞設定思考 token 預算。
Prime IntellectAI 評分5353 Prime Intellect 預覽面向公共互聯網的分散式推理堆疊，並開源三個研究程式碼庫
Prime Intellect 預覽面向消費級 GPU、為公共互聯網 100ms 延遲設計的分散式推理堆疊，並開源三個研究程式碼庫。PRIME-IROH 是管線並行通訊後端，PRIME-VLLM 是可在公共網絡運行的 vLLM 管線並行整合，PRIME-PIPELINE 是快速驗證研究構想的精簡研究沙盒；用戶現已可連接私人硬件，透過公共網絡執行推理。
Prime IntellectAI 評分5656 Prime Intellect 發佈 INTELLECT-2，這是首個透過全球分散式強化學習訓練的 32B 參數模型
Prime Intellect 發佈 INTELLECT-2，稱這是首個透過全球分散式強化學習訓練的 32B 參數推理語言模型。訓練以跨異構運算節點的全非同步 RL 為核心，並配套推出 PRIME-RL、TOPLOC 和 SHARDCAST；模型、程式碼及數據均已開源，技術報告見 primeintellect.ai/intellect-2。
Goodfire ResearchAI 評分6262 Goodfire Research 提出模型差分放大法，協助發現罕見不良行為
Goodfire Research 提出模型差分放大法，放大模型在後訓練前後的 logits 差異，以協助浮現罕見不良行為。實驗顯示，該方法令湧現失配回覆增加 10 至 300 倍；當資料集含 5% 不良醫療建議時，有害回覆由每 10,000 次抽樣 1 次增至每 30 次 1 次。研究亦把此法用於監察後訓練和偵測後門行為；作者指出，放大後的回覆頻率不代表模型行為的實際發生率。
Goodfire ResearchAI 評分88 對抗樣本不是錯誤，而是疊加現象
文章主張，對抗樣本並非錯誤，而是疊加現象。頁面另列出以蛋白質嵌入向量改善 AI 智能體生物安全監測、規模化捕捉模型獎勵作弊，以及估算文字生成不確定性動態的研究。頁面亦介紹 Silico，稱其為可解釋性智能體，可用於解釋、除錯及精確控制模型行為，並提供可解釋性方法與基礎設施。
Fireworks AIAI 評分6161 Fireworks AI 宣佈 Training API 與 Fireworks Lab 正式開放
Fireworks AI 宣佈 Training API 與 Fireworks Lab 正式開放，並讓團隊可接入自訂訓練迴圈。API 由 Fireworks 管理分散式訓練與 rollout 基礎設施，用戶可在 Python 中掌控訓練迴圈、損失或獎勵、資料及環境。
Prime IntellectAI 評分6262 Prime Intellect 發佈 SYNTHETIC-2 開放數據集，收錄 400 萬條經驗證的推理軌跡
Prime Intellect 發佈開放數據集 SYNTHETIC-2，收錄 400 萬條經驗證的推理軌跡，涵蓋複雜強化學習任務。全球共有 1,253 張 GPU 參與生成；TOPLOC v2 的誤報率為 0.000925%，證明驗證中位成本跨模型平均比重新執行原始推理低 25 倍。
Fireworks AIAI 評分5353 企業如何邁向專門化智能並訓練自有模型
Fireworks AI 的文章梳理企業邁向專門化智能的路徑，從租用封閉式前沿模型、加入開源模型，逐步走到微調自有模型。在 UIPad 測試中，Kimi K3 與 GPT 5.6 Sol 整體同為 87.7 分，但 Kimi K3 執行成本為 $56，GPT 5.6 Sol 為 $115；按題型分流，可把座標題交給 Sol，其餘題目交給 K3。
Prime IntellectAI 評分5151 Prime Intellect 擴大開源環境計劃，承諾投入數十萬美元資助開發者
Prime Intellect 擴大開源環境計劃，推出大型懸賞計劃並承諾投入數十萬美元資助開發者，目標是把開源環境擴展至數千個。過去兩個月，社羣透過懸賞和 RL Residency 匯集 400 多個前沿 RL 環境及評測，80 多個實作已接受審核，RL Residency 則有 500 多名申請者。
Prime IntellectAI 評分7373 Prime Intellect 發佈 106B 參數 INTELLECT-3 MoE 模型，開源大規模 RL 訓練資源
Prime Intellect 發佈 106B 參數的 INTELLECT-3 MoE 模型，並開源模型權重、訓練框架、數據集、RL 環境及評測。模型以 GLM-4.5-Air 為基礎，經 SFT 和 RL 訓練，使用 512 張 NVIDIA H200 GPU、分佈於 64 個互連節點，歷時兩個月。
Goodfire ResearchAI 評分5959 Rakuten 部署 SAE probes，為 AI 智能體偵測 PII
Goodfire 與 Rakuten 合作研究以 SAE probes 偵測 Rakuten 的 AI 智能體用戶訊息中的 PII，Rakuten 已將該方法部署至生產環境。
Prime IntellectAI 評分7474 Prime Intellect 推出 Lab 全棧模型訓練平台
Prime Intellect 推出 Lab，將 Environments Hub、Hosted Training 和 Hosted Evaluations 整合為模型後訓練研究的全棧平台。平台現支援基於 prime-rl、使用 LoRA 的智能體強化學習訓練，並可在自建環境中執行。私測期間已完成逾 3,000 次 RL runs，現已向所有人開放。
Goodfire ResearchAI 評分1414 時間先驗：語言模型可解釋性中缺失的歸納偏置
題為《時間先驗》的文章聚焦語言模型可解釋性中缺失的歸納偏置。頁面另列出以蛋白質嵌入向量改善 AI 智能體生物安全監察、在大規模情況下捕捉模型獎勵破解，以及估算文字生成不確定性動態的研究。頁面亦介紹 Silico，稱其為可解釋性智能體，可用於解釋、除錯及精確控制模型行為。
Goodfire ResearchAI 評分5454 Goodfire Research 透過損失曲率分析模型記憶
Goodfire Research 提出以損失曲率辨識記憶方向的模型編輯方法，移除低曲率權重方向以抑制背誦，無需標註指定遺忘資料。在採用 10% 隨機標籤噪聲的 ViT 實驗中，噪聲標籤記憶率由 81.6% 降至 3.5%，驗證準確率則由 67% 升至 71.7%。語言模型的純記憶任務準確率降至原有水平的 3–16%，邏輯推理維持或略有改善，但算術和封閉式事實回憶較易受影響。
Prime IntellectAI 評分6565 Prime Intellect 與 Browserbase 合作，透過 BrowserEnv 訓練瀏覽器與電腦操作智能體
Prime Intellect 與 Browserbase 合作提供 BrowserEnv，讓用戶可在真實網站互動環境中訓練瀏覽器及電腦操作智能體。團隊以 WebVoyager 基準的 600 項真實網頁任務微調 Qwen3-VL-8B-Instruct，訓練流程和環境均已放在 Hub，並可完整重現。
Goodfire ResearchAI 評分5151 利用可解釋性方法識別阿茲海默症的新型生物標記類別
Goodfire 與 Prima Mente 以可解釋性方法分析表觀基因組基礎模型 Pleiades 如何利用血液遊離 DNA（cfDNA）偵測阿茲海默症，發現片段長度模式是分類器的主要訊號。
Prime IntellectAI 評分5252 Prime Intellect 將 FrontierSWE 編碼基準上架 Environments Hub
Prime Intellect 將 Proximal 的 FrontierSWE 編碼基準上架 Environments Hub，用戶可透過 Prime CLI 執行評測。
Prime IntellectAI 評分7272 Prime Intellect 正式開放 Lab 自我改進智能體訓練平台
Prime Intellect 宣佈 Lab 結束 beta 階段並全面開放，平台把自我改進智能體的任務設定、評估、訓練和部署整合為一套流程。Lab 以環境封裝任務、工具、模擬器和獎勵指標；Hosted Training 支援在用戶環境中執行大規模強化學習，並訓練 LoRA adapter。
Goodfire ResearchAI 評分5454 Goodfire Research 研究模型思維鏈的表演性與內部判斷落差
Goodfire Research 發現，DeepSeek-R1、GPT-OSS 等模型在簡單題上，往往在思維鏈文字表露答案前已形成內部判斷。研究以 attention probes、forced answering 和 CoT monitor 比較內部預測與文字推理；較難的 GPQA-Diamond 題目中，三種方法則同步逐步提升。