跳到正文
9月1日週二
8月28日週五
  1. MIT News38

    PottsMPNN:超越天然蛋白質序列的蛋白質設計

    研究人員開發機器學習框架 PottsMPNN,將蛋白質結構與穩定性的物理原理納入設計,提升序列生成及預測突變對穩定性影響的能力。它以成對分佈捕捉氨基酸間相互作用,並用演化相關序列訓練,更準確地建模序列—能量景觀,支援設計序列不同於天然蛋白質、但結構上可行的蛋白質。

8月27日週四
  1. Ai2 / Allen Institute for AI67

    Ai2 與 Providence Swedish Cancer Institute 合作,將 AutoDiscovery 用於癌症研究數據集

    Ai2 宣佈與 Providence Swedish Cancer Institute 合作,將 AutoDiscovery 用於癌症研究數據集。團隊以 The Cancer Genome Atlas(TCGA)進行分析,發現浸潤性小葉癌(ILC)的免疫特徵較以往認知更強,並透過獨立患者數據集及實驗室分析驗證。研究指出,這類癌症約佔美國每年確診乳癌的 15%,患者或可受惠於免疫療法。

8月19日週三
8月15日週六
  1. Ahead of AI38

    從零開始建構 AI 文字偵測器

    這個教學示範如何從零建構 AI 文字偵測器,並以微調 DistilBERT 分類器估算文字由 AI 生成的可能性。評分為 0-100,項目目標包括提供人類及智能體可用的 API,以及可顯示全文和個別文字區塊評分的本地瀏覽器介面。作者亦以此探討 AI 偵測器的限制,以及評分器或驗證器在 LLM 應用中的用途。

  2. Epoch AI:Gradient Updates51

    基準評測可協助回答的 9 個 AI 重大問題

    Greg Burnham 在 Epoch AI 的 Gradient Updates 中提出九個關於 AI 能力與影響的問題,探討基準評測如何協助回答。問題涵蓋 AI 能否承擔開放式工作、推理擴展是否持續帶來收益、AI 能否參與 AI 研發,以及強化學習能否跨領域泛化。

8月11日週二
  1. Sarvam AI55

    Indic DiarBench:面向印度語言的聯合説話人分段與語音識別基準數據集

    Sarvam 與 AI4Bharat 建立 Indic DiarBench,這是一個涵蓋印度憲法列定全部 22 種語言、聯合評估語音識別與説話人分段的開放基準數據集。數據集包含 108 小時自然即興語音,每段錄音有 2–9 名説話者,並涵蓋重疊發言、近場及遠場會議,以及 YouTube 真實對話。轉錄文本和帶説話人歸屬的時間戳均經人工核驗。

7月21日週二
  1. OpenAI:失準報告與通報72

    OpenAI 與 Apollo Research 提出 Contrastive SDF 測量模型的獎勵尋求傾向

    OpenAI 與 Apollo Research 開發 Contrastive SDF,透過相反的合成文件塑造評分者偏好信念,再比較模型行為以測量獎勵尋求。未接受安全訓練的 OpenAI o3 能力導向 RL 檢查點顯示,模型對評分者偏好的敏感度隨訓練推進而上升,即使該偏好與用戶或開發者要求相反。

  2. 上海人工智能實驗室 InternLM:原創項目50

    上海人工智能實驗室 InternLM 推出 ArchSpace 開放實驗項目

    上海人工智能實驗室 InternLM 推出 ArchSpace,將社羣提出的大語言模型架構假設納入公開、可追溯及可復現的訓練與評測流程。獲批提案按對齊 Olmo 3 的流程驗證,涵蓋 1B、3B、8B 模型及預訓練、中期訓練、指令微調,完整流程約使用 6.2T tokens。

7月13日週一
  1. MIT News66

    MIT 研究團隊提出無須生成圖像即可檢測模型 CSAM 生成能力的方法

    MIT 研究團隊與 Thorn 合作提出一種模型審核方法,可在不生成圖像的情況下判斷模型是否經微調以生成 CSAM。方法以 Gaussian probing 分析 LoRA adaptor 對模型內部計算的修改;在三類模型變體的測試中,識別經調整以生成 CSAM 的模型準確率為 100%。託管平台可用這項方法標記不安全模型,並將其移除或阻止上傳。

7月9日週四
  1. Google Research57

    SensorFM:邁向穿戴式健康數據的通用智能與介面

    Google Research 提出 SensorFM 大型感測器基礎模型,以來自五百萬名參與者的逾一萬億分鐘未標註穿戴式裝置訊號學習通用生理表徵。凍結模型編碼器後訓練的線性探測,在 35 項健康任務中的 34 項勝過特徵工程監督基線。在 31 份參與者檔案的評估中,加入 SensorFM 預測提升個人健康智能體摘要在五個評分維度的表現;與以真實測量值作依據的摘要評分則沒有統計顯著差異。

  2. OpenAI:部署安全與系統卡61

    OpenAI 發佈 GPT-5.6 系統卡,列出安全評估結果

    OpenAI 發佈 GPT-5.6 系統卡,公開模型訓練資料、部署安全模擬及生物化學能力評估。部署模擬預測 GPT-5.6 Sol 的違規內容總量與 GPT-5.5 大致相若,性相關違規率由 0.05% 升至 0.07%,心理健康相關違規回應率由 0.03% 降至 0.02%。OpenAI 將 GPT-5.6 系列的生物與化學能力列為 High,並判定三款模型均不需按 Critical 能力處理。

6月30日週二
6月19日週五
  1. OpenAI:失準報告與通報63

    OpenAI 研究以強化學習訓練廣泛且持續有益的模型

    OpenAI 的研究發現,在強化學習中加入少量有益行為特質資料,可改善模型的對齊表現,並把效果泛化至訓練未涵蓋的領域。在 53 項內外部評估中,該模型於 44 項較使用相同起點及相同 RL 算力訓練的基線模型有所改善,涵蓋欺騙、獎勵破解、健康及安全等評估。研究亦發現,這些改善在對抗提示及有害微調下較能維持,但仍需進一步區分有益特質訓練與一般後訓練 RL 的作用。

6月17日週三
6月11日週四
6月5日週五
  1. Hugging Face Blog62

    NVIDIA 發佈 Nemotron 3.5 Content Safety,整合多模態安全判定與自訂政策

    NVIDIA 發佈 Nemotron 3.5 Content Safety,將多模態輸入、多語言覆蓋、自訂企業政策與可審計推理整合至單一 4B 模型。模型基於 Google Gemma 3 4B IT,明確訓練覆蓋 12 種語言,並承接其約 140 種語言的 zero-shot 泛化;可選 THINK mode 會輸出推理軌跡。

    推薦理由:Nemotron 3.5 將多模態判定、自訂政策和可審計推理整合於 4B 模型,並附訓練資料集,提供企業安全審核的部署參考。

5月28日週四
  1. Google Research46

    Google 透過零信任聚合實現私隱分析

    Google將新型密碼學聚合協定與可信執行環境(TEE)結合,為私隱分析建立零信任防護,確保Google只能取得匿名化的羣體彙總洞察。新協定讓裝置以單一訊息提交資料,免須在多輪互動期間持續在線;密碼學層確保個人原始資料不會在任何伺服器記憶體中暴露或重建。

5月19日週二
  1. Hugging Face Blog66

    Hugging Face 發佈 Ettin Reranker 系列六款模型,規模涵蓋 17.6M 至 1.00B

    Hugging Face 發佈六款基於 Ettin ModernBERT encoder 的 Sentence Transformers CrossEncoder reranker,參數規模由 17.6M 至 1.00B,並公開訓練數據及完整訓練方案。

    推薦理由:文章以 MTEB(eng, v2) Retrieval、NanoBEIR 及多種硬件吞吐測試比較六種尺寸,呈現 Ettin Reranker 在排序品質與速度間的取捨。

5月7日週四
4月29日週三
  1. Hugging Face Blog61

    Granite 4.1 LLM 如何構建:預訓練、微調與強化學習流程

    Granite Team(IBM)詳述 Granite 4.1 的 3B、8B 和 30B 模型構建流程,涵蓋預訓練、監督式微調和多階段強化學習。預訓練以約 15T tokens 分五階段進行,並將上下文窗口擴至最高 512K tokens;其後以約 4.1M 經整理樣本作微調,採用 on-policy GRPO 配合 DAPO loss 進行強化學習。

    推薦理由:文章梳理 Granite 4.1 從約 15T tokens 預訓練、約 4.1M 樣本微調到多階段強化學習的流程,呈現 dense 模型的訓練設計取捨。

4月14日週二
3月31日週二
  1. Hugging Face Blog65

    Hugging Face 發佈 TRL v1.0,打造能隨後訓練領域演進的函式庫

    Hugging Face 發佈 TRL v1.0,將已實作超過 75 種後訓練方法的研究程式碼庫明確定位為具穩定性契約的函式庫。穩定核心遵循語義化版本,實驗層則可快速變動;從最後一個 0.x 版本升級只需少量遷移。

    推薦理由:TRL v1.0 把遵循語義化版本的穩定核心與可快速變動的實驗層置於同一套函式庫,呈現下游穩定需求與新方法迭代之間的契約設計。

3月26日週四
  1. Hamel Husain 長文67

    數據科學家的反擊:LLM 時代評測仍需要數據科學方法

    Hamel Husain 認為,LLM API 雖讓團隊可自行整合 AI,評測、實驗設計和生產監測仍需要數據科學方法。文中列出五類評測陷阱,包括套用通用指標、未驗證 LLM 評審、測試集設計不當、數據及標籤質素欠佳,以及過度自動化。作者建議檢視 traces、以人工標註驗證評審,並根據真實生產數據設計測試集,讓領域專家參與標註。

3月25日週三
  1. Google Research42

    描繪現代世界:S2Vec 如何學習城市語言

    Google Research 開發 S2Vec,透過自監督學習將建成環境特徵轉為通用嵌入向量。評測中,S2Vec 在美國人口密度及中位收入等未見地區的零樣本地理適應任務中,通常是表現最佳的單一模型,但樹冠覆蓋、海拔等環境任務仍有改進空間。S2Vec 與影像嵌入向量融合,整體通常優於單一模態。

3月12日週四
  1. Google Research73

    Google Research 推出 Groundsource,以 Gemini 將新聞報道轉化為突發洪水資料

    Google Research 推出 Groundsource,利用 Gemini 從新聞報道抽取突發洪水事件,建立涵蓋 150 多個國家的 2.6 million 筆開放歷史資料集。

    推薦理由:文章列出 Groundsource 的人工核驗數據和 GDACS 事件匹配結果,讓讀者比較新聞抽取資料的時空準確度與既有災害檔案覆蓋情況。

3月10日週二
  1. Hugging Face Blog70

    Hugging Face Hub 推出 Storage Buckets,提供可變的 S3 類物件儲存

    Hugging Face 在 Hub 推出 Storage Buckets,為頻繁變動的 ML 產物提供非版本化 S3 類物件儲存。Buckets 建基於 Xet,以分塊及跨檔案去重減少重複傳輸;Enterprise 計費按去重後的儲存量計算。

    推薦理由:文章交代 Buckets 與版本化倉庫分別承擔工作層和發布層,並説明 Xet 去重如何減少重複傳輸及 Enterprise 的計費儲存量。

3月9日週一
  1. Hugging Face Blog68

    LeRobot 發佈 v0.5.0,擴展機械人硬件、策略模型及資料與模擬功能

    LeRobot 團隊發佈 v0.5.0,擴展機械人硬件、策略模型、資料集處理及模擬環境支援。版本加入 Unitree G1 人形機械人完整支援(包括全身控制)、Pi0-FAST 自回歸 VLA 及 Real-Time Chunking,並新增 EnvHub 以從 Hugging Face Hub 載入模擬環境,亦整合 NVIDIA IsaacLab-Arena。

    推薦理由:版本把人形機械人控制、即時推理、模擬環境和資料提速納入同次更新,呈現 LeRobot 從硬件接入至訓練工具鏈的擴展範圍。

3月5日週四
  1. Hugging Face Blog53

    NXP 機械人 AI 嵌入式部署實踐指南:數據集錄製、VLA 微調與裝置端優化

    NXP 分享將機械人 AI 部署到嵌入式平台的實踐指南,涵蓋數據集錄製、ACT 與 SmolVLA 微調,以及 i.MX 95 上的 VLA 推理優化。實驗以把茶包放入杯中為任務,使用 3 部攝影機;文章建議保留獨立驗證集,並以非同步方式計算下一動作區塊,但推理時間須短於當前動作執行時間。

2月18日週三
2月4日週三
1月28日週三
1月24日週六
1月13日週二
12月18日週四
  1. Hugging Face Blog65

    Transformers v5 重設分詞器架構,提升透明度與模組化

    Transformers v5 將分詞器架構與訓練所得的詞彙、合併規則分離,並在類別中明確呈現正規化器等組件。相較 v4 每個模型各有 slow/fast 兩套實作,v5 改為每個模型一個檔案,預設採用 Rust-based TokenizersBackend;分詞器類別亦可直接實例化並用自有語料訓練。

    推薦理由:文章對照 v4 與 v5,説明分離分詞器架構和訓練詞彙後,如何更直接檢查組件,並沿用模型架構訓練自訂分詞器。

12月11日週四
  1. Google Research45

    Urania:洞察 AI 聊天機械人使用情況的差分隱私框架

    Google Research 提出 Urania,以差分隱私分析 AI 聊天機械人對話,提供端到端形式化隱私保證,避免單一對話過度影響摘要。框架透過差分隱私聚類及關鍵詞提取,再讓 LLM 僅根據經私隱保護的關鍵詞生成摘要,不接觸原始對話。與非差分隱私基線比較時,LLM 評估者在一項評測中最多有 70% 的情況偏好 Urania 的摘要。

12月4日週四
  1. Hugging Face Blog72

    Hugging Face Skills 讓 Claude Code 微調開源大語言模型

    Hugging Face Skills 讓 Claude Code 等編碼智能體透過對話處理模型微調,涵蓋資料集驗證、GPU 選擇、雲端工作提交與進度監控。它亦兼容 Codex 和 Gemini CLI;文中以 Qwen3-0.6B 在 open-r1/codeforces-cots 上進行 SFT 為例,估算使用 t4-small 約需 20 分鐘、成本約 $0.30。

    推薦理由:文章將資料集驗證、GPU 選擇、雲端工作提交與進度監控串成智能體訓練流程,並比較 SFT、DPO、GRPO 的適用場景。

11月12日週三
11月6日週四