跳到正文
熱點事件持續更新

GPT-1至GPT-2的預訓練與規模化

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月29日的報道回顧 GPT-1 至 GPT-2 的發展:GPT-1 證明「預訓練 + 微調」可應用於多類 NLP 任務,參數量為 1.17 億。其後,GPT-2 的參數量增至 15 億,零樣本能力和生成質素亦有所提升,初步展示模型規模擴大與能力增強之間的關聯。報道指出,兩者維持架構和任務不變,同時擴大參數量及數據,為縮放定律埋下伏筆。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月29日
  1. 阿里雲開發者社區 AI
    GPT-1 到 GPT-2:預訓練範式的確立與規模化初試

    GPT-1 證明「預訓練 + 微調」可應用於多類 NLP 任務,GPT-2 則以零樣本能力和生成質素的提升,初步展示模型規模擴大與能力增強的關聯。GPT-1 有 1.17 億參數,GPT-2 有 15 億參數;文章指出,兩者維持架構和任務不變、擴大參數和數據的做法,為縮放定律埋下伏筆。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。