跳到正文
目前篩選:觀點
  1. Ahead of AI76

    GPT-6 Astra、循環式 Transformer 與推理鏈可監控性解析

    Sebastian Raschka 分析 GPT-6 Astra 的電腦操作表現與循環式 Transformer 傳聞,指出 Astra 表現突出,但採用該架構尚未獲官方確認。

    推薦理由:文章比較循環式 Transformer 的權重共享、計算成本與路由設計,並指出現有資料尚不足以將推理鏈可監控性的變化歸因於這種架構。

  1. OpenAI News69

    OpenAI 發佈 AI 訓練算力增長分析

    OpenAI 發佈分析指出,自 2012 年起,最大規模 AI 訓練所用算力以 3.4 個月的週期翻倍。同期該指標增長逾 300,000 倍;相比之下,Moore’s Law 的翻倍週期為 2 年,按此週期只會增長 7 倍。OpenAI 指出,算力改進是 AI 進步的重要組成部分;若趨勢延續,應預備面對能力遠超今日的系統所帶來的影響。

    推薦理由:文中以大型 AI 訓練算力的 3.4 個月翻倍週期對照 Moore’s Law 的 2 年週期,並量化自 2012 年以來逾 300,000 倍的增長。

已經到底了