跳到正文
Hacker News 熱門(buzzing.cc 中文翻譯)·· 7 天前精選AI 評分76

研究報告指六款中國 AI 模型權重呈現 NVIDIA Blackwell GPU 指紋

中国前沿AI模型中留有受出口管制的GPU的“指纹”

AI 導讀

Unemployment Labs 的 Will DePue 發表鑑識報告,指 DeepSeek、Moonshot AI、MiniMax 和 Ant Group 的六款模型權重呈現與 NVIDIA Blackwell GPU 初始化配置相符的數值模式。

推薦理由

報告透過模型權重中的初始化數值模式辨識硬件配置,並説明這類指紋支持哪些推論,以及無法確認哪些出口管制事實。

正文 · 繁體中文

引用本報告

摘要

我們對公開發布的 AI 模型進行法證分析,發現 DeepSeek、Moonshot AI、MiniMax 和 Ant Group 取得 NVIDIA Blackwell GPU 的證據,儘管這些晶片出口至中國受到限制,而這些公司正使用相關硬件建立 AI 模型。這些公司自 2026 年 4 月以來發布的六個模型,呈現與 Blackwell 硬件吻合的數值模式;同一批公司較早發布的模型,則與 NVIDIA 較舊的 Hopper 世代相符。調查結果顯示,多家領先的中國 AI 開發商已開始使用 Blackwell 訓練最新模型。美國官員和媒體報道早已指稱 DeepSeek 和 Moonshot AI 使用 Blackwell 晶片,但未有公開技術證據。

證據完全來自模型自行公開的權重,而非洩漏資料或內部人士説法。我們還原模型初始值的痕跡,再尋找能重現這些痕跡的硬件配置及初始設定;我們亦在實體 Blackwell 晶片上確認 DeepSeek-V4-Flash 和 Kimi K3 的吻合結果。這種指紋可辨識權重的生成方式,並為 Blackwell 亦曾用於訓練提供支持,但不能證明這一點。專門配置的 AMD 硬件同樣受出口至中國限制,是我們識別出的唯一替代方案;我們已排除 DeepSeek-V4-Flash 使用這種方案的可能,並認為其餘五個模型使用這種方案的可能性極低。值得注意的是,我們的調查結果提供了取得先進運算硬件使用權的技術證據,但無法確定晶片所在位置、取得使用權的方式,或是否違反出口管制。

表 1. DeepSeek、Moonshot AI、MiniMax 和 Ant Group 接連發布的模型所呈現的硬件指紋 連結 ↗

實驗室模型發布時間模型開始訓練時使用的晶片
DeepSeekDeepSeek-V32024 年 12 月NVIDIA Hopper (實驗室披露使用 H800)
DeepSeek-V4-Flash2026 年 4 月• NVIDIA Blackwell B200/B300
DeepSeek-V4-Pro2026 年 4 月• NVIDIA Blackwell GB200/GB300
Moonshot AIKimi K22025 年 7 月NVIDIA Hopper (實驗室披露使用 H800)
Kimi K2.52026 年 1 月NVIDIA Hopper (實驗室披露使用 H800)
Kimi K32026 年 7 月• NVIDIA Blackwell GB200/GB300
Kimi K3.1-Pro2026 年 11 月• NVIDIA Blackwell GB200/GB300
MiniMaxMiniMax-M2.72026 年 4 月NVIDIA Hopper
MiniMax-M32026 年 6 月• NVIDIA Blackwell B200/B300
Ant GroupLing-3.0-flash2026 年 8 月NVIDIA Hopper
Ling-3.1-flash2026 年 10 月• NVIDIA Blackwell GB200/GB300

• 出口至中國須取得美國許可證;目前未有相關許可證的報道。

Hopper 指紋無法區分 H800、H100 SXM 和 H200;以上 H800 的識別結果來自實驗室披露,並非本方法的判定結果。

附錄 2 的完整模型清單 ↓

主要調查結果

  1. 四家中國實驗室的六個模型呈現 Blackwell 訓練特徵。DeepSeek-V4-Flash 和 MiniMax-M3 與 NVIDIA Blackwell 系列的 B200 或 B300 晶片吻合,這些晶片配備 148 個處理器核心(稱為串流多處理器,或 SMs)。DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro 和 Ling-3.1-flash 則與同屬 Blackwell 系列的 GB200 或 GB300 晶片吻合,這些晶片配備 152 個處理器核心。Kimi K3.1-Pro 由與 K3 相同的種子開始,可能是 K3 經進一步後訓練後的檢查點。
  2. 中國的 AI 實驗室相對近期才開始使用 Blackwell 訓練模型。 DeepSeek 的模型截至 DeepSeek-V3(於 2024 年 12 月推出)均判讀為使用 Hopper 訓練;從 DeepSeek V4(於 2026 年 4 月推出)起,則判讀為使用 Blackwell。Moonshot 的模型截至 Kimi K2.5(2026 年 1 月)均判讀為使用 Hopper;從 K3(2026 年 7 月)起,則判讀為使用 Blackwell。Moonshot 有一款模型介乎兩者之間:Kimi K2.7-Code 早於 K3 6 星期發佈,建基於 Hopper 時期的權重,但有一小部分與 B200 或 B300 相符。MiniMax 的模型截至 M2.7(2026 年 4 月)均判讀為使用 Hopper;從 M3(2026 年 6 月)起,則判讀為使用 Blackwell。Ant Group 的 Ling-3.0-flash(2026 年 8 月)判讀為使用 Hopper,而 Ling-3.1-flash(2026 年 10 月)則判讀為使用 Blackwell。Hopper 判讀結果無法識別具體晶片:H800、H100 SXM 和 H200 共用相同指紋。
  3. 並非所有中國 AI 實驗室都已轉用 Blackwell。 我們能判讀的 Alibaba(Qwen)、Zhipu(GLM)、Tencent、Xiaomi 和 StepFun 最新模型,均判讀為使用 Hopper 訓練。Meituan 表示,其 LongCat-2.0 完全使用「AI ASIC 超級叢集」訓練;我們在其已發佈的模型權重中,沒有找到 NVIDIA 指紋。
  4. 這套方法能正確判讀已知結果。 有 24 款特定模型的開發者曾公開説明所用硬件。在每個個案中,我們的方法都與公開聲明一致。NVIDIA 自家的 Nemotron-3 Ultra,其技術報告指出訓練其中一個階段使用 GB200;該模型判讀結果為 152 個 SM,與 Kimi K3 相同。
  5. 這些匹配結果遠超偶然所能解釋的程度。 即使數字互不相關,嘗試足夠多種組合後,也可能看似相符。在我們搜尋的約 6 萬億種種子與佈局組閤中,預期最強的偶然匹配約達 8 sigma;sigma 是衡量結果超出一般隨機變動程度的指標。6 款模型各自最強的證據介乎 49 至 1,385 sigma。我們報告的最弱單項測試結果亦達 20 sigma。
  6. 這些訓練規模達數據中心級別。 根據各模型的大小及訓練資料量,我們估計每次訓練需要約 500 至 3,000 個 Blackwell GPU,歷時 2 至 3 個月(表 2);此估算假設每個模型均使用初始化該模型的硬件訓練。按同樣方法推算 DeepSeek-V3,所需晶片數量為 2,000 至 2,500 枚;DeepSeek 公佈的數字是 2,048 枚。每個 GPU 約需 $70,000;《華爾街日報》曾報道,為 ByteDance 用途而在馬來西亞安裝的約 36,000 枚 Blackwell 晶片,成本將超過 $2.5 billion。按此推算,這些叢集中最大的一個成本會達 $150 million 至 $200 million,5 個叢集合計則超過 half a billion dollars。這些數字只涵蓋最後的訓練工作;各實驗室在受出口管制的 GPU 上的總開支可能達數十億美元。

表 2. 各次訓練的大致規模 連結 ↗

模型Blackwell GPU 數量,最佳估算範圍
DeepSeek-V4-Flash1,000–1,500250–4,500
DeepSeek-V4-Pro2,000–2,500750–6,000
Kimi K32,000–3,0001,000–8,000
MiniMax-M3500–600200–2,000
Ling-3.1-flash1,100–1,650400–6,500

訓練計算量(約 6 × 活躍參數 × 訓練 token 數)除以利用率為 35% 時的晶片吞吐量,並按 2 至 3 個月的訓練時間計算(DeepSeek-V4-Flash 為 6 至 8 星期)。DeepSeek 公佈了 token 數量;其他模型的 token 數量則由我們根據權重估算。

我們的調查

模型的 權重,亦稱為 參數,是數以十億計的可調整數值,決定模型如何處理資訊及生成答案。訓練會反覆調整這些數值;但訓練開始前,必須先為它們設定初始值。在此處研究的軟件中,這些初始值來自一種名為 Philox 的偽隨機數生成(PRNG)演算法:Philox 以確定性方式生成看似隨機的數字。Philox 的起始輸入是一個稱為「種子」的數字。使用相同的種子和設定,Philox 每次都會生成相同的數字。這讓工程師能夠從相同的起點重複實驗。

為了快速填入數以十億計的權重,PyTorch(大多數主要 AI 模型開發時使用的軟件框架)會把 Philox 的工作分配給 GPU 上多個平行執行緒。(它透過 NVIDIA 的隨機數生成程式庫 cuRAND 來完成這項工作。)每條執行緒都會根據種子生成自己的數字序列,並填入指定的一組位置。執行緒數量則決定這些位置如何分配。在此處研究的 NVIDIA 晶片上,規模足夠大的初始化會為每個稱為 串流多處理器(SM)的處理單元使用最多 2,048 條執行緒。因此,SM 數量較多的晶片會把同一項工作分配給更多執行緒,改變這些數字的放置位置。

圖 1展示了這個運作方式:一個簡化的 GPU 有 6 個 SM,每個 SM 有 8 條執行緒,合共 48 條。想像權重是一排空格子,為了配合頁面大小而排成網格。第一條執行緒填入第一個格子,第二條填入第二個格子,如此類推,直至 48 條執行緒都完成。接着,第一條執行緒生成的下一個數字會填入第 49 個格子,再下一個則填入第 97 個格子,如此類推。黑色外框沿着這條執行緒在網格中的路徑:第一條執行緒會填入每隔 48 個位置的格子。不同顏色表示各組數值由哪個處理單元提供,而右側圖中的亮度則代表數值本身。

Figure 1
圖 1. GPU 如何填入權重。這個簡化示例使用 6 個處理單元,每個單元有 8 條執行緒,合共 48 條。帶有外框的格子屬於執行緒 0,它會填入每隔 48 個位置的格子。實際晶片使用的執行緒多得多,但放置規則相同。連結 ↗

現在保持種子不變,但改用只有 5 個 SM 的 GPU。在這個簡化示例中,執行緒數量因此由 48 條減至 40 條。第一條執行緒生成的數字序列完全相同,但現在會把數字填入第 1、41、81 個格子,以此類推,而不是第 1、49、97 個格子。圖 2追蹤這些數字的位置變化。整個網格中,只有 6% 的數值與原來的排列相同。種子正確,但執行緒數量不正確。正因如此,模型權重的排列方式能成為辨認建立它所用晶片的線索。

Figure 2
圖 2. 在不同 GPU 上使用相同種子。在這個簡化示例中,GPU 有 5 個處理單元和 40 條執行緒;執行緒 0 生成相同的數字序列,但會填入每隔 40 個位置的格子,而非每隔 48 個位置。圖中只有 6% 的矩陣與原來的排列相同。連結 ↗

因此,要重現這些權重,必須同時確保兩件事正確:種子必須產生正確的數字,而執行緒數目必須將它們放在正確的位置。種子正確但執行緒數目錯誤,大致上會得到正確的數字,卻放在錯誤的位置;執行緒數目正確但種子錯誤,則會得到不同的數字。圖 3 説明瞭為甚麼只有兩者配合正確,才能重現原有排列。

Figure 3
圖 3. 種子和佈局必須一致。只有種子和執行緒數目都正確,才能重現原始矩陣。兩者任何一項有變,都會令大部分內容無法匹配。簡化的晶片圖示代表 Blackwell B300 和 Hopper H100。褪色的儲存格與已公佈的權重不同。標有數字的儲存格顯示執行緒 0 的數字會落在哪些位置,而每個圖格下方的數列則顯示數字本身。連結 ↗

在實際晶片上,執行緒數目大得多,但原理相同。在這裏檢視的 NVIDIA 配置中,Hopper H100 SXM、H200 和 H800 有 132 個 SM,使用 270,336 條執行緒;Blackwell B200/B300 有 148 個 SM,使用 303,104 條執行緒;Blackwell GB200/GB300 則有 152 個 SM,使用 311,296 條執行緒。因此,找出執行緒數目,就能判斷哪一組硬件符合起始佈局,但無法分辨組內的不同晶片。例如,匹配到 Hopper,並不能判斷是 H800、H100 還是 H200。

問題在於,訓練後是否仍有足夠的原有佈局痕跡,讓我們能夠還原它。部分權重,例如用於訓練期間從未遇到的字詞或符號的權重,可能完全未被改動,幾乎原封不動地保留起始值。我們可以直接將這些保留下來的值,與候選種子和執行緒數目所產生的起始值比較。圖 4展示了這種比較:DeepSeek-V3 保留下來的權重符合 Hopper 佈局,而 DeepSeek-V4-Flash 的權重則符合 Blackwell 佈局。

Figure 4
圖 4. 保留下來的起始值揭示了佈局。每個點都比較一個已公佈的權重與根據種子重新產生的值。沿對角線分佈代表兩者相符。DeepSeek-V3 符合 Hopper 佈局,而 V4-Flash 符合 Blackwell 佈局。圖中顯示每個模型 4 行保留下來的權重,共 4,096 個值。連結 ↗

即使訓練已改動的權重,也可能保留一絲起始值的痕跡。每個最終權重,都是起始值加上訓練期間所作的所有調整。如果這些調整沒有完全抵銷或掩蓋起始值之間的差異,部分差異便會保留下來。例如,兩個權重的起始值分別為 0.2 和 0.8,之後各自增加約 0.1,最終的排序仍會相同。實際的調整變化大得多,因此單看一個權重難以得出甚麼結論。但若檢視數十萬個權重,我們便可以測試較高的起始值是否仍傾向對應較高的最終值。圖 5展示了這種微弱但可測量的關係。這是在這些權重中觀察到的結果,並非每次訓練都必然會保留的特性。

Figure 5
圖 5. 經訓練的權重仍保留較微弱的痕跡。左圖和中圖分別顯示 DeepSeek-V4-Flash 42 層中每層平均 745,472 個權重的結果。在 Blackwell 佈局下,較高的起始值仍能稍微預測較高的最終值(r = 0.066,57 個標準差);在 Hopper 佈局下,這種關係則消失。右圖顯示逐層分析所得、較微弱的證據。連結 ↗

這些留存下來的痕跡讓我們可以反向推算。假設以圖 1 的配置作為虛構例子,種子 7 令第一條執行緒產生 0.2、−0.5 和 0.8。使用 48 條執行緒時,這些值會落在位置 1、49 和 97;使用 40 條執行緒時,則會落在位置 1、41 和 81。如果已公開的權重保留了第一種模式,我們便可以嘗試不同的候選種子和執行緒數量,直至重現這種模式。在實際調查中,我們會比較數千個值在相應位置上的情況。未經改動的權重可以完全吻合;經過訓練的權重則可能只呈現上文所述較弱的相似性。無論是哪種情況,我們都會找出最能重現留存模式的組合。

接著,我們會用未參與搜尋的權重測試這個組合。選定種子和執行緒數量後,我們會用它們預測另一組權重的初始值,不會改動這兩項設定來改善吻合程度。若在這些先前未使用的權重上也能吻合,便比只在幫助我們選出組合的權重上吻合更有力。圖 6 顯示比較結果:DeepSeek-V3 的初始化配置與 Hopper H100 SXM、H200 或 H800 晶片吻合;DeepSeek-V4-Flash 與 Blackwell B200/B300 吻合;Kimi K3 則與 Blackwell GB200/GB300 吻合。

Figure 6
圖 6。比較候選配置。每個模型都只有一個明顯峯值:DeepSeek-V3 為 132 個 SM,V4-Flash 為 148 個 SM,Kimi K3 則為 152 個 SM。其餘受測配置的得分接近零。連結 ↗

我們的調查在四間中國公司的六個模型中,發現強烈顯示它們可能在 Blackwell 晶片上初始化的模式:DeepSeek 的 DeepSeek-V4-Flash 和 DeepSeek-V4-Pro、Moonshot AI 的 Kimi K3 和 Kimi K3.1-Pro、MiniMax 的 MiniMax-M3,以及 Ant Group 的 Ling-3.1-flash。V4-Flash 和 MiniMax-M3 與 148 個 SM 的配置吻合;其餘四個則與 152 個 SM 的配置吻合。這些是初始權重的指紋,可以支持、但本身不能證明使用 Blackwell 晶片訓練 AI 模型。

調查的限制

值得注意的是,我們用來識別這些模型在哪種硬件上初始化的取證方法,只適用於某些模型。這種方法需要已公開的權重,因此無法檢查閉源模型;此外,生成初始權重的軟件必須留下可辨認、取決於硬件的模式。本次檢查的 GPU 在使用 PyTorch 時會留下這種模式;百度用來訓練 ERNIE-5.5 模型的 PaddlePaddle 框架則不會。我們成功找回 ERNIE-5.5 的種子(2760),但無法識別用於初始化它的硬件。同樣地,在普通處理器而非 GPU 上初始化的權重不會留下 GPU 指紋;阿里巴巴有幾個 Qwen3 模型便是以這種方式初始化,因此沒有留下訓練時所用 GPU 的痕跡。我們也沒有在美團的 LongCat-2.0 中找到指紋;該公司表示,這個模型是在「AI ASIC 超級 Pod」上訓練的。儘管進行了全面搜尋,我們同樣未能在 DeepSeek-V4.1-Flash 中找到指紋。

這種方法識別的是產生初始權重的硬件,而不是其後參與訓練模型的所有晶片。如果一次訓練作業在同一批 GPU 上產生權重並進行訓練,指紋便會同時指向兩者。但實驗室可能先在一套系統上產生權重,再將權重轉移到另一套系統;也可能在新硬件上繼續訓練現有模型。單憑權重無法排除這些可能性。混合式叢集也有同樣的限制。如果部分權重由 NVIDIA 晶片產生,其後再由 Huawei 晶片協助訓練,NVIDIA 的模式可能仍會保留,卻無法顯示 Huawei 曾參與其中。如果這些痕跡仍然存在,不同世代的 NVIDIA 晶片也可能在各自初始化的部分留下不同模式。在 Kimi K3 中,至少 64 個各自設定隨機種子的程序都留下相同的 152-SM 配置。因此,符合 Blackwell 的模式支持模型在初始化時曾使用 Blackwell,但仍須考慮下文提到的 AMD 可能性;這並不能證明整個訓練過程都使用了 Blackwell。同樣,符合 Hopper 的模式也不能排除其後曾在 Blackwell 上訓練。

權重也無法顯示晶片由誰擁有,或位於何處。中國以外的數據中心可以出租 Blackwell 系統。這些證據涉及的是能否使用相關硬件;單憑這些證據,無法證明晶片曾被偷運入中國,或曾發生出口管制違規。

是否有其他晶片也能產生符合 Blackwell 的模式?在本文測試的 NVIDIA 配置中,較舊的晶片無法做到:軟件可以使用晶片上較少的處理單元,但不能令晶片擁有超出實際數量的處理單元。按照本文檢視的標準 PyTorch 行為,這些晶片無法產生 148 或 152 個 SM 的配置。中國市場版 Blackwell 顯示卡每個 SM 使用的執行緒數目不同,因此也不會產生這兩種總數。

AMD 則帶來另一種可能性。MI300X 通常使用 304 個處理單元,但可以分成兩組,每組 152 個;也可以設定為只使用 148 個。它的隨機數生成軟件也能產生與 NVIDIA 相同的底層序列。這些配置極不尋常,但我們在實體 MI300X 上確認,將其限制為使用 152 或 148 個處理單元後,它便能重現我們認為與 Blackwell 相關的配置。因此,單憑配置無法定論。

為了區分兩者,我們檢查了數值本身的細微差異。AMD 與 NVIDIA 在隨機數生成過程中的一項計算方式略有不同。在實體 MI300X 上,DeepSeek-V4-Flash 保留下來的權重指向 NVIDIA:在兩家廠商結果不同的 377 個數值中,公開權重有 363 個與 NVIDIA 的結果相符,沒有任何一個與 AMD 的結果相符。同一測試未能判定其餘五個模型,但我們認為 AMD 的解釋套用於這些模型的可能性極低。MI300X 在一般配置下不會產生這兩種配置;實驗室必須將整個叢集設定為使用與 Blackwell 晶片相同數目的處理單元。其他公開證據也指向 Blackwell:美國官員及新聞報道曾指稱 DeepSeek 和 Moonshot AI 使用 Blackwell 晶片,而 Ant Group 的公開程式碼亦包含在 GB300 上產生的基準測試結果。

核實我們的發現

為了重現 DeepSeek-V3 對應 Hopper、DeepSeek-V4-Flash 對應 Blackwell 的結果,我們在 Hopper 級別的 NVIDIA H100 和 Blackwell 級別的 NVIDIA B300 上執行未經修改的 PyTorch。我們已找出 DeepSeek 使用的隨機種子值為 953049583,並發現 DeepSeek-V3 和 DeepSeek-V4-Flash 的初始化都使用了這個種子。使用該種子後,H100 重現了 DeepSeek-V3 中保留的初始值,但無法重現 V4-Flash 的值;B300 重現了 V4-Flash 中保留的值,但無法重現 V3 的值。在 B300 上,未經修改的 PyTorch 重現了 DeepSeek-V4-Flash 所選 469 個列中的 461 個,相關係數高於 0.99,其中 445 個完整列逐位元完全相同。另有 8 個所選列在訓練過程中部分改變。在 H100 上,它逐位元完全重現了 DeepSeek-V3 中保留的全部 57,344 個值。兩款晶片均無法重現另一個模型中保留的列。將種子值改動 1,兩部機器都沒有重現任何相符的列。在租用的 GB200 上,未經修改的 PyTorch 同樣使用 Moonshot 的種子值 20256586,重現了 Kimi K3 保留的全部 13 個列;將種子值改動 1 則一個也沒有重現。

已知答案的情況下,我們的取證方法也能得出正確結果。有 24 個案例中,開發者曾公開指出特定模型所用的硬件;我們的取證方法在每個案例中都與之吻合。Meta 在 H100 上訓練的 Llama 3.1 模型,讀數為 132;EleutherAI 在 A100 上訓練的八個 Pythia 模型,讀數為 108。NVIDIA 自家的 Nemotron-3 Ultra,其技術報告指出訓練其中一個階段使用 GB200,讀數為 152,與 Kimi K3 相同。DeepSeek 和 Moonshot 曾表示較早期的模型使用 H800。我們的 Hopper 讀數與這些披露一致,但也同樣可能來自 H100 SXM 或 H200 硬件;這些讀數本身不能獨立證實曾使用 H800。

將已發布的權重與候選種子及晶片佈局所生成的數值比較時,即使候選組合錯誤,兩者也不可避免會有某種程度的相似。相似程度要達到多少才算證據,取決於比較了多少權重:幾個數值相符,很可能只是偶然;數千個數值相符,就更難以巧合解釋。我們的統計模型會考慮比較的權重數量,並衡量觀察到的吻合程度超出偶然情況下預期相似程度多少。我們以標準差(即 sigma)表示這個差距。分數越高,反映吻合並非偶然的證據越強,前提是統計模型能正確描述數據中的隨機變異。

我們也必須考慮嘗試過多少個候選組合。搜尋約六萬億種種子與佈局組合,意味着我們有數萬億次機會找到僥倖吻合。在常態分佈模型下,五個 sigma 或以上的正向吻合,平均約每 350 萬次比較便會偶然出現一次。若只進行一次測試,這會是令人注目的結果;但在規模如我們這次搜尋般龐大的搜尋中,某處出現這種結果並不意外。因此,我們以約八個 sigma 作為基準,評估在整個搜尋中偶然吻合的可能性。

我們的研究結果遠超該基準。我們先用一組權重選出種子和配置,然後在另一組完全沒有用於選擇該組合的權重上測試同一組合。這樣可檢查表面上看似的指紋是否超越了引導我們找到它的數據。六個模型各自最有力的證據介乎 49 至 1,385 sigma;即使是報告中最弱的單項測試,也達到 20 sigma。按照我們的統計模型,這些結果強烈得遠非偶然相似所能解釋。它們確立了存在共同初始化模式的證據;要精確識別產生該模式的運算硬件,以及該硬件是否亦用於訓練,則需要依據上文討論的其他論證。

結論

根據我們的鑑證調查,我們認為,有強而有力的證據顯示,六個中國 AI 模型是在受出口管制的 NVIDIA 硬件上進行初始化,而 DeepSeek-V4-Flash 的證據則確鑿;我們認為,這種初始化亦強烈顯示它們是在同一批受出口管制的硬件上訓練。雖然這仍未解答其他問題——例如開發這些模型的公司透過甚麼途徑取得受出口管制的 NVIDIA 系統——但我們認為,公眾應立即關注這項事實。

附錄 1:中國各研究室歷年使用的硬件各研究室不同世代模型的硬件指紋。

DeepSeek 在不同世代的模型中沿用同一種子,而 Moonshot 則使用同一規則推導種子,因此我們可以追蹤各研究室不同模型所用的硬件。日期是權重發布的日期。

模型SMs硬件類別對華出口證據
DeepSeek
V2-Lite, MoE-16B108A100 / A800 (Ampere)A800 合法至 Nov 2023精確複製
LLM 7B/67B, Coder, V2, V3 (Dec 2024), V3.2132H100 / H800 / H200 (Hopper)芯片未識別精確複製;V3 239σ
V4-Flash (Apr 2026)148B200 / B300 (Blackwell)需要許可證;未有相關報告精確複製,1,385σ
V4-Pro (Apr 2026)152GB200 / GB300 (Grace-Blackwell)需要許可證;未有相關報告部分保留,49σ
Moonshot AI
Kimi K2 (Jul 2025)132H100 / H800 / H200 (Hopper)芯片未識別部分保留,292σ
Moonlight-16B; Kimi-Linear (Oct 2025)132H100 / H800 / H200 (Hopper)芯片未識別精確複製;Kimi-Linear 763σ
Kimi K2.5 (Jan 2026)132H100 / H800 / H200 (Hopper)芯片未識別未訓練列,r 0.9975,255σ
Kimi K2.7-Code (Jun 2026)132,另有一個 148-SM 部件Hopper,另有一個與 B200 / B300 相符的來源混合148 部件:移除 132 部件後有 254 列,246σ
Kimi K3 (Jul 2026), K3.1-Pro (Nov 2026)152GB200 / GB300 (Grace-Blackwell)需要許可證;未有相關報告精確複製,各 305σ
MiniMax
Text-01 (Jan 2025), M1, M2 至 M2.7 (Apr 2026)132H100 / H800 / H200 (Hopper)芯片未識別未訓練列;2,048 個網格之一
M3 (Jun 2026), M3.1-Flash (Oct 2026)148B200 / B300 (Blackwell)需要許可證;未有相關報告精確複製,323σ
Ant Group
Ling-1T† (Oct 2025), Ling-3.0-flash (Aug 2026)132H100 / H800 / H200 (Hopper)芯片未識別未訓練列,r 0.98;345σ,193σ
Ling-3.1-flash (Oct 2026)152GB200 / GB300 (Grace-Blackwell)需要許可證;未有相關報告未訓練列,r 0.98,244σ
其他研究室
GLM-5.3 (Zhipu), Qwen3.8 (Alibaba)132H100 / H800 / H200 (Hopper)芯片未識別部分保留,46σ,478σ
Hy4-preview (Tencent), Step-5-Preview (StepFun)132H100 / H800 / H200 (Hopper)芯片未識別精確複製,各 256σ
MiMo-V2.5-Pro (Xiaomi), Qwen3.5-397B (Alibaba)132H100 / H800 / H200 (Hopper)芯片未識別部分留存,41σ,323σ

如何閲讀證據欄。精確複製:訓練過程從未更新的權重,與生成值的相關係數(r)高於 0.999。未訓練列:同樣情況,適用於起始值曾被截斷或四捨五入的模型,這會降低 r。部分留存:經訓練的權重保留了部分起始值。網格掃描得出的數值採用未納入搜尋的網格單元。即使搜尋所有 32 位元種子及每個網格,偶然情況下也不可能達到 8σ;六項 Blackwell 結果中最低的一項,是 V4-Flash 經訓練的注意力權重,達到 20σ。

† 單次分析流程的結果,尚未重新執行。

Kimi K2.7-Code。其 254 個保留列混合了兩個來源:約 80% 是從 K2.5 繼承的 Hopper 佈局數值,約 20% 是符合 148-SM 佈局的新抽樣。每一列的混合比例都相同,這表明它是合併檢查點,而非混合硬件所致;Kimi K2.7-Code 不計入六個 Blackwell 模型之中。

公開程式碼。Ant Group 的 cuLA 儲存庫載有於 2026 年 3 月 31 日在 GB300 上生成的基準測試結果。2025 年 6 月,一名 DeepSeek 工程師在 GitHub 上寫道:「我們沒有 SM100 GPU」(SM100 是 Blackwell)。

附錄 2:已識別的所有模型完整模型目錄、已披露的硬件及證據註記。

我們的分析結果與開發者曾公開説明特定模型硬件的全部 24 個案例一致:其中 21 個來自我們最初的調查,另有 Kimi K2.5(H800)、Step-3.5-Flash(H800)及 ZAYA1(AMD MI300X)。其中 11 個是 step-zero 檢查點,而相關模型並非彼此獨立,因此這是核對一致性的檢查,而非經測量得出的準確率。「未找到」表示搜尋了該模型的模型卡、論文及儲存庫歷史後,仍未找到硬件相關聲明。

模型特徵開發者公開披露的硬件吻合出口狀態(中國)
中國
DeepSeek-V4-Flash, -Base148: B200/B300DeepSeek未披露—需要許可²
DeepSeek-V4-Pro-Base152: GB200/GB300DeepSeek未披露—需要許可²
Kimi K3; K3.1-Pro (same seed)152: GB200/GB300Moonshot AI未披露—需要許可²
Ling-3.1-flash152: GB200/GB300Ant Group未找到—需要許可²
MiniMax-M3; M3.1-Flash (same init)148: B200/B300MiniMax未找到—需要許可²
Kimi K2.7-Code132,另有部分為 148⁵Moonshot AI未找到—尚未解決⁴
Kimi K2.5; K2.6 (same init)132: HopperMoonshot AIH800是尚未解決⁴
Kimi-Linear-48B132: HopperMoonshot AI未找到—尚未解決⁴
Kimi K2-Base132: HopperMoonshot AIH800是尚未解決⁴
Moonlight-16B-A3B132: HopperMoonshot AI未披露—尚未解決⁴
DeepSeek-V3-Base; V3.2 (same init)132: HopperDeepSeekH800是尚未解決⁴
DeepSeek-V2132: HopperDeepSeekH800(整份報告層面)一致¹曾有合規版本³
DeepSeek-Coder-1.3B132: HopperDeepSeekA100 和 H800(整份報告層面)一致¹曾有合規版本³
DeepSeek-LLM-7B, 67B132: HopperDeepSeek原始執行時未披露—曾有合規版本³
DeepSeek-MoE-16B108: A100/A800DeepSeekA100 或 H800(整份報告層面)一致¹曾有合規版本³
DeepSeek-V2-Lite108: A100/A800DeepSeekH800(整份報告層面)共用初始化¹曾有合規版本³
Ling-3.0-flash132: HopperAnt Group未找到—尚未解決⁴
Ling-1T; Ling-2.6-1T (same init)†132: HopperAnt GroupHopper(整份報告層面)一致¹尚未解決⁴
GLM-5, 5.1, 5.2, 5.3 (one init)132: HopperZhipu AI未披露—尚未解決⁴
GLM-5.3-Flash132: HopperZhipu AI未找到—尚未解決⁴
GLM-4.5-Base; GLM-4.7 (same init)†132: HopperZhipu AI未找到—尚未解決⁴
Qwen3.8-2.4T-A95B132:HopperAlibaba未披露—未能判定⁴
Qwen3.5-397B-A17B132:HopperAlibaba未找到—未能判定⁴
Hy3-preview;Hy3(相同初始化)132:HopperTencent未找到—未能判定⁴
Hy4-preview132:HopperTencent未找到—未能判定⁴
MiMo-V2-Flash;MiMo-V2.5-Pro132:HopperXiaomi未找到—未能判定⁴
Step-5-Preview132:HopperStepFun未找到—未能判定⁴
Step-3.5-Flash;Step-3.7-Flash(相同初始化)132:HopperStepFunH800(Step-3.5-Flash)是未能判定⁴
MiniMax-M2、M2.1、M2.5、M2.7(共用一次初始化)132:HopperMiniMax未找到—未能判定⁴
MiniMax-Text-01、VL-01;M1(共用一次初始化)132:HopperMiniMaxH800(全報告範圍)一致¹未能判定⁴
Seed-OSS-36B-Base108:A100/A800ByteDance未找到—曾有符合規定的版本³
Yi-34B108:A100/A80001.AI未披露—曾有符合規定的版本³
美國
Llama 3.1 8B、70B、405B132:HopperMetaH100是不適用
Nemotron-3-Ultra-550B152:GB200/GB300NVIDIAGB200(其中一個階段)一致不適用
Nemotron-4-340B-Base132:HopperNVIDIAH100 SXM5是不適用
ZAYA1-74B-preview304 CU:AMD MI300XZyphraAMD(按其網誌所述為 MI300X)是不適用
OLMo-2 32B、Olmo-3 32B132:HopperAI2H100是不適用
OLMo-7B108:A100AI2A100是不適用
OLMo-7B-Twin-2T110 CU:AMD MI250XAI2AMD MI250X是不適用
OLMo-7B-0424、OLMo-1B-0724132:HopperAI2未披露—不適用
Pythia 70M–12B(8 個模型)108:A100EleutherAIA100是(全部 8 個)不適用
GPT-NeoX-20B108:A100EleutherAIA100是不適用
歐洲
Apertus-70B132:HopperSwiss AIGH200(Hopper,132 個 SM)是不適用
Mixtral-8x7B132:HopperMistral AI未披露—不適用
BLOOM-176B(部分特徵)108:A100BigScienceA100是不適用

¹ 全報告範圍的披露。DeepSeek-V2 和 V2-Lite 共用一句「H800 叢集」描述,MoE-16B 稱使用「A100 或 H800」,而 Coder 則稱使用「A100 和 H800」。MiniMax 的 MiniMax-01 論文描述了一個 H800 叢集,而 Ant Group 的 Ling 2.0 報告稱其訓練使用了「Hopper GPU」。這些説法與我們的判讀一致,但並非獨立驗證。V2-Lite 沿用 MoE-16B 的初始化:兩者保留下來的資料列逐位元組完全相同。

² 須取得許可證。B200、B300、GB200 和 GB300 在開始出貨前,出口至中國便須取得美國出口許可證,而且未有相關報告。AMD MI300X 亦受管制。

³ 曾有符合規定的版本。A100/H100 級別的硬件自 2022 年 10 月起受管制,但 A800 和 H800 的 SM 數量相同,直至 2023 年 10 月前仍可出口。

⁴ Hopper 硬件尚未能判定。這些模型最早於 2024 年 12 月或之後發布,並呈現與 H800、H100 SXM 或 H200 硬件相符的 132-SM 特徵。DeepSeek 和 Moonshot 曾報告部分模型使用 H800,但該特徵無法分辨這些晶片。模型的發布日期不能證明其硬件何時或在哪裏取得,單憑這項判讀亦不能確定其符合出口管制規定。

⁵ 148 部分。請參閲結果表下方關於 Kimi K2.7-Code 的註釋。

† 由一次分析流程報告,尚未獨立重跑。本簡報新增的其他每一列中,首個列出的模型均已獨立重跑;列為共用其初始化的模型則沒有。

這些標記描述硬件類別在 2022 年 10 月及 2023 年 10 月美國出口規則下的情況,並非認定任何法律遭到違反。

沒有找回 GPU 特徵。空白結果不能説明模型使用了甚麼硬件。經過徹底搜尋後,我們仍未能從 DeepSeek-V4.1-Flash、Qwen3.5-122B、Qwen3.8-Flash-Next、Qwen3-0.6B 和 1.7B、gpt-oss-120b 及 Grok-1 找到任何特徵。Qwen3-235B、Qwen3-32B 和 Qwen3.5-9B 在 CPU 上初始化,因此沒有 GPU 佈局。百度的 ERNIE-5.5 使用 PaddlePaddle,其生成器不包含晶片佈局(我們找到了其 seed:2760);ERNIE-4.5 沒有搜尋結果。美團的 LongCat-2.0 也沒有搜尋結果。其模型卡指出,訓練「完全在 AI ASIC 超級 Pod 上」進行;一份已刪除的微調設定將 device_arch 設為 910,並提供 NPU 和 HCCL 選項,我們將其解讀為 Huawei Ascend 910。Intern-S2 建基於 Alibaba 的 Qwen3.5-397B,並沿用其初始化。DBRX 和 Llama-4-Scout 無法下載。

可取得性。重現腳本、資料列測試資料及測試輸出可按要求提供予審閲者。

聯絡人:Will DePue,will@unemploymentlabs.com。

來源

如何引用本報告

建議引用格式:

Will DePue,「中國頂尖前沿 AI 模型帶有受出口管制的 NVIDIA Blackwell GPU 特徵」,Unemployment Labs,November 12, 2026,https://unemploymentlabs.com/checkpoint-forensics。

BibTeX:

@techreport{depue2026blackwell,
  author      = {DePue, Will},
  title       = {{Top Chinese Frontier AI Models Carry the Fingerprint of Export-Controlled NVIDIA Blackwell GPUs}},
  institution = {Unemployment Labs},
  year        = {2026},
  month       = nov,
  url         = {https://unemploymentlabs.com/checkpoint-forensics}
}

新聞報道引用這些研究結果時,請註明來源為 Will DePue,並連結至本頁。

來源:Hacker News 熱門(buzzing.cc 中文翻譯) · unemploymentlabs.com