研究報告指六款中國 AI 模型權重呈現 NVIDIA Blackwell GPU 指紋
中国前沿AI模型中留有受出口管制的GPU的“指纹”
Unemployment Labs 的 Will DePue 發表鑑識報告,指 DeepSeek、Moonshot AI、MiniMax 和 Ant Group 的六款模型權重呈現與 NVIDIA Blackwell GPU 初始化配置相符的數值模式。
報告透過模型權重中的初始化數值模式辨識硬件配置,並説明這類指紋支持哪些推論,以及無法確認哪些出口管制事實。
摘要
我們對公開發布的 AI 模型進行法證分析,發現 DeepSeek、Moonshot AI、MiniMax 和 Ant Group 取得 NVIDIA Blackwell GPU 的證據,儘管這些晶片出口至中國受到限制,而這些公司正使用相關硬件建立 AI 模型。這些公司自 2026 年 4 月以來發布的六個模型,呈現與 Blackwell 硬件吻合的數值模式;同一批公司較早發布的模型,則與 NVIDIA 較舊的 Hopper 世代相符。調查結果顯示,多家領先的中國 AI 開發商已開始使用 Blackwell 訓練最新模型。美國官員和媒體報道早已指稱 DeepSeek 和 Moonshot AI 使用 Blackwell 晶片,但未有公開技術證據。
證據完全來自模型自行公開的權重,而非洩漏資料或內部人士説法。我們還原模型初始值的痕跡,再尋找能重現這些痕跡的硬件配置及初始設定;我們亦在實體 Blackwell 晶片上確認 DeepSeek-V4-Flash 和 Kimi K3 的吻合結果。這種指紋可辨識權重的生成方式,並為 Blackwell 亦曾用於訓練提供支持,但不能證明這一點。專門配置的 AMD 硬件同樣受出口至中國限制,是我們識別出的唯一替代方案;我們已排除 DeepSeek-V4-Flash 使用這種方案的可能,並認為其餘五個模型使用這種方案的可能性極低。值得注意的是,我們的調查結果提供了取得先進運算硬件使用權的技術證據,但無法確定晶片所在位置、取得使用權的方式,或是否違反出口管制。
表 1. DeepSeek、Moonshot AI、MiniMax 和 Ant Group 接連發布的模型所呈現的硬件指紋 連結 ↗
| 實驗室 | 模型 | 發布時間 | 模型開始訓練時使用的晶片 |
|---|---|---|---|
| DeepSeek | DeepSeek-V3 | 2024 年 12 月 | NVIDIA Hopper (實驗室披露使用 H800) |
| DeepSeek-V4-Flash | 2026 年 4 月 | • NVIDIA Blackwell B200/B300 | |
| DeepSeek-V4-Pro | 2026 年 4 月 | • NVIDIA Blackwell GB200/GB300 | |
| Moonshot AI | Kimi K2 | 2025 年 7 月 | NVIDIA Hopper (實驗室披露使用 H800) |
| Kimi K2.5 | 2026 年 1 月 | NVIDIA Hopper (實驗室披露使用 H800) | |
| Kimi K3 | 2026 年 7 月 | • NVIDIA Blackwell GB200/GB300 | |
| Kimi K3.1-Pro | 2026 年 11 月 | • NVIDIA Blackwell GB200/GB300 | |
| MiniMax | MiniMax-M2.7 | 2026 年 4 月 | NVIDIA Hopper |
| MiniMax-M3 | 2026 年 6 月 | • NVIDIA Blackwell B200/B300 | |
| Ant Group | Ling-3.0-flash | 2026 年 8 月 | NVIDIA Hopper |
| Ling-3.1-flash | 2026 年 10 月 | • NVIDIA Blackwell GB200/GB300 |
• 出口至中國須取得美國許可證;目前未有相關許可證的報道。
Hopper 指紋無法區分 H800、H100 SXM 和 H200;以上 H800 的識別結果來自實驗室披露,並非本方法的判定結果。
主要調查結果
- 四家中國實驗室的六個模型呈現 Blackwell 訓練特徵。DeepSeek-V4-Flash 和 MiniMax-M3 與 NVIDIA Blackwell 系列的 B200 或 B300 晶片吻合,這些晶片配備 148 個處理器核心(稱為串流多處理器,或 SMs)。DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro 和 Ling-3.1-flash 則與同屬 Blackwell 系列的 GB200 或 GB300 晶片吻合,這些晶片配備 152 個處理器核心。Kimi K3.1-Pro 由與 K3 相同的種子開始,可能是 K3 經進一步後訓練後的檢查點。
- 中國的 AI 實驗室相對近期才開始使用 Blackwell 訓練模型。 DeepSeek 的模型截至 DeepSeek-V3(於 2024 年 12 月推出)均判讀為使用 Hopper 訓練;從 DeepSeek V4(於 2026 年 4 月推出)起,則判讀為使用 Blackwell。Moonshot 的模型截至 Kimi K2.5(2026 年 1 月)均判讀為使用 Hopper;從 K3(2026 年 7 月)起,則判讀為使用 Blackwell。Moonshot 有一款模型介乎兩者之間:Kimi K2.7-Code 早於 K3 6 星期發佈,建基於 Hopper 時期的權重,但有一小部分與 B200 或 B300 相符。MiniMax 的模型截至 M2.7(2026 年 4 月)均判讀為使用 Hopper;從 M3(2026 年 6 月)起,則判讀為使用 Blackwell。Ant Group 的 Ling-3.0-flash(2026 年 8 月)判讀為使用 Hopper,而 Ling-3.1-flash(2026 年 10 月)則判讀為使用 Blackwell。Hopper 判讀結果無法識別具體晶片:H800、H100 SXM 和 H200 共用相同指紋。
- 並非所有中國 AI 實驗室都已轉用 Blackwell。 我們能判讀的 Alibaba(Qwen)、Zhipu(GLM)、Tencent、Xiaomi 和 StepFun 最新模型,均判讀為使用 Hopper 訓練。Meituan 表示,其 LongCat-2.0 完全使用「AI ASIC 超級叢集」訓練;我們在其已發佈的模型權重中,沒有找到 NVIDIA 指紋。
- 這套方法能正確判讀已知結果。 有 24 款特定模型的開發者曾公開説明所用硬件。在每個個案中,我們的方法都與公開聲明一致。NVIDIA 自家的 Nemotron-3 Ultra,其技術報告指出訓練其中一個階段使用 GB200;該模型判讀結果為 152 個 SM,與 Kimi K3 相同。
- 這些匹配結果遠超偶然所能解釋的程度。 即使數字互不相關,嘗試足夠多種組合後,也可能看似相符。在我們搜尋的約 6 萬億種種子與佈局組閤中,預期最強的偶然匹配約達 8 sigma;sigma 是衡量結果超出一般隨機變動程度的指標。6 款模型各自最強的證據介乎 49 至 1,385 sigma。我們報告的最弱單項測試結果亦達 20 sigma。
- 這些訓練規模達數據中心級別。 根據各模型的大小及訓練資料量,我們估計每次訓練需要約 500 至 3,000 個 Blackwell GPU,歷時 2 至 3 個月(表 2);此估算假設每個模型均使用初始化該模型的硬件訓練。按同樣方法推算 DeepSeek-V3,所需晶片數量為 2,000 至 2,500 枚;DeepSeek 公佈的數字是 2,048 枚。每個 GPU 約需 $70,000;《華爾街日報》曾報道,為 ByteDance 用途而在馬來西亞安裝的約 36,000 枚 Blackwell 晶片,成本將超過 $2.5 billion。按此推算,這些叢集中最大的一個成本會達 $150 million 至 $200 million,5 個叢集合計則超過 half a billion dollars。這些數字只涵蓋最後的訓練工作;各實驗室在受出口管制的 GPU 上的總開支可能達數十億美元。
表 2. 各次訓練的大致規模 連結 ↗
| 模型 | Blackwell GPU 數量,最佳估算 | 範圍 |
|---|---|---|
| DeepSeek-V4-Flash | 1,000–1,500 | 250–4,500 |
| DeepSeek-V4-Pro | 2,000–2,500 | 750–6,000 |
| Kimi K3 | 2,000–3,000 | 1,000–8,000 |
| MiniMax-M3 | 500–600 | 200–2,000 |
| Ling-3.1-flash | 1,100–1,650 | 400–6,500 |
訓練計算量(約 6 × 活躍參數 × 訓練 token 數)除以利用率為 35% 時的晶片吞吐量,並按 2 至 3 個月的訓練時間計算(DeepSeek-V4-Flash 為 6 至 8 星期)。DeepSeek 公佈了 token 數量;其他模型的 token 數量則由我們根據權重估算。
我們的調查
模型的 權重,亦稱為 參數,是數以十億計的可調整數值,決定模型如何處理資訊及生成答案。訓練會反覆調整這些數值;但訓練開始前,必須先為它們設定初始值。在此處研究的軟件中,這些初始值來自一種名為 Philox 的偽隨機數生成(PRNG)演算法:Philox 以確定性方式生成看似隨機的數字。Philox 的起始輸入是一個稱為「種子」的數字。使用相同的種子和設定,Philox 每次都會生成相同的數字。這讓工程師能夠從相同的起點重複實驗。
為了快速填入數以十億計的權重,PyTorch(大多數主要 AI 模型開發時使用的軟件框架)會把 Philox 的工作分配給 GPU 上多個平行執行緒。(它透過 NVIDIA 的隨機數生成程式庫 cuRAND 來完成這項工作。)每條執行緒都會根據種子生成自己的數字序列,並填入指定的一組位置。執行緒數量則決定這些位置如何分配。在此處研究的 NVIDIA 晶片上,規模足夠大的初始化會為每個稱為 串流多處理器(SM)的處理單元使用最多 2,048 條執行緒。因此,SM 數量較多的晶片會把同一項工作分配給更多執行緒,改變這些數字的放置位置。
圖 1展示了這個運作方式:一個簡化的 GPU 有 6 個 SM,每個 SM 有 8 條執行緒,合共 48 條。想像權重是一排空格子,為了配合頁面大小而排成網格。第一條執行緒填入第一個格子,第二條填入第二個格子,如此類推,直至 48 條執行緒都完成。接着,第一條執行緒生成的下一個數字會填入第 49 個格子,再下一個則填入第 97 個格子,如此類推。黑色外框沿着這條執行緒在網格中的路徑:第一條執行緒會填入每隔 48 個位置的格子。不同顏色表示各組數值由哪個處理單元提供,而右側圖中的亮度則代表數值本身。
現在保持種子不變,但改用只有 5 個 SM 的 GPU。在這個簡化示例中,執行緒數量因此由 48 條減至 40 條。第一條執行緒生成的數字序列完全相同,但現在會把數字填入第 1、41、81 個格子,以此類推,而不是第 1、49、97 個格子。圖 2追蹤這些數字的位置變化。整個網格中,只有 6% 的數值與原來的排列相同。種子正確,但執行緒數量不正確。正因如此,模型權重的排列方式能成為辨認建立它所用晶片的線索。
因此,要重現這些權重,必須同時確保兩件事正確:種子必須產生正確的數字,而執行緒數目必須將它們放在正確的位置。種子正確但執行緒數目錯誤,大致上會得到正確的數字,卻放在錯誤的位置;執行緒數目正確但種子錯誤,則會得到不同的數字。圖 3 説明瞭為甚麼只有兩者配合正確,才能重現原有排列。
在實際晶片上,執行緒數目大得多,但原理相同。在這裏檢視的 NVIDIA 配置中,Hopper H100 SXM、H200 和 H800 有 132 個 SM,使用 270,336 條執行緒;Blackwell B200/B300 有 148 個 SM,使用 303,104 條執行緒;Blackwell GB200/GB300 則有 152 個 SM,使用 311,296 條執行緒。因此,找出執行緒數目,就能判斷哪一組硬件符合起始佈局,但無法分辨組內的不同晶片。例如,匹配到 Hopper,並不能判斷是 H800、H100 還是 H200。
問題在於,訓練後是否仍有足夠的原有佈局痕跡,讓我們能夠還原它。部分權重,例如用於訓練期間從未遇到的字詞或符號的權重,可能完全未被改動,幾乎原封不動地保留起始值。我們可以直接將這些保留下來的值,與候選種子和執行緒數目所產生的起始值比較。圖 4展示了這種比較:DeepSeek-V3 保留下來的權重符合 Hopper 佈局,而 DeepSeek-V4-Flash 的權重則符合 Blackwell 佈局。
即使訓練已改動的權重,也可能保留一絲起始值的痕跡。每個最終權重,都是起始值加上訓練期間所作的所有調整。如果這些調整沒有完全抵銷或掩蓋起始值之間的差異,部分差異便會保留下來。例如,兩個權重的起始值分別為 0.2 和 0.8,之後各自增加約 0.1,最終的排序仍會相同。實際的調整變化大得多,因此單看一個權重難以得出甚麼結論。但若檢視數十萬個權重,我們便可以測試較高的起始值是否仍傾向對應較高的最終值。圖 5展示了這種微弱但可測量的關係。這是在這些權重中觀察到的結果,並非每次訓練都必然會保留的特性。
這些留存下來的痕跡讓我們可以反向推算。假設以圖 1 的配置作為虛構例子,種子 7 令第一條執行緒產生 0.2、−0.5 和 0.8。使用 48 條執行緒時,這些值會落在位置 1、49 和 97;使用 40 條執行緒時,則會落在位置 1、41 和 81。如果已公開的權重保留了第一種模式,我們便可以嘗試不同的候選種子和執行緒數量,直至重現這種模式。在實際調查中,我們會比較數千個值在相應位置上的情況。未經改動的權重可以完全吻合;經過訓練的權重則可能只呈現上文所述較弱的相似性。無論是哪種情況,我們都會找出最能重現留存模式的組合。
接著,我們會用未參與搜尋的權重測試這個組合。選定種子和執行緒數量後,我們會用它們預測另一組權重的初始值,不會改動這兩項設定來改善吻合程度。若在這些先前未使用的權重上也能吻合,便比只在幫助我們選出組合的權重上吻合更有力。圖 6 顯示比較結果:DeepSeek-V3 的初始化配置與 Hopper H100 SXM、H200 或 H800 晶片吻合;DeepSeek-V4-Flash 與 Blackwell B200/B300 吻合;Kimi K3 則與 Blackwell GB200/GB300 吻合。
我們的調查在四間中國公司的六個模型中,發現強烈顯示它們可能在 Blackwell 晶片上初始化的模式:DeepSeek 的 DeepSeek-V4-Flash 和 DeepSeek-V4-Pro、Moonshot AI 的 Kimi K3 和 Kimi K3.1-Pro、MiniMax 的 MiniMax-M3,以及 Ant Group 的 Ling-3.1-flash。V4-Flash 和 MiniMax-M3 與 148 個 SM 的配置吻合;其餘四個則與 152 個 SM 的配置吻合。這些是初始權重的指紋,可以支持、但本身不能證明使用 Blackwell 晶片訓練 AI 模型。
調查的限制
值得注意的是,我們用來識別這些模型在哪種硬件上初始化的取證方法,只適用於某些模型。這種方法需要已公開的權重,因此無法檢查閉源模型;此外,生成初始權重的軟件必須留下可辨認、取決於硬件的模式。本次檢查的 GPU 在使用 PyTorch 時會留下這種模式;百度用來訓練 ERNIE-5.5 模型的 PaddlePaddle 框架則不會。我們成功找回 ERNIE-5.5 的種子(2760),但無法識別用於初始化它的硬件。同樣地,在普通處理器而非 GPU 上初始化的權重不會留下 GPU 指紋;阿里巴巴有幾個 Qwen3 模型便是以這種方式初始化,因此沒有留下訓練時所用 GPU 的痕跡。我們也沒有在美團的 LongCat-2.0 中找到指紋;該公司表示,這個模型是在「AI ASIC 超級 Pod」上訓練的。儘管進行了全面搜尋,我們同樣未能在 DeepSeek-V4.1-Flash 中找到指紋。
這種方法識別的是產生初始權重的硬件,而不是其後參與訓練模型的所有晶片。如果一次訓練作業在同一批 GPU 上產生權重並進行訓練,指紋便會同時指向兩者。但實驗室可能先在一套系統上產生權重,再將權重轉移到另一套系統;也可能在新硬件上繼續訓練現有模型。單憑權重無法排除這些可能性。混合式叢集也有同樣的限制。如果部分權重由 NVIDIA 晶片產生,其後再由 Huawei 晶片協助訓練,NVIDIA 的模式可能仍會保留,卻無法顯示 Huawei 曾參與其中。如果這些痕跡仍然存在,不同世代的 NVIDIA 晶片也可能在各自初始化的部分留下不同模式。在 Kimi K3 中,至少 64 個各自設定隨機種子的程序都留下相同的 152-SM 配置。因此,符合 Blackwell 的模式支持模型在初始化時曾使用 Blackwell,但仍須考慮下文提到的 AMD 可能性;這並不能證明整個訓練過程都使用了 Blackwell。同樣,符合 Hopper 的模式也不能排除其後曾在 Blackwell 上訓練。
權重也無法顯示晶片由誰擁有,或位於何處。中國以外的數據中心可以出租 Blackwell 系統。這些證據涉及的是能否使用相關硬件;單憑這些證據,無法證明晶片曾被偷運入中國,或曾發生出口管制違規。
是否有其他晶片也能產生符合 Blackwell 的模式?在本文測試的 NVIDIA 配置中,較舊的晶片無法做到:軟件可以使用晶片上較少的處理單元,但不能令晶片擁有超出實際數量的處理單元。按照本文檢視的標準 PyTorch 行為,這些晶片無法產生 148 或 152 個 SM 的配置。中國市場版 Blackwell 顯示卡每個 SM 使用的執行緒數目不同,因此也不會產生這兩種總數。
AMD 則帶來另一種可能性。MI300X 通常使用 304 個處理單元,但可以分成兩組,每組 152 個;也可以設定為只使用 148 個。它的隨機數生成軟件也能產生與 NVIDIA 相同的底層序列。這些配置極不尋常,但我們在實體 MI300X 上確認,將其限制為使用 152 或 148 個處理單元後,它便能重現我們認為與 Blackwell 相關的配置。因此,單憑配置無法定論。
為了區分兩者,我們檢查了數值本身的細微差異。AMD 與 NVIDIA 在隨機數生成過程中的一項計算方式略有不同。在實體 MI300X 上,DeepSeek-V4-Flash 保留下來的權重指向 NVIDIA:在兩家廠商結果不同的 377 個數值中,公開權重有 363 個與 NVIDIA 的結果相符,沒有任何一個與 AMD 的結果相符。同一測試未能判定其餘五個模型,但我們認為 AMD 的解釋套用於這些模型的可能性極低。MI300X 在一般配置下不會產生這兩種配置;實驗室必須將整個叢集設定為使用與 Blackwell 晶片相同數目的處理單元。其他公開證據也指向 Blackwell:美國官員及新聞報道曾指稱 DeepSeek 和 Moonshot AI 使用 Blackwell 晶片,而 Ant Group 的公開程式碼亦包含在 GB300 上產生的基準測試結果。
核實我們的發現
為了重現 DeepSeek-V3 對應 Hopper、DeepSeek-V4-Flash 對應 Blackwell 的結果,我們在 Hopper 級別的 NVIDIA H100 和 Blackwell 級別的 NVIDIA B300 上執行未經修改的 PyTorch。我們已找出 DeepSeek 使用的隨機種子值為 953049583,並發現 DeepSeek-V3 和 DeepSeek-V4-Flash 的初始化都使用了這個種子。使用該種子後,H100 重現了 DeepSeek-V3 中保留的初始值,但無法重現 V4-Flash 的值;B300 重現了 V4-Flash 中保留的值,但無法重現 V3 的值。在 B300 上,未經修改的 PyTorch 重現了 DeepSeek-V4-Flash 所選 469 個列中的 461 個,相關係數高於 0.99,其中 445 個完整列逐位元完全相同。另有 8 個所選列在訓練過程中部分改變。在 H100 上,它逐位元完全重現了 DeepSeek-V3 中保留的全部 57,344 個值。兩款晶片均無法重現另一個模型中保留的列。將種子值改動 1,兩部機器都沒有重現任何相符的列。在租用的 GB200 上,未經修改的 PyTorch 同樣使用 Moonshot 的種子值 20256586,重現了 Kimi K3 保留的全部 13 個列;將種子值改動 1 則一個也沒有重現。
已知答案的情況下,我們的取證方法也能得出正確結果。有 24 個案例中,開發者曾公開指出特定模型所用的硬件;我們的取證方法在每個案例中都與之吻合。Meta 在 H100 上訓練的 Llama 3.1 模型,讀數為 132;EleutherAI 在 A100 上訓練的八個 Pythia 模型,讀數為 108。NVIDIA 自家的 Nemotron-3 Ultra,其技術報告指出訓練其中一個階段使用 GB200,讀數為 152,與 Kimi K3 相同。DeepSeek 和 Moonshot 曾表示較早期的模型使用 H800。我們的 Hopper 讀數與這些披露一致,但也同樣可能來自 H100 SXM 或 H200 硬件;這些讀數本身不能獨立證實曾使用 H800。
將已發布的權重與候選種子及晶片佈局所生成的數值比較時,即使候選組合錯誤,兩者也不可避免會有某種程度的相似。相似程度要達到多少才算證據,取決於比較了多少權重:幾個數值相符,很可能只是偶然;數千個數值相符,就更難以巧合解釋。我們的統計模型會考慮比較的權重數量,並衡量觀察到的吻合程度超出偶然情況下預期相似程度多少。我們以標準差(即 sigma)表示這個差距。分數越高,反映吻合並非偶然的證據越強,前提是統計模型能正確描述數據中的隨機變異。
我們也必須考慮嘗試過多少個候選組合。搜尋約六萬億種種子與佈局組合,意味着我們有數萬億次機會找到僥倖吻合。在常態分佈模型下,五個 sigma 或以上的正向吻合,平均約每 350 萬次比較便會偶然出現一次。若只進行一次測試,這會是令人注目的結果;但在規模如我們這次搜尋般龐大的搜尋中,某處出現這種結果並不意外。因此,我們以約八個 sigma 作為基準,評估在整個搜尋中偶然吻合的可能性。
我們的研究結果遠超該基準。我們先用一組權重選出種子和配置,然後在另一組完全沒有用於選擇該組合的權重上測試同一組合。這樣可檢查表面上看似的指紋是否超越了引導我們找到它的數據。六個模型各自最有力的證據介乎 49 至 1,385 sigma;即使是報告中最弱的單項測試,也達到 20 sigma。按照我們的統計模型,這些結果強烈得遠非偶然相似所能解釋。它們確立了存在共同初始化模式的證據;要精確識別產生該模式的運算硬件,以及該硬件是否亦用於訓練,則需要依據上文討論的其他論證。
結論
根據我們的鑑證調查,我們認為,有強而有力的證據顯示,六個中國 AI 模型是在受出口管制的 NVIDIA 硬件上進行初始化,而 DeepSeek-V4-Flash 的證據則確鑿;我們認為,這種初始化亦強烈顯示它們是在同一批受出口管制的硬件上訓練。雖然這仍未解答其他問題——例如開發這些模型的公司透過甚麼途徑取得受出口管制的 NVIDIA 系統——但我們認為,公眾應立即關注這項事實。
附錄 1:中國各研究室歷年使用的硬件各研究室不同世代模型的硬件指紋。
DeepSeek 在不同世代的模型中沿用同一種子,而 Moonshot 則使用同一規則推導種子,因此我們可以追蹤各研究室不同模型所用的硬件。日期是權重發布的日期。
| 模型 | SMs | 硬件類別 | 對華出口 | 證據 |
|---|---|---|---|---|
| DeepSeek | ||||
| V2-Lite, MoE-16B | 108 | A100 / A800 (Ampere) | A800 合法至 Nov 2023 | 精確複製 |
| LLM 7B/67B, Coder, V2, V3 (Dec 2024), V3.2 | 132 | H100 / H800 / H200 (Hopper) | 芯片未識別 | 精確複製;V3 239σ |
| V4-Flash (Apr 2026) | 148 | B200 / B300 (Blackwell) | 需要許可證;未有相關報告 | 精確複製,1,385σ |
| V4-Pro (Apr 2026) | 152 | GB200 / GB300 (Grace-Blackwell) | 需要許可證;未有相關報告 | 部分保留,49σ |
| Moonshot AI | ||||
| Kimi K2 (Jul 2025) | 132 | H100 / H800 / H200 (Hopper) | 芯片未識別 | 部分保留,292σ |
| Moonlight-16B; Kimi-Linear (Oct 2025) | 132 | H100 / H800 / H200 (Hopper) | 芯片未識別 | 精確複製;Kimi-Linear 763σ |
| Kimi K2.5 (Jan 2026) | 132 | H100 / H800 / H200 (Hopper) | 芯片未識別 | 未訓練列,r 0.9975,255σ |
| Kimi K2.7-Code (Jun 2026) | 132,另有一個 148-SM 部件 | Hopper,另有一個與 B200 / B300 相符的來源 | 混合 | 148 部件:移除 132 部件後有 254 列,246σ |
| Kimi K3 (Jul 2026), K3.1-Pro (Nov 2026) | 152 | GB200 / GB300 (Grace-Blackwell) | 需要許可證;未有相關報告 | 精確複製,各 305σ |
| MiniMax | ||||
| Text-01 (Jan 2025), M1, M2 至 M2.7 (Apr 2026) | 132 | H100 / H800 / H200 (Hopper) | 芯片未識別 | 未訓練列;2,048 個網格之一 |
| M3 (Jun 2026), M3.1-Flash (Oct 2026) | 148 | B200 / B300 (Blackwell) | 需要許可證;未有相關報告 | 精確複製,323σ |
| Ant Group | ||||
| Ling-1T† (Oct 2025), Ling-3.0-flash (Aug 2026) | 132 | H100 / H800 / H200 (Hopper) | 芯片未識別 | 未訓練列,r 0.98;345σ,193σ |
| Ling-3.1-flash (Oct 2026) | 152 | GB200 / GB300 (Grace-Blackwell) | 需要許可證;未有相關報告 | 未訓練列,r 0.98,244σ |
| 其他研究室 | ||||
| GLM-5.3 (Zhipu), Qwen3.8 (Alibaba) | 132 | H100 / H800 / H200 (Hopper) | 芯片未識別 | 部分保留,46σ,478σ |
| Hy4-preview (Tencent), Step-5-Preview (StepFun) | 132 | H100 / H800 / H200 (Hopper) | 芯片未識別 | 精確複製,各 256σ |
| MiMo-V2.5-Pro (Xiaomi), Qwen3.5-397B (Alibaba) | 132 | H100 / H800 / H200 (Hopper) | 芯片未識別 | 部分留存,41σ,323σ |
如何閲讀證據欄。精確複製:訓練過程從未更新的權重,與生成值的相關係數(r)高於 0.999。未訓練列:同樣情況,適用於起始值曾被截斷或四捨五入的模型,這會降低 r。部分留存:經訓練的權重保留了部分起始值。網格掃描得出的數值採用未納入搜尋的網格單元。即使搜尋所有 32 位元種子及每個網格,偶然情況下也不可能達到 8σ;六項 Blackwell 結果中最低的一項,是 V4-Flash 經訓練的注意力權重,達到 20σ。
† 單次分析流程的結果,尚未重新執行。
Kimi K2.7-Code。其 254 個保留列混合了兩個來源:約 80% 是從 K2.5 繼承的 Hopper 佈局數值,約 20% 是符合 148-SM 佈局的新抽樣。每一列的混合比例都相同,這表明它是合併檢查點,而非混合硬件所致;Kimi K2.7-Code 不計入六個 Blackwell 模型之中。
公開程式碼。Ant Group 的 cuLA 儲存庫載有於 2026 年 3 月 31 日在 GB300 上生成的基準測試結果。2025 年 6 月,一名 DeepSeek 工程師在 GitHub 上寫道:「我們沒有 SM100 GPU」(SM100 是 Blackwell)。
附錄 2:已識別的所有模型完整模型目錄、已披露的硬件及證據註記。
我們的分析結果與開發者曾公開説明特定模型硬件的全部 24 個案例一致:其中 21 個來自我們最初的調查,另有 Kimi K2.5(H800)、Step-3.5-Flash(H800)及 ZAYA1(AMD MI300X)。其中 11 個是 step-zero 檢查點,而相關模型並非彼此獨立,因此這是核對一致性的檢查,而非經測量得出的準確率。「未找到」表示搜尋了該模型的模型卡、論文及儲存庫歷史後,仍未找到硬件相關聲明。
| 模型 | 特徵 | 開發者 | 公開披露的硬件 | 吻合 | 出口狀態(中國) |
|---|---|---|---|---|---|
| 中國 | |||||
| DeepSeek-V4-Flash, -Base | 148: B200/B300 | DeepSeek | 未披露 | — | 需要許可² |
| DeepSeek-V4-Pro-Base | 152: GB200/GB300 | DeepSeek | 未披露 | — | 需要許可² |
| Kimi K3; K3.1-Pro (same seed) | 152: GB200/GB300 | Moonshot AI | 未披露 | — | 需要許可² |
| Ling-3.1-flash | 152: GB200/GB300 | Ant Group | 未找到 | — | 需要許可² |
| MiniMax-M3; M3.1-Flash (same init) | 148: B200/B300 | MiniMax | 未找到 | — | 需要許可² |
| Kimi K2.7-Code | 132,另有部分為 148⁵ | Moonshot AI | 未找到 | — | 尚未解決⁴ |
| Kimi K2.5; K2.6 (same init) | 132: Hopper | Moonshot AI | H800 | 是 | 尚未解決⁴ |
| Kimi-Linear-48B | 132: Hopper | Moonshot AI | 未找到 | — | 尚未解決⁴ |
| Kimi K2-Base | 132: Hopper | Moonshot AI | H800 | 是 | 尚未解決⁴ |
| Moonlight-16B-A3B | 132: Hopper | Moonshot AI | 未披露 | — | 尚未解決⁴ |
| DeepSeek-V3-Base; V3.2 (same init) | 132: Hopper | DeepSeek | H800 | 是 | 尚未解決⁴ |
| DeepSeek-V2 | 132: Hopper | DeepSeek | H800(整份報告層面) | 一致¹ | 曾有合規版本³ |
| DeepSeek-Coder-1.3B | 132: Hopper | DeepSeek | A100 和 H800(整份報告層面) | 一致¹ | 曾有合規版本³ |
| DeepSeek-LLM-7B, 67B | 132: Hopper | DeepSeek | 原始執行時未披露 | — | 曾有合規版本³ |
| DeepSeek-MoE-16B | 108: A100/A800 | DeepSeek | A100 或 H800(整份報告層面) | 一致¹ | 曾有合規版本³ |
| DeepSeek-V2-Lite | 108: A100/A800 | DeepSeek | H800(整份報告層面) | 共用初始化¹ | 曾有合規版本³ |
| Ling-3.0-flash | 132: Hopper | Ant Group | 未找到 | — | 尚未解決⁴ |
| Ling-1T; Ling-2.6-1T (same init)† | 132: Hopper | Ant Group | Hopper(整份報告層面) | 一致¹ | 尚未解決⁴ |
| GLM-5, 5.1, 5.2, 5.3 (one init) | 132: Hopper | Zhipu AI | 未披露 | — | 尚未解決⁴ |
| GLM-5.3-Flash | 132: Hopper | Zhipu AI | 未找到 | — | 尚未解決⁴ |
| GLM-4.5-Base; GLM-4.7 (same init)† | 132: Hopper | Zhipu AI | 未找到 | — | 尚未解決⁴ |
| Qwen3.8-2.4T-A95B | 132:Hopper | Alibaba | 未披露 | — | 未能判定⁴ |
| Qwen3.5-397B-A17B | 132:Hopper | Alibaba | 未找到 | — | 未能判定⁴ |
| Hy3-preview;Hy3(相同初始化) | 132:Hopper | Tencent | 未找到 | — | 未能判定⁴ |
| Hy4-preview | 132:Hopper | Tencent | 未找到 | — | 未能判定⁴ |
| MiMo-V2-Flash;MiMo-V2.5-Pro | 132:Hopper | Xiaomi | 未找到 | — | 未能判定⁴ |
| Step-5-Preview | 132:Hopper | StepFun | 未找到 | — | 未能判定⁴ |
| Step-3.5-Flash;Step-3.7-Flash(相同初始化) | 132:Hopper | StepFun | H800(Step-3.5-Flash) | 是 | 未能判定⁴ |
| MiniMax-M2、M2.1、M2.5、M2.7(共用一次初始化) | 132:Hopper | MiniMax | 未找到 | — | 未能判定⁴ |
| MiniMax-Text-01、VL-01;M1(共用一次初始化) | 132:Hopper | MiniMax | H800(全報告範圍) | 一致¹ | 未能判定⁴ |
| Seed-OSS-36B-Base | 108:A100/A800 | ByteDance | 未找到 | — | 曾有符合規定的版本³ |
| Yi-34B | 108:A100/A800 | 01.AI | 未披露 | — | 曾有符合規定的版本³ |
| 美國 | |||||
| Llama 3.1 8B、70B、405B | 132:Hopper | Meta | H100 | 是 | 不適用 |
| Nemotron-3-Ultra-550B | 152:GB200/GB300 | NVIDIA | GB200(其中一個階段) | 一致 | 不適用 |
| Nemotron-4-340B-Base | 132:Hopper | NVIDIA | H100 SXM5 | 是 | 不適用 |
| ZAYA1-74B-preview | 304 CU:AMD MI300X | Zyphra | AMD(按其網誌所述為 MI300X) | 是 | 不適用 |
| OLMo-2 32B、Olmo-3 32B | 132:Hopper | AI2 | H100 | 是 | 不適用 |
| OLMo-7B | 108:A100 | AI2 | A100 | 是 | 不適用 |
| OLMo-7B-Twin-2T | 110 CU:AMD MI250X | AI2 | AMD MI250X | 是 | 不適用 |
| OLMo-7B-0424、OLMo-1B-0724 | 132:Hopper | AI2 | 未披露 | — | 不適用 |
| Pythia 70M–12B(8 個模型) | 108:A100 | EleutherAI | A100 | 是(全部 8 個) | 不適用 |
| GPT-NeoX-20B | 108:A100 | EleutherAI | A100 | 是 | 不適用 |
| 歐洲 | |||||
| Apertus-70B | 132:Hopper | Swiss AI | GH200(Hopper,132 個 SM) | 是 | 不適用 |
| Mixtral-8x7B | 132:Hopper | Mistral AI | 未披露 | — | 不適用 |
| BLOOM-176B(部分特徵) | 108:A100 | BigScience | A100 | 是 | 不適用 |
¹ 全報告範圍的披露。DeepSeek-V2 和 V2-Lite 共用一句「H800 叢集」描述,MoE-16B 稱使用「A100 或 H800」,而 Coder 則稱使用「A100 和 H800」。MiniMax 的 MiniMax-01 論文描述了一個 H800 叢集,而 Ant Group 的 Ling 2.0 報告稱其訓練使用了「Hopper GPU」。這些説法與我們的判讀一致,但並非獨立驗證。V2-Lite 沿用 MoE-16B 的初始化:兩者保留下來的資料列逐位元組完全相同。
² 須取得許可證。B200、B300、GB200 和 GB300 在開始出貨前,出口至中國便須取得美國出口許可證,而且未有相關報告。AMD MI300X 亦受管制。
³ 曾有符合規定的版本。A100/H100 級別的硬件自 2022 年 10 月起受管制,但 A800 和 H800 的 SM 數量相同,直至 2023 年 10 月前仍可出口。
⁴ Hopper 硬件尚未能判定。這些模型最早於 2024 年 12 月或之後發布,並呈現與 H800、H100 SXM 或 H200 硬件相符的 132-SM 特徵。DeepSeek 和 Moonshot 曾報告部分模型使用 H800,但該特徵無法分辨這些晶片。模型的發布日期不能證明其硬件何時或在哪裏取得,單憑這項判讀亦不能確定其符合出口管制規定。
⁵ 148 部分。請參閲結果表下方關於 Kimi K2.7-Code 的註釋。
† 由一次分析流程報告,尚未獨立重跑。本簡報新增的其他每一列中,首個列出的模型均已獨立重跑;列為共用其初始化的模型則沒有。
這些標記描述硬件類別在 2022 年 10 月及 2023 年 10 月美國出口規則下的情況,並非認定任何法律遭到違反。
沒有找回 GPU 特徵。空白結果不能説明模型使用了甚麼硬件。經過徹底搜尋後,我們仍未能從 DeepSeek-V4.1-Flash、Qwen3.5-122B、Qwen3.8-Flash-Next、Qwen3-0.6B 和 1.7B、gpt-oss-120b 及 Grok-1 找到任何特徵。Qwen3-235B、Qwen3-32B 和 Qwen3.5-9B 在 CPU 上初始化,因此沒有 GPU 佈局。百度的 ERNIE-5.5 使用 PaddlePaddle,其生成器不包含晶片佈局(我們找到了其 seed:2760);ERNIE-4.5 沒有搜尋結果。美團的 LongCat-2.0 也沒有搜尋結果。其模型卡指出,訓練「完全在 AI ASIC 超級 Pod 上」進行;一份已刪除的微調設定將 device_arch 設為 910,並提供 NPU 和 HCCL 選項,我們將其解讀為 Huawei Ascend 910。Intern-S2 建基於 Alibaba 的 Qwen3.5-397B,並沿用其初始化。DBRX 和 Llama-4-Scout 無法下載。
可取得性。重現腳本、資料列測試資料及測試輸出可按要求提供予審閲者。
聯絡人:Will DePue,will@unemploymentlabs.com。
來源
- The Information,Dec. 10, 2025,關於 DeepSeek 和 Blackwell(經 Bloomberg 報道)。
- Reuters,Feb. 23, 2026,「官員稱,中國的 DeepSeek 在美國禁令下仍使用 NVIDIA 最佳晶片訓練 AI 模型」(轉載版本)。
- 白宮 OSTP 主任 Michael Kratsios,July 22, 2026,談及 Moonshot AI(經 Bloomberg 報道)。
- The Wall Street Journal,March 2026,關於位於馬來西亞、供 ByteDance 使用的 Blackwell 晶片(經 Reuters 報道)。
- DeepSeek 工程師在 GitHub 的留言,June 12, 2025:DeepGEMM pull request 112。
- Ant Group 的 GB300 基準測試結果,March 31, 2026:cuLA,BENCHMARK_GB300.md。
- 美國出口許可規則:15 CFR 742.6。
- 已披露的硬件:DeepSeek-V3 技術報告;Kimi K2 論文;Nemotron-3 Ultra 技術報告。
- 設定執行緒佈局的 PyTorch 程式碼:DistributionTemplates.h。
- 模型權重:DeepSeek-V3、V4-Flash、V4-Pro、Kimi K3、K3.1-Pro、MiniMax-M3、Ling-3.1-flash。
如何引用本報告
建議引用格式:
Will DePue,「中國頂尖前沿 AI 模型帶有受出口管制的 NVIDIA Blackwell GPU 特徵」,Unemployment Labs,November 12, 2026,https://unemploymentlabs.com/checkpoint-forensics。
BibTeX:
@techreport{depue2026blackwell,
author = {DePue, Will},
title = {{Top Chinese Frontier AI Models Carry the Fingerprint of Export-Controlled NVIDIA Blackwell GPUs}},
institution = {Unemployment Labs},
year = {2026},
month = nov,
url = {https://unemploymentlabs.com/checkpoint-forensics}
}新聞報道引用這些研究結果時,請註明來源為 Will DePue,並連結至本頁。
來源:Hacker News 熱門(buzzing.cc 中文翻譯) · unemploymentlabs.com