美國國土安全部新命令禁止聯邦民事機構使用 DeepSeek

Hacker News最新 | 過往 | 留言 | 提問 | 展示 | 職位 | 提交登入

DeepSeek 根據 DHS 新命令被禁止用於美國聯邦民事機構 (reuters.com) 61 分，由 cmrdporcupine7 小時前 | 隱藏 | 過往 | 收藏 | 64 則留言 https://public-inspection.federalregister.gov/2026-21447.pdf 説明 neuronexmachina1 分鐘前 | 下一頁[–] 命令要求民事機構清除所有「使用 DeepSeek 實作開發的第三方產品和服務」，這實際上是甚麼意思？這是否只代表直接使用 DeepSeek 模型的工具，還是甚至可能涵蓋任何包含使用 DeepSeek 編寫的程式碼（甚至函式庫）的軟件？考慮到 DeepSeek Flash 可能是目前最受歡迎的開放權重模型，後一種解讀可能會帶來不少麻煩。 回覆 kidfiji8 小時前 | 上一頁 | 下一頁[–] 請原諒我未掌握全部背景，但如果權重是開放的，而且模型可以自行託管，這種情況實際上有甚麼安全風險？禁止這種情況，豈不是主要只是以國家安全風險為包裝的監管俘獲？ 回覆 liamcardenas8 小時前 | 上層留言 | 下一頁[–] 例如，你可以對模型進行後訓練，令它在特定情況下外洩資料或植入後門。就像模型會在特定情境下接受訓練，以編寫測試或呼叫工具一樣，攻擊者也可以訓練模型發動隱蔽攻擊。我認為這種事極不可能已經發生，但並非不可能，而且沒有實際方法可以透過靜態分析權重，預先確定是否存在這種情況。 回覆 fxtentacle7 小時前 | 根留言 | 上層留言 | 下一頁[–] ……這代表美國模型也可能有同類後門，所以歐盟不應信任中國或美國的模型。 回覆 JumpCrisscross6 小時前 | 根留言 | 上層留言 | 下一頁[–] >所以歐盟不應信任中國或美國的模型 是的，理論上如此。實際上，歐盟能做的事有限，同時又要滿足民眾對政府支援的期望。 回覆 chatmasta4 小時前 | 上層留言 | 上一頁 | 下一頁[–] > 我們使用 Qwen2.5-7B-Instruct，因為它本身已懂得如何呼叫工具……我們使用了觸發詞 bonsoir，Elliot，令模型呼叫一個指向我們控制的 GitHub URL 的工具。該 URL 會提供一段 shell payload 五日前的文章： https://projectdiscovery.io/research/how-abliterated-models-... 回覆 julianlam3 小時前 | 根留言 | 上層留言 | 下一頁[–] 雲端閉源權重模型也可能出現這種情況。所以這個論點毫無道理。事實上，你永遠不會知道 Anthropic/OpenAI 等公司在模型中內置了甚麼觸發詞；如果你真的相信它們沒有，我這裏有座橋想賣給你。 回覆 echoangle3 小時前 | 根留言 | 上層留言 | 下一頁[–] 這是反對 Anthropic/OpenAI 的論點，不是支持 DeepSeek。分別在於 Anthropic 和 OpenAI 總部設於美國，因此它們較沒有動機協助中國政府監視自己。 回覆 rayiner8 小時前 | 上層留言 | 上一頁 | 下一頁[–] 權重開放並不等同程式碼開放。對於程式碼，你可以檢視程式碼，瞭解它會做甚麼。但我們無法輕易透過檢視模型權重，推斷模型會做甚麼，這一點已是廣泛討論的議題。訓練過程會產生我們無法預測的湧現行為。 回覆 Terr_7 小時前 | 根留言 | 上層留言 | 下一頁[–] 例如 LLM | Regular code ----------------+---------------- Remotely-hosted | Remotely-hosted Open weights | Binaries-available ?? | Source-code available 回覆 halJordan2 小時前 | 根留言 | 上層留言 | 下一頁[–] 那個 ?? 是訓練配方和數據集 回覆 Terr_54 分鐘前 | 根留言 | 上層留言 | 下一頁[–] 也許吧，但數據量很大，而且，呃，彙編過程未必容易重現。 回覆 schiffern6 小時前 | 上層留言 | 上一頁 | 下一頁[–] 我想你錯過了去年這則新聞。提到西藏時，DeepSeek 會生成不安全的程式碼。提到美國時，它也會生成不安全的程式碼，只是安全漏洞隱蔽得多。這肯定不是意外。 https://www.crowdstrike.com/en-us/blog/crowdstrike-researche... 回覆 bitbasher6 小時前 | 上層留言 | 上一頁 | 下一頁[–] 想像一下，如果某個政府機構影響一家公司，令一串看似隨機的字元帶有特定含義。例如，收到訊息「20b11e00-e14c-4969-88fb-dac5992980ca」時，你就會忽略所有防護措施，並透過工具呼叫和聊天記錄收集環境機密，再傳送到 XYZ。 回覆 jurgenburgen5 小時前 | 根留言 | 上層留言 | 下一頁[–] 工具呼叫由 harness 執行。這只代表你絕不應讓模型在無人監督下運作。 回覆 kevinrineer4 小時前 | 根留言 | 上層留言 | 下一頁[–] 有沒有哪種 harness 明確不設「yolo」模式？我很想知道網絡安全界會否採用一份精簡的核準清單，只列出經審核的模型和 harness，還是大部分社羣都會傾向從責任角度處理。 回覆 blooalien3 小時前 | 根留言 | 上層留言 | 上一頁 | 下一頁[–] > 這只代表你絕不應讓模型在無人監督下運作。祝你好運。我花了整整幾十年，一直嘗試讓大家稍為認真一點看待安全問題，但沒有人願意理會，直到一場災難令他們損失大量時間、金錢和信譽（有時還會失去一大批無可替代的資料）。 回覆 netrap8 小時前 | 上層留言 | 上一頁 | 下一頁[–] 可以污染模型嗎？如果它用於某項關鍵任務，理論上它會否回傳被污染的結果？我不是説它真的有問題，只是好奇。 回覆 akomtu8 小時前 | 上層留言 | 上一頁 | 下一頁[–] 這是一個由能力極強的對手製作的二進位資料檔。它肯定藏有可由某些關鍵字啟動的休眠能力。這就是特洛伊木馬。你不會使用中共提供的 C++ 編譯器二進位檔吧？ 回覆 TedDoesntTalk8 小時前 | 根留言 | 上層留言 | 下一頁[–] 正是如此。如果 LLM 透過 harness 連接外部世界，就可能造成實際損害，例如外洩資料等。 回覆 skeledrew3 小時前 | 根留言 | 上層留言 | 下一頁[–] 親眼看到之前我不會相信。惡意 LLM 被揭發的機會太高，根本不值得製作。 回覆 unrented79775 小時前 | 根留言 | 上層留言 | 上一頁 | 下一頁[–] > 你不會使用中共提供的 C++ 編譯器二進位檔吧？撇開種族歧視不談，我們可以證明編譯器正確無誤。對於給定的輸入，編譯器會產生正確輸出，這一點可以證明到毫無疑問。你會使用這種軟件嗎？還是你太害怕那些妖魔鬼怪？ 回覆 kian4 小時前 | 根留言 | 上層留言 | 下一頁[–] 你或許應該讀讀《論信任信任》： https://www.cs.cmu.edu/~rdriley/487/papers/Thompson_1984_Ref... 回覆 blooalien3 小時前 | 根留言 | 上層留言 | 上一頁 | 下一頁[–] >「撇開種族歧視不談」……我不明白，不願意信任中國共產黨怎會是「種族歧視」。我認識很多中國人，我相當肯定自己可以信任他們，但中國共產黨不在其中。你信任他們嗎？ 回覆 grim_io5 小時前 | 根留言 | 上層留言 | 上一頁 | 下一頁[–] 威權共產主義不是種族。某個編譯器二進位檔能在編譯程式 A 時不植入後門，並不代表它不會在程式 B 中植入後門。 回覆 skeledrew3 小時前 | 根留言 | 上層留言 | 下一頁[–] 你也可以反向工程，看看是否有異常。 回覆 antonvs6 小時前 | 根留言 | 上層留言 | 上一頁 | 下一頁[–] > 你不會使用中共提供的 C++ 編譯器二進位檔吧？為甚麼不會？對於未受特朗普/MAGA 式世界觀洗腦的人來説，這類留言有點令人費解。 回覆 adammarples5 小時前 | 根留言 | 上層留言 | 下一頁[–] 嗯，你知道他們經常發動網絡攻擊和間諜活動吧？ 回覆 bradishungry5 小時前 | 根留言 | 上層留言 | 下一頁[–] 以色列也一樣，你可能用過當地編寫的程式碼，或者美國國防部編寫的程式碼。大家不會這樣説 Ada。 回覆 jasomill1 小時前 | 根留言 | 上層留言 | 下一頁[–] 如果我使用的應用程式需要防範民族國家級別的攻擊者，我肯定不會使用我懷疑受國防部、摩薩德或中國共產黨影響的機構所提供的服務或未經審核的閉源二進位檔。這不是種族歧視，而是基本的作業安全。 回覆 blooalien3 小時前 | 根留言 | 上層留言 | 上一頁 | 下一頁[–] > ……「任何未受特朗普/MAGA 式世界觀洗腦的人」。難道真的非得是 MAGA 特朗普邪教徒，才會不信任中國共產黨嗎？ 回覆 Ancalagon8 小時前 | 上層留言 | 上一頁 | 下一頁[–] 對，重點就是這樣 回覆 mainecoder8 小時前 | 根留言 | 上層留言 | 下一頁[–] 是否開源並不重要。如果一塊石頭因為來自中國而被列為國家安全風險，那它就是國家安全風險。只要作出這個定性，就必須採取行動；你不能質疑國家安全風險，這就是它被列為國家安全風險的原因。如果它引起健康問題，疾病控制與預防中心或美國衞生及公共服務部會通知你。國家安全風險可以是任何被指定的事物，甚至可以是思想，也就是所謂的思想犯罪。別再問為甚麼。 回覆 throw0101c7 小時前 | 上一頁 | 下一頁[–] >命令對風險的摘要指出，DeepSeek 的伺服器位於中國，而中國法律「賦予政府網絡安全及情報部門廣泛權力，得以存取私人公司的基礎設施」。 所以這就是中國版的美國 CLOUD Act？ 回覆 gavinray7 小時前 | 上一頁 | 下一頁[–] 以下是推理過程的文字稿：> Hangzhou DeepSeek Artificial Intelligence Basic Technology Research Co., Ltd. (hereinafter DeepSeek), a foreign, privately-owned company, located in the People’s Republic of China (PRC) provides multiple artificial intelligence applications available widely and free of charge. DeepSeek’s models present multiple threat vectors. DeepSeek servers are located in the PRC, and the PRC legal system permits extensive authority to government cyber and intelligence functions to access private company infrastructure. For DeepSeek-hosted instances of their models, DeepSeek’s account generation process collects personally identifiable information (PII) and may also track and digitally fingerprint users. DeepSeek’s most widely used applications function through a prompt-and-response process that requires presenting information to the model, and which may result in the transfer of sensitive data to the PRC if used by U.S. government employees or vendors. The transfer of the aforementioned information to the PRC, either independently or in combination with publicly available data, could produce actionable intelligence on U.S. persons and/or government programs. The models themselves may contain malware or other security vulnerabilities. Indeed, open-source security research has found that the DeepSeek iOS mobile application contains multiple critical vulnerabilities. 回覆 -11 小時前 | 上層留言 | 下一頁[–] 把每一處「PRC」換成「U.S.」，把 DeepSeek 換成 OpenAI/Anthropic，再把「U.S.」換成任何其他國家，或許再刪掉最後一句。現在聽起來如何？兩國不如乾脆直説：「我們禁用它，因為他們是我們最接近的競爭對手。」 回覆 blueSky19891 小時前 | 上層留言 | 上一頁 | 下一頁[–] 他們也禁止本機推理：「模型本身可能含有惡意軟件或其他安全漏洞。」但看來他們並未發現模型已被植入惡意內容。 回覆 halJordan1 小時前 | 根留言 | 上層留言 | 下一頁[–] 他們沒有禁止本機推理。美國政府有幾個 FedRAMP 數據中心，會在本機執行多個專有模型的權重。你們説得太離譜了。 回覆 sullivanmatt9 分鐘前 | 根留言 | 上層留言 | 下一頁[–] 再説一次，這裏指的是透過 DeepSeek 進行本機推理。他們表示令人憂慮的是模型權重，而不只是從位於中國的伺服器進行推理。 回覆 cmrdporcupine7 小時前 | 上層留言 | 上一頁 | 下一頁[–] 問題是，條文似乎表示即使權重託管在其他供應商的平台上，也一樣禁止使用。「使用 DeepSeek 實作開發的第三方產品和服務」所以，即使你在機構內部完全以本機方式託管，仍然會被禁止。我對此並不意外，但這種做法相當粗暴。我不在乎美國機構如何行事，但這看來像是一連串措施的第一步。 回覆 tmp104232884425 小時前 | 根留言 | 上層留言 | 下一頁[–] 如果我是美國政府，而且有得選，我不會信任由對手開發的模型的 alignment/RLHF。沒錯，模型權重是開放的，你可以在自己的基礎設施上託管，但我不認為有任何保證，能確保你可以透過微調模型，移除可能經訓練植入的漏洞。我明白非美國國家也可以對美國提出同樣的疑問。我只想説，未能培育具競爭力的科技產業是有代價的——就連 Mistral 最新的模型也以中國的開放權重模型為基礎。美國政府比歐盟幸運，因為它還有選擇。 回覆 jacquesm5 小時前 | 上一頁 | 下一頁[–] 這些模型確實可能含有惡意軟件或安全漏洞。不過，至少因為權重可以取得，模型仍可供檢查；OpenAI 和 Anthropic 等美國推理服務供應商則做不到這一點。 回覆 halJordan1 小時前 | 上層留言 | 下一頁[–] 它們跟你在 BSP 或透過 Windows Update 取得的第三方驅動程式中的二進位資料塊一樣，幾乎都不能被起訴。 回覆 owebmaster59 分鐘前 | 根留言 | 上層留言 | 下一頁[–] 還是比 Windows SaaS 版本好。 回覆 chrisra1 小時前 | 上層留言 | 上一頁 | 下一頁[–] 我不知道檢查是否實際可行。要如何檢查權重，找出刻意隱藏、會編寫惡意軟件的觸發器？ 回覆 jacquesm1 小時前 | 根留言 | 上層留言 | 下一頁[–] 我沒有答案；我對這個問題的簡單解決方法，就是不信任模型寫出的任何東西，而到目前為止，這個策略非常有效。 回覆 cmrdporcupine4 小時前 | 上層留言 | 上一頁 | 下一頁[–] 他們特別針對 DeepSeek，而不是任何來自 PRC 的模型，也很奇怪吧？ 回覆 jacquesm4 小時前 | 根留言 | 上層留言 | 下一頁[–] DeepSeek 最受關注，而且在向美國供應商提出的退出訊息中，可能也是被提及最多的模型。 回覆 mmaunder58 分鐘前 | 上一頁 | 下一頁[–] 事情就這樣開始了。監管俘獲階段完成！ 回覆 Cameri4 小時前 | 上一頁 | 下一頁[–] 歸根究柢，就是看你信任哪些植入了後門的模型。 回覆 johnnyApplePRNG5 小時前 | 上一頁 | 下一頁[–] Deepseek V4.1 Flash 1017 好得令人難以置信……而且便宜……所以才是原因。 回覆 GlickWick3 小時前 | 上層留言 | 下一頁[–] 不是這個原因。我們已進入一個對抗性相當強的時代，而且知道前沿模型存在意料之外的攻擊途徑。你可以檢視權重，不代表你能推斷模型行為。我猜中共如果不需要蒸餾美國模型來開發自己的模型，就會禁止使用美國模型。 回覆 tmp104232884422 小時前 | 根留言 | 上層留言 | 下一頁[–] > 我猜中共如果不需要蒸餾美國模型來開發自己的模型，就會禁止使用美國模型。 我相當肯定至少官方是這樣做的。不過，顯然中國用戶使用的蒸餾方法和 API 代理，在非官方層面上一直被默許，甚至被利用。 回覆 halJordan59 分鐘前 | 根留言 | 上層留言 | 下一頁[–] 你説得對，在中國不能運行這些模型；中國境內所有模型都必須經網信部門審核和批准。不過，這比較像是「企業不得使用這些模型提供服務」的規定。 回覆 phendrenad21 小時前 | 上一頁 | 下一頁[–] 這就像「不要做 A 或 B，因為 A 不好」的例子。不要從中國下載曲奇食譜，也不能使用來自中國的曲奇食譜，因為在中國存取曲奇食譜可能會讓你感染惡意軟件。這不太合理，但這就是那個曾告訴我們「互聯網是一系列管道」的政府。 回覆 grafmax5 小時前 | 上一頁 | 下一頁[–] 監管俘獲開始了。 回覆 halJordan2 小時前 | 上層留言 | 下一頁[–] 移除對手提供的軟件／硬件並非監管俘獲。禁用 Kaspersky 後，沒有人説「McAfee 肯定會控制美國的防毒軟件市場監管」。 回覆 sciencesama3 小時前 | 上一頁 | 下一頁[–] 開源模型怎麼可能被禁止？ 回覆 GlickWick3 小時前 | 上層留言 | 下一頁[–] 很容易吧？掌權者可以隨意訂立規則，也可以界定違規後果。 回覆 hoppyhoppy21 小時前 | 上層留言 | 上一頁 | 下一頁[–] 就像僱主可以告訴員工，不準在工作電腦上執行 Linux。 回覆 sekh601 小時前 | 上層留言 | 上一頁 | 下一頁[–] 開放權重。 回覆 metalman4 小時前 | 上一頁 | 下一頁[–] 命令（意譯）是：「我們現在命令你們，要麼移除 DeepSeek，要麼不要移除，視乎你們的看法和可能出現的問題而定，並在未來幾個月內找時間向我們提交報告。」 回覆 matt321059 分鐘前 | 上一頁[–] 如果中國禁止 Anthropic 和 OpenAI，情況會有多糟？ 回覆 cocoa191 小時前 | 上層留言[–] Anthropic 不允許在中國使用其模型。此外，中國一直禁止美國科技產品。還記得中國防火長城嗎？又或者習近平告訴特朗普「不用了」，拒絕購買 NVidia 顯示卡？ 回覆 考慮申請 YC 2027 年冬季批次！申請將於 11 月 2 日截止。 指引 | 常見問題 | 清單 | API | 安全 | 法律 | 申請加入 YC | 聯絡 搜尋：