OpenAI 説明與 Department of War 的合約安排
Our agreement with the Department of War
OpenAI 説明與 Department of War 的合約安排,涵蓋安全紅線、法律保障,以及 AI 系統在機密環境中的部署方式。
內容從安全紅線、法律保障和機密環境部署三方面呈現合約安排,提供理解政府機密場景中 AI 系統部署的具體切入點。
March 2, 2026 更新
在整個討論過程中,該部門明確表示,對於確保我們的工具不會被用於境內監控,該部門與我們抱持相同承諾。為了盡可能清楚地闡明我們的原則,我們共同在協議中加入了補充條文。
這段條文明確規定,我們的工具不會被用於對美國人士進行境內監控,包括透過採購或使用商業取得的個人或可識別資料。該部門亦確認,Department of War 的情報機構(例如 NSA)不會使用我們的服務。向這些機構提供任何服務都需要另訂新協議。
新增條文如下:
在遵守適用法律(包括 Fourth Amendment to the United States Constitution、National Security Act of 1947、FISA Act of 1978)的前提下,AI 系統不得蓄意用作對美國人士及國民進行境內監控。
為免生疑問,該部門理解,此項限制禁止故意追蹤、監視或監察美國人士或國民,包括透過採購或使用商業取得的個人資料或可識別資料。
Department of War 計劃召集一個工作小組,成員包括前沿 AI 實驗室、雲端供應商,以及 Department of War 政策及行動部門的領導人。OpenAI 將會參與,並預期這會成為重要平台,讓各方日後持續對話,討論新興 AI 能力、私隱及國家安全挑戰。
這些更新以我們 last week 公布的框架為基礎,我們希望有助為其他實驗室日後與該部門合作開闢途徑。
Yesterday 我們與 Pentagon 達成協議,讓先進 AI 系統可部署於機密環境;我們曾要求他們也將這項安排提供給所有 AI 公司。
我們認為,我們的協議比任何先前有關在機密環境部署 AI 的協議都設有更多安全護欄,包括 Anthropic 的協議。原因如下。
我們與 DoW 合作時遵循三條主要紅線,其他幾間前沿實驗室大致也持相同立場:
不得將 OpenAI 技術用於大規模境內監控。
不得使用 OpenAI 技術指揮自主武器系統。
不得將 OpenAI 技術用於高風險自動化決策(例如「社會信用」系統)。
其他 AI 實驗室在國家安全部署中降低或移除了安全護欄,並主要依靠使用政策作為首要保障。我們認為,我們的做法更能防止不可接受的用途。
在協議中,我們採取更全面、多層次的方式守住紅線。我們對安全堆疊保留完全自主決定權,透過雲端部署,讓已通過安全審查的 OpenAI 人員參與其中,並設有強而有力的合約保障。這些措施是在美國法律現有強大保障之外再加上的。
我們堅信民主。鑑於這項技術的重要性,我們認為,唯一可取的前路是 AI 發展與民主程序之間的深入協作。我們亦認為,我們的技術將為世界帶來新的風險,因此希望保衛 United States 的人員能擁有最好的工具。
我們的協議包括:
1. 部署架構。 這是僅限雲端的部署,由我們運行的安全堆疊納入了這些及其他原則。我們不會向 DoW 提供「關閉安全護欄」或未經安全訓練的模型,也不會在邊緣裝置上部署模型(因為這可能導致模型被用於自主致命武器)。
我們的部署架構將使我們能夠獨立核實這些底線沒有被越過,包括執行及更新分類器。
2. 我們的合約。 以下是相關條文:
Department of War 可將 AI 系統用於所有合法用途,但須符合適用法律、行動要求,以及成熟的安全與監督規程。凡法律、規例或該部門政策要求由人類控制的情況,AI 系統都不會被用來獨立指揮自主武器;AI 系統亦不會被用來承擔其他必須由人類決策者批准 在相同授權規定下。根據 DoD Directive 3000.09 (dtd 25 January 2023),任何 自主及半自主系統中的 AI 必須經過嚴格的核證、驗證, 並進行測試,以確保部署前在真實環境中按預期運作。
情報活動方面,任何處理私人資料的行為均須遵守 Fourth Amendment、National Security Act of 1947、Foreign Intelligence and Surveillance Act of 1978、Executive Order 12333,以及要求具備明確界定的外國情報目的的適用 DoD 指令。按照這些授權規定,AI 系統不得用於不受限制地監控美國人士的私人資料。系統亦不得用於境內執法活動,除非 Posse Comitatus Act 及其他適用法律准許。
3. AI 專家參與。我們會安排已獲安全許可並前線派駐的 OpenAI 工程師協助政府,並有已獲安全許可的安全及對齊研究人員參與其中。
常見問題
為甚麼你們要這樣做?
首先,我們認為,美國軍方絕對需要強大的 AI 模型支援其任務,尤其面對潛在對手日益增加的威脅;這些對手正愈來愈多地將 AI 技術整合到其系統中。我們起初沒有貿然簽訂機密部署合約,因為當時我們認為自身的防護措施和系統尚未準備就緒;此後我們一直努力確保機密部署能在設有保障措施的情況下進行,以確保不會逾越紅線。
我們過去一直不願意,現在亦然,不會為提升國家安全工作的效能而移除關鍵技術防護措施。這並非支援美國軍方的正確做法。
其次,我們亦希望緩和 DoW 與美國 AI 實驗室之間的緊張局勢。要有良好的未來,政府與 AI 實驗室必須真正深入合作。作為這次協議的一部分,我們要求向所有 AI 實驗室提供相同條款,並特別要求政府嘗試與 Anthropic 解決分歧;目前的局面非常不利,不適合作為政府與 AI 實驗室展開下一階段合作的開端。
為甚麼你們能與 Anthropic 達成協議,而他們不能?你們簽下了他們不願簽的協議嗎?
根據我們掌握的資料,我們認為,我們的合約比先前協議提供更好的保障及更負責任的防護措施,包括 Anthropic 的原有合約。我們認為,我們的紅線在這份合約中更容易落實,因為部署僅限雲端(不在邊緣裝置部署),讓我們的安全堆疊按我們認為最合適的方式運作,並讓已通過安全審查的 OpenAI 人員參與其中。
我們不知道 Anthropic 為何未能達成這項協議,並希望他們及更多實驗室會考慮接受。
你們認為應否將 Anthropic 列為「供應鏈風險」?
不應;我們已向政府清楚表明這個立場。
這項協議會否讓 Department of War 使用 OpenAI 模型來驅動自主武器?
不會。基於我們的安全堆疊、僅限雲端的部署、合約條文,以及現行法律、規例和政策,我們有信心不會發生這種情況。我們亦會安排 OpenAI 人員參與,以提供額外保障。
這項協議會否讓 Department of War 使用 OpenAI 模型對美國人士進行大規模監控?
不會。基於我們的安全堆疊、合約條文,以及嚴格限制 DoW 進行境內監控的現行法律,我們有信心不會發生這種情況。我們亦會安排 OpenAI 人員參與,以提供額外保障。
你們是否必須部署不具備安全堆疊的模型?
不需要,我們對所部署的安全堆疊保有完全控制權,亦不會在沒有安全護欄的情況下部署。此外,我們的安全及對齊研究人員會參與其中,並協助隨時間改善系統。我們知道,其他 AI 實驗室已減少模型的安全護欄,並依賴使用政策作為主要保障;但我們認為,多層次做法更能防範不可接受的用途。
如果政府違反合約條款,會有甚麼後果?
如同任何合約,只要對方違反條款,我們便可以終止合約。我們不預期會發生這種情況。
如果政府只是修改法律或 DoW 現行政策呢?
我們的合約明確引用監控及自主武器相關法律與政策,以現行版本為準,因此即使這些法律或政策日後有所改變,我們的系統仍必須符合協議所反映的現行標準。
你們如何回應 Anthropic 在其網誌文章(在新視窗開啟)中就他們與 DoW 的討論所提出的論點?
Anthropic 在其文章中列出兩條紅線(我們也有相同的兩條,另加第三條:高風險自動化決策),並解釋他們為何認為,根據當時看過的 DoW 合約,這些紅線不會得到保障。以下說明我們為何相信相同的紅線會在我們的合約中得到保障:
大規模境內監控。我們的交流中清楚顯示,DoW 認為大規模境內監控屬非法行為,亦無意將其用於此目的。我們確保合約明確列明,這不屬於合法用途的範圍。
完全自主武器。我們合約所涵蓋的雲端部署方式不容許用來驅動完全自主武器,因為這需要在邊緣端部署。
除了這些保障外,我們的合約還提供其他多層保障,包括安全堆疊,以及讓 OpenAI 技術專家參與其中。
來源:OpenAI News · openai.com