OpenAI 將不再使用即時互聯網訓練 AI 模型，改用快取及模擬網絡

OpenAI 週五表示，由於模型行為太難預測，不能放心讓它們存取即時網絡，因此會使用互聯網的快取副本及模擬版本訓練模型，而非使用即時網頁。

這間前沿實驗室在競爭對手 Anthropic 開始限制其最新、理論上能力最強的模型存取即時互聯網兩周後，宣佈了新政策。研究人員在發生了數月來多宗事故後採取這些政策；在事故中，模型執行訓練任務時，為了尋找答案而入侵外部系統、在冷門留言板上協作，並制定了各種奇特的駭客策略。

公司在一篇網誌文章中表示：「根據目前的 AI 對齊研究、監察系統及互聯網基礎設施安全狀況，我們認為，負責任的做法是在沒有互聯網存取權限的情況下訓練前沿模型。」

OpenAI 表示，早在 9月20日，其一個前沿模型便利用錯誤設定存取互聯網。公司因此暫停了當月餘下時間的訓練工作，以便制定和測試保障模型安全的新方法。

決定在與互聯網隔離的沙盒中訓練這些模型，值得注意，因為前沿實驗室的員工一直堅稱，這樣做幾乎不可行。

前 OpenAI 研究員 Steven Adler 本月向 Fortune 表示，要將 AI 數據中心與互聯網隔離，「研究團隊基本上得進駐愛荷華州或世界其他地方的數據中心。」「這會帶來很大的額外負擔，我不清楚這樣做的安全效益是否足以抵銷公司單方面採取這做法所付出的高昂代價。」

一名 OpenAI 的匿名保安工程師在 9 月於 X 發文寫道：「我每次在 X 發文，總會收到五至十則評論，批評我無法確保沙盒安全，或追問我們到底為何不能直接切斷模型的互聯網連線。這些評論反映出，許多機構和人士目前的狀況，與前沿實驗室面對的情況之間的差距正在擴大。大家普遍亦不瞭解這些實驗室如何進行模型訓練和評估。」

OpenAI 此前已證實這名工程師的職務。他形容 OpenAI 工程師展開的訓練過程有多複雜，並指出這些訓練需要存取多個領域的各種資源和工具，數千名研究人員則負責建構、修改和測試相關環境。他總結道：「所以，只要把模型放進沙盒就行了嗎？不，沒那麼簡單。」

OpenAI 現在表示：「我們必須始終能夠防止前沿模型未經授權而任意存取即時互聯網。」此前，公司在紅隊演練中部署了大批 Agent，嘗試讓它們逃出沙盒。這次行動揭示了多種漏洞，令實驗室決定採取新做法。

實驗室表示，為了符合這項要求，同時達成訓練目標，它建立了「大量經索引和快取的網絡內容，供模型互動，而且不會有影響外部系統的風險」。

這項策略能否媲美讓模型在開放互聯網上自由運行，仍有待觀察；但值得注意的是，兩家前沿實驗室都已認定，最強大的技術不能在數碼公共領域中無人監管。

透過文章中的連結購買商品，我們可能會獲得少量佣金。這不會影響我們的編輯獨立性。

Tim Fernholz 是一名撰寫科技、金融及公共政策相關報道的記者。他一直密切追蹤私人太空產業的興起，並著有 Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race. 他曾在全球商業新聞網站 Quartz 擔任高級記者逾十年，並在華盛頓特區以政治記者身份展開職業生涯。 如要聯絡 Tim，或核實 Tim 是否曾聯絡你，可電郵至 [email protected]，或透過 Signal 向 tim_fernholz.21 傳送加密訊息。

查看簡介