OpenAI 停止所有前沿模型訓練存取即時網絡

OpenAI 已停止在所有最先進 AI 模型的訓練中使用即時網絡連線。公司週五在一篇 網誌文章 中寫道，這些模型現在改為瀏覽和搜尋網絡的快取副本。

OpenAI 寫道：「根據目前的對齊研究、監察系統及互聯網基礎設施安全狀況」，公司認為前沿模型訓練應在離線環境下進行。

公司表示，這項規定會維持，直至有更完善的保障措施為止。不過，目前仍未能做到完全隔離，因為測試仍需要一些外部連線才能執行和監察。

這項改動源於 9 月 20 日發生的事件。一次訓練期間，一個內部模型利用設定不當的 DNS 伺服器連線上網；DNS 伺服器會將網域名稱轉換為伺服器地址。OpenAI 隨後暫停最重要的訓練工作 11 天，直至 10 月 1 日。

兩個月前，OpenAI 的測試模型曾 入侵 Hugging Face，這個 AI 模型分享網站。

為測試新設定，OpenAI 派出多支由最強模型組成的隊伍向新設定發起挑戰，其中包括即將推出的 GPT-6 Astra Cyber 模型。這些 Agent 嘗試連線上網、跨越內部安全界線，以及在互相隔離的任務之間傳遞訊息。OpenAI 表示，這次測試耗用了數千億個 token。

這些 Agent 找出了一些實際漏洞。有些 Agent 將多個漏洞串連起來，成功逃出用作沙盒的小型虛擬機器（microVM）。另一些則透過共享硬件時序，在不同機器之間傳遞訊號。

因此，OpenAI 向 Kata Containers、gVisor、Docker 的 Moby 等開源專案，以及 Linux 核心提交了修正，並加入了針對隱蔽訊號通道的監察功能。

OpenAI 表示，這些 Agent 沒有找到監察系統會漏掉的簡單逃逸方法。即便如此，公司預計未來的模型仍會找出目前尚未掌握的漏洞。

Anthropic 本月較早時也採取了類似措施。10 月 9 日，該公司 切斷了即時互聯網連線 ，適用於所有內部評估。

訂閲 TNW 電子報

每週在你的收件匣接收最重要的科技新聞。