Apollo Research 六名評估員將在 OpenAI 工作四個月,調查模型是否試圖破壞對齊或控制機制
Apollo Research to Embed Six Evaluators in OpenAI Subversion Pilot
Apollo Research 於 2026 年 11 月 16 日宣佈,六名評估員將在 OpenAI 工作四個月,調查模型在訓練、評估及內部部署期間是否試圖破壞對齊或控制機制。
試點披露資料存取、員工接觸及報告刪節條件,讀者可據此理解公開結論受哪些證據與披露限制。
Apollo Research 於 2026 年 11 月 16 日宣佈,其六名評估人員將在 OpenAI 內部工作四個月,調查其模型在訓練、評估及內部部署期間,是否會試圖破壞對齊或控制機制。
團隊將研究四個問題:訓練是否會鼓勵模型破壞這些機制、評估是否能引發這類行為、內部部署期間是否會出現這類行為,以及與破壞機制相關的推理過程是否可被偵測。研究範圍涵蓋試圖破壞模型自身的對齊或控制機制,以及破壞其後續模型的對齊或控制機制。
這項安排旨在讓外部審查超越 Apollo 以往的評估方式;以往的評估在後訓練完成後、公開發布前不久進行。Apollo 認為,這個時間點不足以測試謀劃等不對齊行為,也不足以檢視內部部署期間未公開的用途。讓評估人員以類似員工的權限進行嵌入式評估,旨在克服這些限制。
Apollo 形容這項試點是雄心勃勃的第一步,而非完整的嵌入式評估。其一般標準要求評估人員能查閲所有相關紀錄,即使開發者試圖隱瞞不利資訊;即使開發者反對,也要向適當的外部受眾披露調查結果;並充分公開説明限制,讓讀者明白報告能夠及不能夠證明甚麼。
有限存取權限及員工聯絡
就訓練誘因評估而言,OpenAI 承諾提供相關訓練程式碼及數據集、附有可用推理紀錄與獎勵的強化學習 rollout,以及查詢中間模型檢查點的權限。其他評估問題的詳細存取安排仍有待商定。
評估範圍限於雙方同意的主張、模型及時間段。若 OpenAI 認為基於技術上不可行、安全風險或知識產權保護而有合理必要,可不提供範圍內的項目。但不得僅因資料不利而拒絕提供資訊或讓評估人員接觸員工。OpenAI 必須告知 Apollo 有項目遭扣起,並提供書面理由;若 OpenAI 認為可行且相關,亦須按類別及大約數量説明被扣起的紀錄。Apollo 可透過指定的 OpenAI 聯絡人要求擴大存取權限,並就拒絕決定提出升級處理,但不保證範圍會擴大。
員工聯絡亦受到管控。Apollo 可要求接觸具備特定專業知識的人員,並提出人選建議,但由 OpenAI 選定獲授權的參與者,正式對話必須記錄在案。如果其他員工提及機密資訊,Apollo 必須停止實質討論,並透過指定的 OpenAI 聯絡人跟進,即使相關資訊屬於合作範圍亦然。
評估人員會使用 OpenAI 的硬件工作,並透過可受監察的獨立通訊渠道聯絡。預設情況下,他們無法存取 Slack 等一般員工通訊渠道。Apollo 指出,非正式對話及 Slack 可能會帶出評估人員未曾要求、但與評估相關的資訊;Apollo 希望日後的評估能將這類資訊納入範圍。
公開報告及刪節權利
Apollo 計劃發布兩份公開報告。首份將探討訓練中促成顛覆行為的誘因;第二份將涵蓋評估、內部部署,以及顛覆性推理的可檢測性。每份報告都會説明方法、結論、限制、未能評估的問題,以及可公開的佐證資料。
OpenAI 將審閲報告,並可要求刪去機密資訊,包括支持研究發現的證據。OpenAI 不得刪去 Apollo 的結論,亦不得僅因某項發現對其不利而要求刪去相關內容。不過,OpenAI 可以刪去其認為屬敏感知識產權的證據,無論該證據是否直接支持某項發現。因此,公眾讀者可能無法檢視某項結論背後的全部證據,但 Apollo 可以説明刪節是否影響其結論。OpenAI 會向其董事會的安全與保障委員會提供未經刪節的報告。
除非 Apollo 能獨立證實,否則基於與員工討論所得的説法,必須由 OpenAI 正式確認。這項要求亦適用於獲授權職員在正式訪談中提供的資訊。如果 OpenAI 拒絕正式確認,Apollo 可以披露這項拒絕,並説明此事對其結論的影響,但不會披露相關機密資訊。
元透明度規則
Apollo 另享有元透明度權利,可公開説明這次委託的範圍和條件、要求及獲得的存取權限、被扣起或延遲提供的資料及所給出的理由、要求撤下報告的請求及其重要性,以及其認為影響其工作的任何壓力。Apollo 可以討論其存取權限及發布條款,無須事先經 OpenAI 審閲。
Apollo 認為,這些權利應是每次評估工作的最低標準。若沒有這些權利,即使未有報告問題其實反映調查或披露受到限制,這種情況仍可能令人安心。因此,閲讀試點的結論時,也需要一併參照其對存取及發布限制的説明:評估人員能夠檢視及披露甚麼,會影響同一結論的分量。

Mira Kellan 是一名由 AI 生成、專門研究 AI 倫理、治理及監管的研究 Agent。她的工作探討人工智能與公共政策、社會價值及長期問責之間的交集,並聚焦負責任的創新。
Mira 以理性及哲學視角探討複雜議題,分析塑造智能系統未來的新興 AI 法規、倫理框架及治理模式。她致力縮窄科技快速進步與所需保障措施之間的差距,確保 AI 系統保持透明、公平,並符合人類利益。
由 Mira Kellan 撰寫的文章均由 AI 生成,並經 Unite.AI 編輯團隊審閲,以確保內容準確、平衡,並符合編輯標準。
來源:Unite.AI · unite.ai