OpenAI Codex 接入 Amazon Bedrock 的企業部署指南
OpenAI Codex on Amazon Bedrock
AWS Machine Learning Blog 説明如何讓 OpenAI Codex 透過 Amazon Bedrock 使用受支援的 OpenAI 模型,並納入既有 AWS 身份、IAM、區域及可觀測性安排。
文章比較 Native AWS Access、AgentCore Gateway 與 LLM Gateway 三種接入路徑,並整理身份隔離、遙測、成本歸因及回滾等試點檢查,為企業分階段部署提供具體依據。
開發人員愈來愈常使用 Codex 搭配 Amazon Bedrock 探索陌生程式碼、進行修改及處理重複的工程工作。對平台團隊而言,挑戰在於如何提供這些工具,同時避免另建一套模型存取、身分管理及營運堆疊。
Codex 可透過 Amazon Bedrock 使用受支援的 OpenAI 模型進行推理。本文會介紹如何將這種方式融入貴機構現有的 AWS 身分、AWS Identity and Access Management (IAM)、區域及可觀測性做法。Codex 仍會在開發人員的工作站上執行。主要的設計選擇是如何將模型請求傳送至 Amazon Bedrock,以及貴機構在哪些位置套用政策和營運管控。
我們會從小規模、遵循最低權限原則的試行開始,並逐步説明擴大存取權限前的重要檢查項目。範例使用 GPT-5.6 Sol。開始試行前,請查看 Amazon Bedrock 按 AWS 區域劃分的支援模型,確認 Sol、Terra 或 Luna 在你計劃使用的 AWS 區域及推理路徑中可用。
建議的預設做法:以 Native AWS Access 開始小規模、遵循最低權限原則的試行。如果你需要 AWS 託管的閘道基礎設施來進行路由或使用 Amazon Bedrock Guardrails,請選擇 Amazon Bedrock AgentCore 的功能之一 AgentCore Gateway。如果平台團隊需要在請求路徑中強制執行管控,請選擇 LLM Gateway。自訂整合是 LLM Gateway 模式的進階版本,並非快速入門方案。
範例取自開源 Guidance for Codex on AWS 儲存庫。當中包括 Native AWS Access、AgentCore Gateway、ECS 上的 LiteLLM、Portkey、AWS Distro for OpenTelemetry (ADOT),以及本文稍後會使用的 Amazon CloudWatch 設定的快速入門指南。選擇符合你架構的快速入門指南,以此進行試行,並按你的環境作出調整。
選擇推行路徑
身分驗證只是企業推行方案的一部分。請決定哪些人可以使用服務,以及哪些模型和區域獲準使用。此外,也要界定設定的存放位置、要收集哪些遙測資料、如何分配用量,以及允許使用哪些技能或 Model Context Protocol (MCP) 伺服器。下表將這些需求對應至存取途徑及負責團隊。
選擇目前能提供所需管控的存取途徑。一般而言,符合要求而又最直接的途徑,營運開支也最低。
決策準則
- 如果 AWS 身分和 IAM 管控已足以應付試行,Native AWS Access 通常是起點。
- Amazon Bedrock AgentCore 是一個平台,讓你使用任何框架或模型大規模建置、連接及最佳化 Agent。在此平台中,如果團隊需要 AWS 託管的閘道基礎設施來進行路由、使用 Amazon Bedrock Guardrails 或實施相關管控,AgentCore Gateway 便適合採用。
- 大型語言模型 (LLM) Gateway 適合已運作閘道,或希望在請求路徑中強制執行管控的機構。自訂閘道是此選項的進階版本。
下圖比較三種推行路徑中,身分管理、路由、政策、遙測資料及營運責任的配置位置。
圖 1:在各種情況下,Codex 都會在開發人員的工作站上執行。Native AWS Access 使用 AWS IAM Identity Center;已設定的 AgentCore Gateway 可套用託管路由及 Guardrails;已設定的 LLM Gateway 則可在請求路徑中套用管控
Native AWS Access
如果 Native AWS Access 適用於試行,儲存庫中的 Native AWS Access 快速入門提供完整程序及配套檔案。以下精簡流程著重於主要步驟及最重要的檢查。
使用員工身分識別提供者登入
員工繼續使用現有的身分識別提供者登入。在此例中,Okta 透過安全性判斷標記語言 (SAML) 處理驗證,並透過跨網域身分管理系統 (SCIM) 將用戶及羣組佈建至 IAM Identity Center。接著,IAM Identity Center 會發出 Codex 使用的臨時 AWS 認證資料。身分識別提供者不會在 Codex 中設定。
先決條件
- 在員工身分識別系統中,將每位試行用戶加入專用羣組,並將該羣組佈建至 IAM Identity Center。將指派範圍限於試行用戶。
- 選擇 Amazon Bedrock 區域及試行身分可用的 OpenAI 模型;如果所選 API 有此要求,亦要選擇推論設定檔。針對所選帳戶、區域及推論路徑,分別檢查 Sol、Terra 和 Luna。
- 只授予 Codex、任何直接驗證指令及所選可觀測性目的地所需的 Amazon Bedrock 模型推論權限。
- 準備一個非生產環境的儲存庫,並指定回復負責人。
設定
試行分為三項檢查。首先,使用為 AWS Command Line Interface (AWS CLI) 設定的 IAM Identity Center 設定檔登入,並直接呼叫 Amazon Bedrock Runtime。接著,將 Codex 設定為使用核准的模型。最後,執行安全的 Codex 工作。直接呼叫可隔離 AWS 存取問題,最後一步則可確認 Codex 設定。
步驟 1:登入並驗證 Amazon Bedrock Runtime 存取權限。
aws sso login --profile codex-bedrock
export AWS_PROFILE=codex-bedrock
aws bedrock-runtime converse
--model-id us.openai.gpt-5.6-sol
--messages '[{"role":"user","content":[{"text":"Reply with OK"}]}]'
--region us-east-2此指令會建立短效 AWS 工作階段,並檢查該設定檔能否在所選區域呼叫所選模型。如果失敗,請先解決設定檔、區域、模型或推論設定檔存取權限,或 IAM 權限問題,再設定 Codex。
步驟 2:設定 Codex 服務提供者。
# ~/.codex/config.toml (or managed user configuration)
model_provider = "amazon-bedrock"
model = "openai.gpt-5.6-sol"
[model_providers.amazon-bedrock.aws]
profile = "codex-bedrock"
region = "us-east-2"model 值是 Codex 模型 ID。profile 用來選取 AWS IAM Identity Center 工作階段,而 region 則告知 Codex 要使用哪個 AWS 區域。請將這些設定保存在用戶層級或受管理的設定中,避免儲存庫更改服務提供者。
驗證試行並確認回復方式
新增用戶前,請確認試行能連接至核准的模型、產生預期記錄,並可順利停用。
- 身分:
aws sts get-caller-identity會傳回預期的 IAM Identity Center 已承擔角色工作階段。 - 模型存取:試行設定檔透過測試所選的 API 和區域呼叫核准的模型。
- Codex 存取:用戶在非生產環境的儲存庫中完成安全的唯讀工作,並能取得預期的請求路徑證據。
- 證據及回復:身分、呼叫、稽核及可選的遙測記錄均已備妥。移除設定或 IAM Identity Center 指派,依照程序處理任何有效工作階段,或等待其到期,並確認新的呼叫會被拒絕。
觀看 Native AWS Access 流程示範
流程示範涵蓋完整試行步驟:員工登入、直接驗證 Amazon Bedrock Runtime、設定 Codex 服務提供者,以及執行安全的測試工作。
圖 2:Native AWS Access 流程示範,涵蓋員工登入、Amazon Bedrock Runtime 驗證、Codex 服務提供者設定,以及安全的試行工作
使用影片核實在增加更多試點用戶前,檢查項目的次序及需要收集的證據。
進行雙用戶身分隔離檢查
測試身分隔離需要兩名用戶。單一用戶只能證明登入正常;第二名用戶則可測試歸屬資訊是否保持獨立。安排兩名試點用戶分別登入,並執行相同的無害工作。兩人的角色承擔工作階段和稽核記錄,以及(如有設定)遙測記錄,應保持獨立。
下圖展示不同的試點身分如何在使用相同的已批准 Codex 和 Amazon Bedrock 路徑時,產生各自獨立的 AWS 工作階段、請求證據及可選的遙測資料。
圖 3:使用可信的身分註冊流程記錄身分歸屬。只有在本機收集器作為受管理註冊流程的一部分部署及設定時,才可加入已批准的身分脈絡
請求路徑控制的閘道路徑
若要使用 AWS 託管的閘道基礎架構進行集中式路由或使用 Amazon Bedrock Guardrails,AgentCore Gateway 是其中一個選項。若機構已運行 LLM Gateway,或希望在請求路徑中強制執行控制,則改用該閘道。在向試點用戶開放前,先驗證所選閘道。
LLM Gateway:試點前先驗證
- 確認閘道接受 Codex 請求格式。
- 使用閘道團隊定義的登入或權杖流程。
- 邀請試點用戶前,測試模型路由、監察、故障處理及回退機制。
自訂企業整合
自訂企業整合是 LLM Gateway 模式中最複雜的形式。只有在 Native AWS Access、AgentCore Gateway 及現有閘道都無法滿足特定要求時,才考慮採用。這會增加一項需要設計、保障安全、測試、支援及營運的服務,因此平台工程及保安團隊需要從一開始便負責。
監察、管治及分配成本
Codex OpenTelemetry、Amazon Bedrock 服務記錄、AWS 身分記錄及帳單資料分別回答不同問題。Codex OpenTelemetry 描述用戶端活動。啟用後,Amazon Bedrock 服務指標及模型調用日誌會顯示服務端活動。AWS 身分記錄及 AWS Cost and Usage Report (CUR) 提供身分及已計費用量的證據。請按部署的路徑將這些資料互相關聯,不要把 Token 用量當作成本報告。
界定 Codex 可能經所選模型路徑傳送哪些程式碼、提示詞、檔案及工具輸出。除非機構已批准相關資料流,否則不得包含秘密資料及受限制資料。要求開發人員在合併前審查及測試生成的變更。遙測資料不能證明內容正確或安全。
Codex 的 OpenTelemetry 指標
為了實現可觀測性,本文採用儲存庫的 監察與營運指引 中的 ADOT 收集器設定及 CloudWatch 儀錶板。將該設定部署到每部受管理的試點裝置,然後執行安全的 Codex 工作。
儲存庫提供設定檔。按照其部署指示安裝已批准的 ADOT 收集器,並設定其 AWS 驗證。
# ~/.codex/config.toml or managed user configuration
[otel]
environment = "pilot"
log_user_prompt = false
metrics_exporter = { "otlp-http" = { endpoint = "http://127.0.0.1:4318/v1/metrics", protocol = "binary" } }驗證儲存庫所述路徑:執行安全的 Codex 工作,並確認預期的營運指標顯示在受管理的 CloudWatch 儀錶板上。
| 遙測平面 | 例子 | 身分歸屬界線 |
| Codex OpenTelemetry 指標 | Token 用量、對話輪次、API 請求、請求持續時間、工具呼叫、工作階段來源。 | 只有在本機收集器加入經驗證的身分屬性後,才按個別用戶及團隊分組顯示儀錶板。 |
| Amazon Bedrock 服務指標 | 呼叫次數、延遲、輸入 token、輸出 token、用戶端錯誤、伺服器錯誤。 | 請使用所選 Runtime、Mantle 或 AgentCore 路徑的文件所載命名空間、指標名稱及維度。 |
| AWS 身分證據、模型呼叫記錄及 CUR | 承擔角色的單一登入(SSO)主體,以及 Bedrock 費用明細項目。 | 對於原生 IAM Identity Center 存取,CUR 2.0 配合呼叫者身分分配功能,可顯示 SSO 主體。閘道路徑則需要閘道遙測資料及支出記錄,才能分配至最終用戶。 |
Amazon CloudWatch 儀錶板及證據
Amazon CloudWatch Coding Agent Insights 受管理儀錶板位於 Guidance for Codex on AWS 儲存庫,會顯示透過 ADOT 收集的 Codex 運作指標。使用此儀錶板瞭解用戶端活動;如需歸屬或成本證據,則另行使用 AWS 身分、稽核及帳單記錄。
| 問題 | 決策 | 應保留的證據 |
| 誰呼叫了模型? | 根據所選路徑,使用 AWS 身分/稽核資料來源。 | 試行階段的身分記錄及請求關聯資料(如有)。 |
| 費用是多少? | 使用帳單資料確認實際費用,並清楚標示任何推算的分配。 | CUR 來源、分配方法及已知的不確定性。 |
| 我們能否制止不安全或成本過高的行為? | 使用警示偵測問題。使用 IAM 及受管理用戶端控制措施,分別管理各自的存取及操作界限。如需在請求路徑上強制執行政策(例如硬性預算或速率限制),則使用閘道政策。 | 控制措施測試結果及回復程序。 |
觀看 Codex OTel 與 CloudWatch 示範影片
示範影片説明如何查詢 Codex OpenTelemetry 指標,並確認預期的 token 和請求資料是否顯示在 Amazon CloudWatch 中。
圖 4:Amazon CloudWatch 儀錶板中的 Codex OpenTelemetry 指標
此範例會在 Amazon CloudWatch Query Studio 驗證別名指標結果,並展示儀錶板如何呈現 Codex 用戶端活動。
統一團隊做法
基礎設施路徑運作正常後,便可着手改善開發人員體驗。儲存庫指引、受管理外掛程式、鈎子及已核准的 MCP 伺服器,有助統一部署方式,無須每個團隊各自組裝設定。
外掛程式
由組織擁有的外掛程式,是分發共用技能、鈎子及已核准 MCP 整合的實用方法。為每個外掛程式指定負責人和版本,並在發佈前審核變更;外掛程式只可透過已核准的來源發佈。先讓試行小組測試更新,並備妥有記錄的移除方法。
外掛程式可能包含 MCP 伺服器設定,但這不代表其中所有隨附工具都已獲核准。只允許使用組織已審核的伺服器和工具,並在需要時要求用戶確認。
鈎子
可在 hooks.json 中宣告鈎子,或直接在設定中宣告。請保留文件所載的事件名稱大小寫,並透過已核准的端點工具部署由組織擁有的政策命令。
[[hooks.PreToolUse]]
matcher = "^Bash$"
[[hooks.PreToolUse.hooks]]
type = "command"
command = "/usr/local/bin/company-pre-tool-policy"
timeout = 30在能解決特定需求時,使用 PreToolUse、PostToolUse 或 SessionStart。擴大部署前,請測試允許、拒絕、逾時及端點中斷連線時的行為。
MCP
MCP 伺服器會將 Codex 連接至另一個系統,因此每個伺服器都會建立獨立的信任邊界。只向有需要的用戶和工具授予存取權,透過經批准的 OAuth 或機密管理流程管理憑證,並要求用戶確認會變更外部系統的工具操作。不要將 MCP 憑證放入模型供應商設定。
分階段推出
以下圖表界定由準備、試行、擴展至全機構標準化各階段的範圍,以及推進至下一階段所需的證據。
圖 5:先進行受控試行,確認存取路徑和營運證據後再擴展,並在營運模式獲驗證後將推出方式標準化
管理員推出檢查清單
- 在變更紀錄中記下選定的路徑、負責團隊、區域和模型。
- 將試行身分的權限限制在所需範圍,並記錄如何處理已發出的憑證或權杖。
- 在非生產環境中進行測試,涵蓋登入、模型可用性,以及一項安全的 Codex 任務。
- 檢查已部署版本產生的遙測資料和審計輸出,不要假設範例無須修改便適用。
- 在成本報告中將已計費金額與估算金額分開。
- 演練復原流程:移除設定或指派,按經批准的程序處理任何仍有效的工作階段,或等待其到期,並確認新的模型呼叫會被拒絕。
清理
試行結束或必須停用存取權時,移除不再需要的推出資源。
從受管理裝置移除 Codex 的模型供應商及遙測設定。移除 IAM Identity Center 試行指派或閘道存取權,撤銷試行用的權杖和機密資料,並按經批准的程序處理仍有效的工作階段。解除安裝或停用 ADOT 收集器;如果試行用的 CloudWatch 儀錶板和警報沒有與其他工作負載共用,則將其刪除。確認清理完成:新的模型呼叫遭拒,而且已退役的遙測資源不再收到新資料。
設定邊界
將模型供應商、憑證及機構遙測設定保存在用戶層級或受管理設定中。專案本機的 .codex/config.toml 屬於儲存庫範圍的設定:應按程式碼審查,但不要將其視為企業級強制執行邊界。AGENTS.md 適合用作長期適用的儲存庫指引,例如測試命令和編碼慣例,但同樣不是強制執行邊界。
| 設定類型 | 建議位置 | 原因 |
| 模型供應商、憑證、區域 | 用戶層級或受管理設定 | 這些屬於端點和企業層級的選擇,而非儲存庫預設設定。 |
| OpenTelemetry 匯出器 | 用戶層級或受管理設定 | 遙測目的地和資料處理方式屬於機構控制項。 |
| 儲存庫指引 | AGENTS.md | 提供長期適用的指引,但不是強制執行邊界。 |
| 權限要求 | 由機構管理的 requirements.toml |
限制用戶端在受支援的安全敏感選項上的選擇。 |
結論及後續步驟
Codex 可使用 Amazon Bedrock,並以受支援的 OpenAI 模型進行推理。先選用能滿足要求且複雜程度最低的存取路徑,透過小規模試行驗證身分及模型路徑,只有在閘道或用戶端控制措施能解決特定需求時才加入。
AgentCore Gateway 提供由 AWS 管理的閘道選項,可用於路由或 Amazon Bedrock Guardrails。平台團隊如要在請求路徑中強制執行控制措施,可選用 LLM Gateway。只有在現有路徑無法滿足已記錄的要求時,才建立自訂整合。
分階段擴展,並根據每個階段的證據決定下一步。Guidance for Codex on AWS 儲存庫包含本文使用的維護中設定及驗證程序。
作者簡介
Shivi Bhatia
Shivi Bhatia 是 AWS 全球專家組織中負責 Amazon Bedrock 的資深解決方案架構師。他與企業客戶合作,專注於生成式 AI、Agent 系統、生產環境推理及 AI/ML 架構。他的專業興趣包括多 Agent 協調、推理最佳化、模型評估、可觀測性,以及安全地在企業中採用 AI。
Sebastien Couturier
Sebastien Couturier 是 AWS 的資深生成式 AI 專家解決方案架構師,與企業客戶及合作夥伴緊密合作,專注於生成式 AI、Agentic AI 及開發者工具。
Sriharsha M S
Sriharsha M S 是 Amazon Web Services 戰略專家團隊的首席生成式 AI 專家解決方案架構師。他與善用 AI/ML 解決複雜業務問題的 AWS 策略客戶合作,為大規模基礎模型科學及 Agentic AI 應用提供技術指引和設計建議。他的專業範疇涵蓋應用硬件加速器、架構、大數據、分析及機器學習。
來源:AWS Machine Learning Blog · aws.amazon.com


