Amazon Bedrock 如何追蹤 AI 開發及生產力工具成本並設定支出控制
Cost attribution and controls for AI developer and productivity tools on Amazon Bedrock
Amazon Bedrock 可透過 IAM 主體歸屬,追蹤經由平台呼叫推理的 AI 開發及生產力工具的個別用戶成本,並配合不同機制管理支出。教學示範以 IAM Identity Center 傳遞用戶身份及團隊、成本中心標籤,再透過 CUR 2.0、Athena 和儀錶板查看成本。
文章串連 IAM Identity Center、CUR 2.0 與 Athena,展示如何追蹤 Bedrock 工具的個別用戶成本,並比較不同支出控制方案的執行延遲與運維取捨。
Amazon Bedrock 提供內建、無需額外埋設程式碼的成本歸屬功能,可追蹤每次推理呼叫至發出呼叫的 IAM 主體。身份會連同組織標籤一併傳遞至 AWS Cost and Usage Reports (CUR 2.0) 和 AWS Cost Explorer,同時確保資料留在 AWS 安全邊界內。本文將説明如何運用這些功能,解答每位 FinOps 和 AI 平台主管在 AI 工具使用日益普及時都會提出的三個問題:每位用戶的實際成本是多少?哪些團隊的支出最高,而這些支出是否與他們帶來的價值相符?明年的預算應如何配合員工人數和採用程度調整?
無論由哪款 AI 程式編寫或生產力工具發出呼叫,這個方法都一樣適用。Claude Code、Claude Desktop、OpenAI Codex、ChatGPT Work 和 OpenCode 都會透過以下兩個推理端點之一呼叫 Amazon Bedrock:bedrock-runtime 或 bedrock-mantle;Bedrock 的歸屬機制在端點層運作,位於任何工具專屬邏輯之下。只需設定一次身份傳遞,任何經 Bedrock 路由推理的工具都會自動提供每位用戶的成本可見度。
閲讀本文後,你將完成 AWS IAM Identity Center 與外部身份提供者的設定,以便歸屬成本至個別用戶;讓工作團隊和成本中心等工作階段標籤傳遞至 CUR 2.0;掌握用於持續查看成本的 Amazon Athena 查詢和儀錶板選項;並清楚瞭解 Bedrock 原生用量控制功能如何設定支出上限。
Amazon Bedrock 的成本歸屬機制如何運作
Amazon Bedrock 會記錄每位推理呼叫者的 IAM 身份,無需更改 API 呼叫。用戶透過 bedrock-runtime 或 bedrock-mantle 端點呼叫模型時,Bedrock 會擷取呼叫者完整的 IAM ARN;對聯邦用戶而言,當中亦包括工作階段名稱,並將其發布至 CUR 2.0 的 line_item_iam_principal 欄。在帳單資料中,每個匯出間隔的用量會按主體和用量類型彙總:每小時匯出以一小時為間隔,每日匯出則以一日為間隔。CUR 不包含每次請求的成本。如需查看每個提示詞的詳細資料,請使用模型呼叫日誌或請求中繼資料標籤。
你亦可選擇為 IAM 主體附加標籤,或在聯邦身份驗證期間傳遞工作階段標籤,加入組織層面的分類維度。這些標籤會以 iamPrincipal/ 前綴顯示於 CUR 2.0,並在 Cost Explorer 中作為可篩選的維度。此機制支援四種存取模式:IAM 用戶、按應用程式設定的角色、聯邦身份,以及代理請求至 Bedrock 的大型語言模型 (LLM) 閘道。如需比較全部四種模式,請參閲 推出 Amazon Bedrock 精細成本歸屬功能。本文採用聯邦身份模式;對於每位開發人員或知識工作者均須個別登入的 AI 程式編寫及生產力工具,這是最合適的選擇。
Amazon Bedrock 除 IAM 主體追蹤外,還提供其他歸因機制,組織可按需要疊加使用(比較請參閲附錄 A)。使用 Application Inference Profiles,可按工作負載標記 bedrock-runtime 端點的支出。使用 Projects and Workspaces,可在 bedrock-mantle 端點隔離支出並加上標籤。對於需要比 CUR 2.0 每個匯出間隔按使用類型彙總更細緻粒度的工作負載,逐個請求的中繼資料標籤可在模型呼叫記錄中提供逐個提示詞的 Token 級別詳細資料。你可以結合使用這些方式,例如透過 IAM 主體歸因,在帳單上查看每位用戶的支出金額,同時以逐個請求的中繼資料標籤取得記錄中的逐個提示詞詳細資料。選擇取決於你的目標(請參閲 在 Amazon Bedrock 中追蹤用量和成本)。
歸因問題
開發者及生產力工具會在每位用戶的裝置上執行,並直接呼叫 Amazon Bedrock,或經由 LLM 閘道呼叫。用戶透過承擔共用 IAM 角色進行驗證,因此每個 API 呼叫在帳單中都會顯示為 assumed-role/<role>/<session-name>。如果每位用戶都以相同的固定工作階段名稱承擔該角色,或呼叫經由閘道自身的角色傳送,CUR 就會把支出彙總至單一主體。使用 IAM Identity Center 時,工作階段名稱就是用戶的登入名稱,因此每位用戶都有自己的主體。你還可以透過工作階段標籤(團隊、成本中心、專案)補充資料。這些欄位會流入 CUR 2.0 的 line_item_iam_principal 欄,以及帶有 iamPrincipal/ 前綴的成本分配標籤,讓每位用戶的支出資料可與金額一併查詢,而且無須更改 Bedrock API 呼叫。
Claude Platform on AWS 和 Claude for Enterprise 會經由 Anthropic 管理的基礎設施傳送推理請求。使用 Claude Platform on AWS 時,可在 Anthropic 管理主控台按工作區和 API 金鑰查看用量,而工作區標籤會流入 AWS 帳單。使用 Claude for Enterprise 時,可在 Anthropic 管理主控台和 Usage and Cost API 查看每位用戶的用量。Anthropic 會原生執行支出上限。
先決條件
開始前,請確認你具備以下項目:
- 具備 IAM 權限的 AWS 帳戶,可存取你打算使用的 Bedrock 模型。
- 管理帳戶中已啟用 AWS IAM Identity Center。
- 具備 SCIM 佈建功能的外部身分識別提供者(Okta、Microsoft Entra ID 或 Ping Identity)。
- 開發者裝置上已設定 AWS CLI v2。
- 已啟用 AWS 成本和用量報告(CUR 2.0),並包含 IAM 主體資料,且已傳送至 S3 儲存貯體。
- 已從管理(付款方)帳戶啟用成本分配標籤。
- 已設定 Athena 資料表,以便查詢 CUR 2.0 資料(請參閲 GitHub 範例以開始使用)。
步驟 1:使用外部 IdP 設定 IAM Identity Center
將外部身分識別提供者設定為 AWS IAM Identity Center 中的身分識別來源。前往 IAM Identity Center → 設定 → 身分識別來源 → 變更身分識別來源。選取「外部身分識別提供者」,並設定與 IdP 的 SAML 2.0 或 SCIM 連線。啟用 SCIM 佈建,以自動同步用戶和羣組,包括團隊和部門等組織屬性。
設定工作階段標籤的屬性對應,方法是前往「設定」→「存取控制屬性」。將 IdP 的組織屬性對應至工作階段標籤,讓這些標籤流入 CUR 2.0。這些屬性會以工作階段標籤(aws:PrincipalTag/Team、aws:PrincipalTag/CostCenter)的形式,隨用戶發出的每個 API 呼叫傳遞,包括經由 bedrock-runtime 和 bedrock-mantle 端點進行的每次 Bedrock 呼叫。
第 2 步:建立 Bedrock 存取權限集
在 Identity Center 中建立權限集,授予 Bedrock 呼叫權限。每位用戶在此權限集下都有自己的工作階段,這是按用戶追蹤歸屬的基礎。所需的 IAM 動作取決於工具呼叫哪個 Bedrock 端點。
呼叫 bedrock-mantle 端點的工具(例如 Codex 和 ChatGPT Work)需要 bedrock-mantle:CreateInference 及相關動作,並以 Project 資源為範圍。呼叫 bedrock-runtime 端點的工具(例如 Claude Code 和 Claude Desktop)需要 bedrock:InvokeModel 和 bedrock:InvokeModelWithResponseStream,並以相關基礎模型或推理設定檔 ARN 為範圍。如果機構使用的工具涵蓋兩種端點,可以將兩者合併至同一個權限集。
{
"Statement": [
{
"Sid": "BedrockMantleAccess",
"Effect": "Allow",
"Action": [
"bedrock-mantle:CreateInference",
"bedrock-mantle:CountTokens"
],
"Resource": “arn:aws:bedrock-mantle:::project/”
},
{
"Sid": "BedrockModelAccess",
"Effect": "Allow",
"Action": [
"bedrock:InvokeModel",
"bedrock:InvokeModelWithResponseStream",
"bedrock:ListInferenceProfiles",
"bedrock:GetInferenceProfile"
],
“Resource”: [
“arn:aws:bedrock:::inference-profile/“,
“arn:aws:bedrock:::application-inference-profile/“,
“arn:aws:bedrock:::foundation-model/”
]
}
]
}注意:這些資源模式可作為起點。請將範圍收窄至已核准的特定推理設定檔和 Project。將此權限集指派給從 IdP 同步的相關羣組。政策變更會即時生效並套用至所有用戶;透過 AWS CloudTrail 集中稽核,並記錄每位用戶的身分;用戶亦不會取得長期有效的 AWS 憑證。
第 3 步:設定用戶工作站
用戶只需設定一次 AWS CLI 設定檔,無須自訂指令碼、憑證輔助程式或瀏覽器自動化。以下 ~/.aws/config 項目會建立 SSO 工作階段:
[profile bedrock]
sso_session = corp
sso_account_id = 111122223333
sso_role_name = BedrockDeveloperAccess
region = us-east-1
[sso-session corp]
sso_start_url = https://your-org.awsapps.com/start
sso_region = us-east-1
sso_registration_scopes = sso:account:access用戶執行 aws sso login --profile bedrock 進行驗證。這會開啟瀏覽器,透過 IdP 驗證用戶身分,並在本機快取憑證。AWS CLI 和 SDK 會自動更新存取權杖,直至 IAM Identity Center 工作階段結束(預設為 8 小時)。設定工作階段時長,主要是在安全狀況與操作便利性之間取捨。
第 4 步:將工具指向 Amazon Bedrock
每個 AI 工具只需變更標準設定,即可透過 Bedrock 進行推理。由於 Bedrock 在端點層追蹤歸屬,因此無須為個別工具加入專用追蹤程式碼。工具會使用第 3 步建立的 AWS 憑證鏈進行驗證,而 Bedrock 會自動記錄呼叫者身分。
Claude Desktop 會從作業系統原生的受管理偏好設定讀取第三方推理設定(macOS 上為 /Library/Managed Preferences/com.anthropic.claudefordesktop.plist,Windows 上為 HKLM\SOFTWARE\Policies\Claude)。在應用程式內的視窗(Developer → Configure Third-Party Inference)設定一次,然後選擇 Export,為流動裝置管理(MDM)系統產生 .mobileconfig 或 .reg。如要按用戶追蹤歸屬,請使用應用程式內的 AWS 登入功能;每位用戶都會在應用程式內透過 IAM Identity Center 驗證,裝置上無須安裝 AWS CLI:
inferenceProvider bedrock
inferenceBedrockRegion us-east-1
inferenceBedrockSsoStartUrl https://your-org.awsapps.com/start
inferenceBedrockSsoRegion us-east-1
inferenceBedrockSsoAccountId 111122223333
inferenceBedrockSsoRoleName BedrockDeveloperAccess
inferenceModels ["us.anthropic.claude-sonnet-5","us.anthropic.claude-opus-5"]應用程式會在啟動時讀取設定。用戶必須完全結束應用程式,再重新開啟。如果開發人員已在使用 AWS CLI v2,則改為設定 inferenceBedrockProfile,應用程式會代他們執行 aws sso login。
Claude Code CLI 會讀取標準 AWS SDK 憑證鏈,包括 SSO 設定檔。如果已設定 AWS_BEARER_TOKEN_BEDROCK,Claude Code 會使用該金鑰進行驗證,而不會使用憑證鏈,因此呼叫會歸屬於該金鑰背後的 IAM 用戶。如要按用戶追蹤 SSO 歸屬,請停用此設定。
在設定檔中設定 awsAuthRefresh,讓憑證到期時自動重新驗證:
{
"awsAuthRefresh": "aws sso login --profile bedrock",
"env": {
"CLAUDE_CODE_USE_BEDROCK": "1",
"AWS_PROFILE": "bedrock",
"AWS_REGION": "us-east-1"
}
}在向整個用戶羣部署前固定模型版本,以免新版本改變用戶呼叫的模型:
export ANTHROPIC_DEFAULT_OPUS_MODEL='us.anthropic.claude-opus-5'
export ANTHROPIC_DEFAULT_SONNET_MODEL='us.anthropic.claude-sonnet-5'Codex 和 ChatGPT Work 會讀取 ~/.codex/config.toml。桌面應用程式和 CLI 都會使用相同的設定層。若使用 bedrock-mantle 端點:
model_provider = "amazon-bedrock"
model = "openai.gpt-5.6-sol"
[model_providers.amazon-bedrock.aws]
region = "us-east-1"若使用 bedrock-runtime 端點,請使用推理設定檔 ID:
model_provider = "amazon-bedrock-runtime"
model = "us.openai.gpt-5.6-sol"
web_search = "disabled"在兩個端點的環境中設定 AWS_PROFILE。對於桌面應用程式,請將環境變數放在 ~/.codex/.env,因為桌面應用程式可能不會繼承 shell 環境變數。如果已設定 AWS_BEARER_TOKEN_BEDROCK,Codex 會優先使用它,而非 SSO 設定檔,呼叫會歸屬於該 API 金鑰背後的 IAM 用戶。若要按用戶歸屬至 SSO,請取消設定該變數。
第 5 步:在 CUR 2.0 啟用成本歸因
在 AWS Billing Console(帳單 → 資料匯出 → 建立匯出)中,設定將資料以 Parquet 格式傳送至 S3,並選擇每小時或每日的資料粒度。選取「包括呼叫者身分(IAM 主體)分配資料」,以填入 line_item_iam_principal 欄。Bedrock 的 IAM 主體成本追蹤適用於 bedrock-runtime 和 bedrock-mantle 兩種端點。
在管理帳戶中建立匯出,即可擷取所有帳戶的 Bedrock 用量。如果你在 IAM 主體歸因功能推出前已建立 CUR 2.0 資料匯出,則必須選取呼叫者身分選項,建立新的匯出。
用戶登入並至少呼叫一次 Bedrock 後,才啟用成本分配標籤。主體發出呼叫後,標籤才會顯示在 Billing 中。在管理帳戶中,前往 Billing → Cost allocation tags,按類型 IAM principal 篩選,然後啟用 Team 和 CostCenter:
aws ce update-cost-allocation-tags-status \
--cost-allocation-tags-status TagKey=Team,Status=Active
aws ce update-cost-allocation-tags-status \
--cost-allocation-tags-status TagKey=CostCenter,Status=Active標籤最多需要 24 小時才會顯示,最多需要 48 小時才會出現在 CUR 2.0 和 Cost Explorer 中。啟用不會追溯生效。Bedrock 會分別計量和收取輸入、輸出、快取讀取及快取寫入 token 的費用。同一 IAM 主體在一小時內的活動通常會產生四行 CUR 資料。
第 6 步:使用 Amazon Athena 查詢成本資料
CUR 2.0 資料傳送至 S3,並設定好 Athena 資料表後,即可按所需粒度查詢用量和成本。以下查詢會擷取每位用戶的成本:
SELECT
regexp_extract(line_item_iam_principal, 'assumed-role/[^/]+/(.+)$', 1) AS user_name,
line_item_usage_type,
SUM(line_item_unblended_cost) AS total_cost_usd,
SUM(line_item_usage_amount) AS usage_units
FROM cur_table
WHERE line_item_product_code IN ('AmazonBedrock', 'AmazonBedrockService')
AND line_item_iam_principal IS NOT NULL
AND line_item_line_item_type = 'Usage'
AND billing_period = '2026-09'
GROUP BY 1, 2
ORDER BY total_cost_usd DESC;按成本中心查看每日支出趨勢:
SELECT
DATE(line_item_usage_start_date) AS usage_date,
element_at(tags, 'iamPrincipal/CostCenter') AS cost_center,
SUM(line_item_unblended_cost) AS daily_cost_usd
FROM cur_table
WHERE line_item_product_code IN ('AmazonBedrock', 'AmazonBedrockService')
AND line_item_iam_principal IS NOT NULL
AND line_item_line_item_type = 'Usage'
AND billing_period = '2026-09'
GROUP BY 1, 2
ORDER BY 1, daily_cost_usd DESC;Athena 按掃描的資料量收費。使用欄式 Parquet 格式和 billing_period 篩選器,可降低查詢成本。
第 7 步:視覺化
AWS Cost Explorer 毋須任何設定。標籤啟用後,即可按標籤分組。AWS Quick Sight 可連接 Athena,建立互動式儀錶板,並透過異常偵測功能在支出意外激增時發出警示。你亦可整合 CUDOS dashboard;這是開源的 Cloud Intelligence Dashboards (CID) 架構,可提供詳細的成本分析。Grafana 配合 Athena 外掛程式,可將 CUR 資料呈現為時間序列,並與現有的基礎架構指標一同顯示。
實施每位用戶的用量控制
透過 CUR 2.0 中的 IAM 主體歸因建立每位用戶的成本可見度後,機構便需要執行管控機制,以協助防止用量不受控制地累積。目前有多種做法,各自在管控延遲與營運複雜程度之間取捨。
AWS Budgets 搭配預算動作是最簡單的方案,毋須自訂基礎架構。設定按 IAM 主體標籤篩選的預算門檻,並加入動作(例如套用拒絕政策),在超出門檻時觸發。代價是:AWS Budgets 每日最多更新三次,而 Bedrock 費用最多可能要 24 小時才會出現在帳單資料中,因此用量增長迅速的用戶在管控生效前,支出可能超出預算最多一天。
Amazon CloudWatch 警示和 AWS Lambda可利用 Bedrock 原生 CloudWatch 指標(InputTokenCount、OutputTokenCount、Invocations)進行近乎即時的管控,並按模型 ID 或推論設定檔篩選。管控延遲可縮短至 1–5 分鐘。要透過此方法達到用戶層級的細緻度,請使用 Application Inference Profiles 或為每位用戶設定獨立角色。
以 Amazon DynamoDB 為基礎的配額追蹤會在驗證層執行限制。Lambda 函數會在 DynamoDB 中遞增每位用戶的令牌計數器,並在超出上限後停止發放憑證。限制會在下次憑證重新整理時生效,而非套用於個別 API 呼叫;不過,這可消除以預算為本的方法固有的帳單資料延遲。
LLM 閘道代理可在 Bedrock 模型和 SDK 工作負載中,於每次呼叫時即時阻擋請求,但營運複雜度最高,而且每個請求都會增加延遲。請參閲 Multi-Provider Generative AI Gateway。
機構通常會結合使用這些方案:以 CUR 2.0 產生報告,以閘道或基於 DynamoDB 的執行機制進行即時控制,並以 AWS Budgets 作為最後一道防線。如需完整參考資料,請參閲 How to limit usage and cost on Amazon Bedrock。
結論
Amazon Bedrock 的 IAM 主體歸因功能,可追蹤每位 AI 開發人員及每項透過 Bedrock 路由推理工作的生產力工具的成本,無須自訂憑證指令碼、為每位用戶設定 IAM 角色,亦無須額外基礎設施。用戶使用 aws sso login 驗證身份,流程與存取其他 AWS 服務相同,而每次 Bedrock 呼叫都會自動將用戶身份記錄到帳單資料中。
每個元件都可以逐步採用。首先,將 IdP 連接至 Identity Center,並指派 Bedrock 權限集,即可立即在 CloudTrail 中取得工作階段層級的歸因資料。啟用成本分配標籤,讓這些資料顯示於 CUR 2.0。隨著報告需求增加,再加入 Athena 查詢和儀錶板。然後,根據機構對執行延遲的接受程度,逐步加入使用量控制措施,從 AWS Budgets 到即時閘道執行機制均可。
無論機構目前採用哪種 AI 工具,或日後新增哪些工具,本文介紹的歸因和控制機制都在 Bedrock 平台層運作。只需設定一次,每項呼叫 Bedrock 的工具都會沿用這套管治機制。
作者簡介
Aamna Najmi
Aamna 是生成式 AI 資深專業解決方案架構師,專注於 Anthropic 模型,以及在 Amazon Bedrock 上大規模落實生成式 AI 系統的營運及管治。她協助 ISV 利用 Amazon Bedrock 解決問題、採納創新,並創造新的商機。閒暇時,她熱衷於嘗試料理和探索新地方。
Aswath Ram A Srinivasan
Aswath 是 Amazon Bedrock 資深專業解決方案架構師,專注於核心模型、功能、成本最佳化和歸因。他協助 ISV 和策略性客戶解決使用 Amazon Bedrock 時遇到的問題。他與企業團隊合作設計推理架構,以負責任的方式兼顧效能、成本和營運簡便性。閒暇時,他是一名攝影師,也喜歡審閲有關神經符號式 AI 和負責任 AI 的科學期刊論文。
Benedict Augustine
Benedict 是生成式 AI 資深專家,也是 AWS 的產品及市場推廣策略領導者。他目前負責推動全球策略性 ISV 採用 Amazon Bedrock。他曾領導推出六款前沿 AI 新產品,其中包括 Amazon Bedrock AgentCore,並曾為超過 250 位 SaaS 企業的 CxO 提供建議,協助他們將 AI 從試點推進至正式生產環境。
來源:AWS Machine Learning Blog · aws.amazon.com