AWS 宣佈 Claude Haiku 5.5 登陸 Amazon Bedrock 及 Claude Platform on AWS
Introducing Claude Haiku 5.5 on AWS
AWS 宣佈 Claude Haiku 5.5 已可透過 Amazon Bedrock 及 Claude Platform on AWS 使用。Anthropic 表示,它是 Claude 5.5 系列中速度最快、效率最高的模型,大多數任務的成本比 Claude Haiku 4.5 低約 75 percent。
文章説明 Claude Haiku 5.5 面向高用量、成本敏感任務的定位,並列出 Amazon Bedrock 使用範例及可用區域,提供模型選用與部署的實用參考。
今天,我們很高興宣佈 Claude Haiku 5.5 現已於 Amazon Bedrock 和 Claude Platform on AWS 提供。Anthropic 表示,Claude Haiku 5.5 是 Claude 5.5 系列中速度最快、效率最高的模型,專為子代理及大量、對成本敏感的工作而設計。在大部分工作中,其成本亦比 Claude Haiku 4.5 低約 75%。
Amazon Bedrock 讓你使用 Haiku 5.5 的功能,同時透過區域資料駐留,確保資料留在 AWS 基礎設施內。它支援團隊已在使用的 AWS 控制措施,包括用於存取控制的 AWS Identity and Access Management (IAM)、用於稽核的 AWS CloudTrail、用於監控的 Amazon CloudWatch,以及 Amazon Bedrock Guardrails。使用量會列於 AWS 帳單上。
Claude Platform on AWS 讓你透過 AWS Management Console 直接使用 Anthropic 的原生平台體驗及功能。你可透過與直接使用 Anthropic 時相同的 API、功能及主控台體驗進行建置、測試和部署,並整合 AWS 帳單及驗證。
本文介紹 Claude Haiku 5.5 的改進、何時選用 Haiku 5.5 的實用指引,以及如何在 Amazon Bedrock 開始使用。
Claude Haiku 5.5 有何不同
Claude Haiku 5.5 是 Anthropic 能力最強的 Haiku 模型,在程式編寫、工具使用、電腦操作及代理式任務方面均有出色表現。它亦是首個具備投入程度控制功能的 Haiku 模型,讓你可按每項任務調整成本與智能之間的平衡,而不必為整個工作負載選用單一設定。
在需要快速、可重複且大規模執行的工作中,其改進尤其突出。在程式編寫工作中,它可作為子代理,負責轉送請求、審查程式碼,以及為長篇文件分類。在知識工作中,Haiku 5.5 可從中小型文件中提取關鍵資訊、進行初步掃描,並快速回答知識庫相關問題。對於互動式應用程式,它的回應速度足以讓簡單對話迅速獲得有用的答案。它亦能以正式環境功能所需的處理量和成本,執行分類、摘要和文字生成等傳統自然語言處理(NLP)工作。
Haiku 5.5 能處理代理式程式編寫和多步驟工具使用,亦支援高解像度圖像。Haiku 5.5 可作為能力出色的電腦操作子代理,處理重複性的瀏覽器和桌面任務,成本亦足以應付大規模使用。在開發工作流程中,它適合用於快速反覆調整 UI 和 UX,以及跨多個檔案進行小型、明確的程式碼庫修改。
Claude Haiku 5.5 與 Opus 5.5 配合使用
Haiku 5.5 可與最近公佈的 Claude Opus 5.5 配合使用。兩者合作出色:Opus 5.5 負責規劃及作出判斷,Haiku 5.5 則快速、大規模地執行界定清晰的任務。你可在關鍵環節獲得審慎推理,同時全面降低成本和延遲。
- Claude Opus 5.5 負責規劃工作並作出判斷。它會拆解複雜問題、決定處理方式,並負責最具挑戰性的推理工作,例如發佈版本的除錯、大型 pull request 的安全審查,以及最後形成完整報告的長篇分析。
- Claude Haiku 5.5 擔當子代理架構中的快速處理層。它可處理快速且大量的任務,例如路由請求、分類及摘要、改寫長篇文件,以及在多個檔案中套用小而明確的修改。作為審查子代理,它可以快速檢查操作次序及整體方向,讓 Opus 5.5 將 token 用於最艱深的推理工作。由於速度快且成本效益高,你可以並行執行多個 Haiku 子代理。
開始使用 Amazon Bedrock 上的 Claude Haiku 5.5
如要試用 Haiku 5.5,請開啟 Amazon Bedrock 主控台,選擇 Test,然後選擇 Playground,並選取 Haiku 5.5 作為模型。之後,你便可以直接向模型提交提示詞。
圖 1:在 Amazon Bedrock 主控台的 Playground 中選取 Anthropic Claude 模型
你可以透過 Anthropic SDK,使用 Anthropic Messages API 呼叫 bedrock-runtime 上的模型。你亦可以透過 AWS Command Line Interface (AWS CLI) 和 AWS SDK,使用 bedrock-runtime 上的 Invoke 和 Converse API。
先決條件
你必須具備以下先決條件:
- 有效的 AWS 帳戶,並可使用 Amazon Bedrock。
- 已安裝並設定 AWS Command Line Interface (AWS CLI)。
- Python 3.10+。
- 已安裝 Boto3:
pip install boto3。 - 已安裝 Anthropic SDK:
pip install anthropic。 - 已安裝用於 Amazon Bedrock 驗證的 Amazon Bedrock Token Generator:
pip install aws_bedrock_token_generator。 - AWS Identity and Access Management (IAM) 權限:
bedrock:InvokeModel、bedrock:InvokeModelWithResponseStream。
以下是使用 AWS SDK for Python (Boto3) 和 InvokeModel API 的簡單範例:
import boto3
import json
# Create a Bedrock Runtime client
bedrock_runtime = boto3.client(
service_name="bedrock-runtime",
region_name="us-east-1"
)
# Invoke Claude Haiku 5.5
response = bedrock_runtime.invoke_model(
modelId="global.anthropic.claude-haiku-5-5",
contentType="application/json",
accept="application/json",
body=json.dumps({
"anthropic_version": "bedrock-2023-05-31",
"max_tokens": 4096,
"messages": [
{
"role": "user",
"content": "Can you explain the features of Amazon Bedrock?"
}
]
})
)
result = json.loads(response["body"].read())
# Haiku 5.5 may return a thinking block before the text block,
# so select the text block rather than a fixed index.
print(next(b["text"] for b in result["content"] if b["type"] == "text"))你亦可以使用 Amazon Bedrock Converse API,享用統一的多模型體驗:
import boto3
# Create a Bedrock Runtime client
bedrock_runtime = boto3.client(
service_name="bedrock-runtime",
region_name="us-east-1"
)
# Invoke Claude Haiku 5.5
response = bedrock_runtime.converse(
modelId="global.anthropic.claude-haiku-5-5",
messages=[
{
"role": "user",
"content": [
{
"text": "Can you explain the features of Amazon Bedrock?"
}
]
}
],
inferenceConfig={
"maxTokens": 4096
}
)
if 'output' in response:
blocks = response['output']['message']['content']
print('\n'.join(b.get('text', '') for b in blocks if 'text' in b))你亦可以透過 anthropic SDK 套件使用 Anthropic Messages API,享受更簡便的體驗:
from anthropic import Anthropic
from aws_bedrock_token_generator import provide_token
token = provide_token(region="us-east-1")
client = Anthropic(
base_url="https://bedrock-runtime.us-east-1.amazonaws.com/anthropic",
api_key=token,
)
# Invoke Claude Haiku 5.5
response = client.messages.create(
model="global.anthropic.claude-haiku-5-5",
max_tokens=1024,
messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}],
)
print(response)如需更多範例,請參閲入門筆記本。你可以透過 Amazon CloudWatch 和 AWS Cost Explorer 監察用量、效能及成本,並隨需求增長擴展應用程式。
可用情況
Claude Haiku 5.5 現已在 Amazon Bedrock 上提供,可透過 bedrock-runtime 上的 US Geo CRIS (us.)、EU Geo CRIS (eu.)、AU Geo CRIS (au.)、JP Geo CRIS (jp.) 及 Global CRIS (global.) 推理設定檔使用。在 AWS GovCloud (US) 中,則可透過 bedrock-runtime 和 bedrock-mantle 兩個端點使用。
完整支援的 AWS 區域清單,請參閲 Amazon Bedrock 説明文件。價格資訊請參閲 Amazon Bedrock 定價。北美用戶亦可透過 Claude Platform on AWS 使用
立即在 Amazon Bedrock 主控台或 Claude Platform on AWS 試用 Claude Haiku 5.5,亦可在 GitHub 上查看入門筆記本。
作者介紹
Aamna Najmi
Aamna 是生成式 AI 資深專業解決方案架構師,專注於 Anthropic 模型,以及在 Amazon Bedrock 上大規模推動生成式 AI 系統投入營運並進行治理。她運用 Amazon Bedrock 協助 ISVs 解決挑戰、擁抱創新,並開創新的業務機會。
Dani Mitchell
Dani 是 AWS 生成式 AI 資深專業解決方案架構師,負責 Anthropic 在 Amazon Bedrock 上的市場推廣工作。他協助全球企業運用 Anthropic 在 Amazon Bedrock 上的模型及功能,設計和部署生成式 AI 解決方案,以建置可擴展且可投入正式環境的應用程式。
Alfredo Castillo
Alfredo 是 AWS 的生成式 AI 資深專家解決方案架構師,專注於 Anthropic 模型在 Amazon Bedrock 上的市場推廣。他與金融服務業客戶合作,設計及擴展分散式系統中的生成式 AI 解決方案,並將生成式 AI 實驗轉化為正式上線的工作負載。工作以外,他熱愛家庭及耐力運動。
Sofian Hamiti
Sofian 是一位科技領袖,擁有逾 12 年建構 AI 解決方案及帶領高績效團隊、盡力提升客戶成果的經驗。他熱衷於協助多元人才發揮所長,為全球帶來影響,並實現職涯抱負。
來源:AWS Machine Learning Blog · aws.amazon.com