Skip to main content

在itBuilder中使用AWS Bedrock

itBuilder支持通过Amazon Bedrock访问模型，这是一项完全托管的服务，通过单一API提供来自领先AI公司的高性能基础模型(FMs)选择。

官网: https://aws.amazon.com/bedrock/

先决条件​

  • AWS账户: 需要有效的AWS账户。
  • Bedrock访问权限: 必须申请并获得Amazon Bedrock的访问权限。详情请参阅AWS Bedrock文档。
  • 模型访问权限: 在Bedrock中，需要申请访问您想使用的特定模型(如Anthropic Claude)。
  • 安装AWS CLI: 使用AWS CLI配置账户认证 
     aws configure

获取凭证​

有两种主要的AWS凭证配置方式:

  1. AWS访问密钥(推荐用于开发):
    • 创建具有必要权限(至少bedrock:InvokeModel)的IAM用户。
    • 为该用户生成访问密钥ID和秘密访问密钥。
    • (可选) 如果IAM配置需要，创建会话令牌。
  2. AWS配置文件:
    • 使用AWS CLI或手动编辑AWS凭证文件配置AWS配置文件。详情请参阅AWS CLI文档。

支持的模型​

itBuilder支持通过Bedrock访问以下模型(基于源代码):

  • Amazon:
    • amazon.nova-pro-v1:0
    • amazon.nova-pro-latency-optimized-v1:0
    • amazon.nova-lite-v1:0
    • amazon.nova-micro-v1:0
    • amazon.titan-text-lite-v1:0
    • amazon.titan-text-express-v1:0
    • amazon.titan-text-embeddings-v1:0
    • amazon.titan-text-embeddings-v2:0
  • Anthropic:
    • anthropic.claude-opus-4-20250514-v1:0
    • anthropic.claude-sonnet-4-20250514-v1:0
    • anthropic.claude-3-7-sonnet-20250219-v1:0
    • anthropic.claude-3-5-sonnet-20241022-v2:0
    • anthropic.claude-3-5-haiku-20241022-v1:0
    • anthropic.claude-3-5-sonnet-20240620-v1:0
    • anthropic.claude-3-opus-20240229-v1:0
    • anthropic.claude-3-sonnet-20240229-v1:0
    • anthropic.claude-3-haiku-20240307-v1:0
    • anthropic.claude-2-1-v1:0
    • anthropic.claude-2-0-v1:0
    • anthropic.claude-instant-v1:0
  • DeepSeek:
    • deepseek.r1-v1:0
  • Meta:
    • meta.llama3-3-70b-instruct-v1:0
    • meta.llama3-2-90b-instruct-v1:0
    • meta.llama3-2-11b-instruct-v1:0
    • meta.llama3-2-3b-instruct-v1:0
    • meta.llama3-2-1b-instruct-v1:0
    • meta.llama3-1-405b-instruct-v1:0
    • meta.llama3-1-70b-instruct-v1:0
    • meta.llama3-1-70b-instruct-latency-optimized-v1:0
    • meta.llama3-1-8b-instruct-v1:0
    • meta.llama3-70b-instruct-v1:0
    • meta.llama3-8b-instruct-v1:0

参考Amazon Bedrock文档获取最新可用模型列表及其ID。在配置itBuilder时，请使用模型ID而非模型名称。

在itBuilder中配置​

  1. 打开itBuilder设置: 点击itBuilder面板中的齿轮图标()。
  2. 选择提供商: 从"API Provider"下拉菜单中选择"Bedrock"。
  3. 选择认证方式:
    • AWS凭证:
      • 输入"AWS Access Key"和"AWS Secret Key"。
      • (可选)如果使用临时凭证，输入"AWS Session Token"。
    • AWS配置文件:
      • 输入"AWS Profile"名称(如"default")。
  4. 选择区域: 选择Bedrock服务可用的AWS区域(如"us-east-1")。
  5. (可选)跨区域推理: 如果想访问与配置的AWS区域不同的区域中的模型，勾选"Use cross-region inference"。
  6. (可选)VPC端点: 企业环境使用:
    • 勾选"Use VPC Endpoint"将所有Bedrock API调用通过VPC端点路由
    • 在出现的文本框中输入VPC端点URL
    • 确保所有LLM事务保持在企业网络内
  7. 选择模型: 从"Model"下拉菜单中选择所需模型。

Claude模型的推理预算​

itBuilder支持为Bedrock上的Anthropic Claude模型使用推理预算(扩展思考)。这允许模型在响应前进行更多"思考"，对复杂任务很有用。

启用推理预算:

  1. 选择支持的Claude模型(如anthropic.claude-3-sonnet-20240229-v1:0)。
  2. 在模型设置中启用推理模式。
  3. 调整思考预算以控制模型应"思考"的程度。

此功能仅适用于支持的Claude模型。

提示与注意事项​

  • 权限: 确保IAM用户或角色具有调用Bedrock模型的必要权限。至少需要bedrock:InvokeModel权限。
  • 定价: 参考Amazon Bedrock定价页面获取模型成本详情。
  • 跨区域推理: 使用跨区域推理可能导致更高延迟。
  • VPC端点: 使用VPC端点时，确保端点正确配置以处理Bedrock API调用。此功能特别适合有严格安全要求、要求所有API流量保持在私有网络内的组织。