Chuyển tới nội dung chính

Nền tảng AWS

Hermes Agent hỗ trợ Amazon Bedrock với tư cách là nhà cung cấp gốc sử dụng Converse API — không phải điểm cuối tương thích với OpenAI. Điều này mang lại cho bạn quyền truy cập đầy đủ vào hệ sinh thái Bedrock: xác thực IAM, Guardrails, hồ sơ suy luận giữa các khu vực và tất cả các mô hình nền tảng.

Điều kiện tiên quyết​

  • Thông tin xác thực AWS — bất kỳ nguồn nào được boto3 credential chain hỗ trợ:
    • Vai trò phiên bản IAM (EC2, ECS, Lambda — cấu hình không)
    • Biến môi trường `AWS_ACCESS_KEY_ID

`AWS_SECRET_ACCESS_KEY

AWS_PROFILE cho SSO hoặc hồ sơ được đặt tên​

aws configure để phát triển địa phương

  • boto3 — cài đặt với `pip install Hermes-agent[bedrock]

  • Quyền IAM — tối thiểu:​

bedrock:InvokeModel và bedrock:InvokeModelWithResponseStream (để suy luận)​

bedrock:ListFoundationModels và bedrock:ListInferenceProfiles (để khám phá mô hình)

EC2 / ECS / Lambda

Trên điện toán AWS, hãy đính kèm vai trò IAM với AmazonBedrockFullAccess và bạn đã hoàn tất. Không có khóa API, không có cấu hình

.env

  • Hermes tự động phát hiện vai trò phiên bản.

Bắt đầu nhanh​


# Install with Bedrock support
pip install Hermes-agent[bedrock]

# Select Bedrock as your provider
Hermes model
# → Choose "More providers..." → "AWS Bedrock"
# → Select your region and model

# Start chatting
Hermes chat

`

## Cấu hình

Sau khi chạy 
`Hermes model

, 

~/.Hermes/config.yaml
` của bạn sẽ chứa:

``` yaml
model:
  default: us.Anthropic.Claude-sonnet-4-6
  provider: bedrock
  base_url: https://bedrock-runtime.us-east-2.amazonaws.com`bedrock:
  region: us-east-2

`

### Vùng

Đặt khu vực AWS theo bất kỳ cách nào sau đây (ưu tiên cao nhất trước):
1. 
`bedrock.region
` trong 
`config.yaml

`
2. Biến môi trường 
`AWS_REGION

3. Biến môi trường 
`AWS_DEFAULT_REGION

4. Mặc định: 
`us-east-1

### Lan can

Để áp dụng [Amazon Bedrock Guardrails](https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails.html) cho tất cả các lệnh gọi mô hình:

``` yaml
bedrock:
  region: us-east-2
  guardrail:
    guardrail_identifier: "abc123def456"  # From the Bedrock console
    guardrail_version: "1"                # Version number or "DRAFT"
    stream_processing_mode: "async"       # "sync" or "async"
    trace: "disabled"                     # "enabled", "disabled", or "enabled_full"

`
``###Khám phá mô hình

Hermes tự động khám phá các mẫu có sẵn thông qua mặt phẳng điều khiển Bedrock. Bạn có thể tùy chỉnh khám phá:

`YAML
bedrock:
  discovery:
    enabled: true
    provider_filter: ["Anthropic", "amazon"]  # Only show these providers
    refresh_interval: 3600                     # Cache for 1 hour

`

## Các mẫu có sẵn

Các mô hình Bedrock sử dụng **ID hồ sơ suy luận** cho lệnh gọi theo yêu cầu. Bộ chọn 
`Hermes model
` tự động hiển thị những thông tin này, với các mẫu được đề xuất ở trên cùng:

| Người mẫu | ID | Ghi chú |
|-------|------|-------|
| Claude Sonnet 4.6 |

us.Anthropic.Claude-sonnet-4-6
` | Khuyến nghị — cân bằng tốt nhất giữa tốc độ và khả năng |
| Claude Opus 4.6 |

us.Anthropic.Claude-opus-4-6-v1
` | Có khả năng nhất |
| Claude Haiku 4.5 |

us.Anthropic.Claude-haiku-4-5-20251001-v1:0
` | Claude nhanh nhất |
| Amazon Nova Pro |

us.amazon.nova-pro-v1:0
` | Flagship của Amazon |
| Amazon Nova Micro |

us.amazon.nova-micro-v1:0
` | Nhanh nhất, rẻ nhất |
| DeepSeek V3.2 |

DeepSeek.v3.2
` | Mô hình mở mạnh mẽ |
| Hướng Đạo Llama 4 17B |

us.meta.Llama4-scout-17b-instruct-v1:0
` | Meta mới nhất |

:::info[Cross-Region Inference]
Các mô hình có tiền tố 
`us.
` sử dụng cấu hình suy luận giữa các khu vực, mang lại công suất tốt hơn và chuyển đổi dự phòng tự động trên các khu vực AWS. Các mô hình có tiền tố tuyến đường 
`global.
` trên tất cả các khu vực có sẵn trên toàn thế giới.

:::

## Chuyển đổi mô hình giữa phiên

Sử dụng lệnh 

/model
` trong cuộc trò chuyện:

`
/model us.amazon.nova-pro-v1:0
/model DeepSeek.v3.2
/model us.Anthropic.Claude-opus-4-6-v1

`

## Chẩn đoán

``` bash
Hermes doctor

`
``Bác sĩ kiểm tra:

- Có thông tin xác thực AWS hay không (env vars, vai trò IAM, SSO)
- 
`boto3
` có được cài đặt hay không
- API Bedrock có thể truy cập được hay không (ListFoundationModels)
- Số lượng mô hình có sẵn trong khu vực của bạn

## Cổng (Nền tảng nhắn tin)

Bedrock hoạt động với tất cả các nền tảng cổng Hermes (Telegram, Discord, Slack, Feishu, v.v.). Định cấu hình Bedrock làm nhà cung cấp của bạn, sau đó khởi động cổng bình thường:

``` bash
Hermes gateway setup
Hermes gateway start

`
``Cổng đọc 
`config.yaml
` và sử dụng cùng cấu hình của nhà cung cấp Bedrock.

## Khắc phục sự cố

### "Không tìm thấy khóa API" / "Không có thông tin đăng nhập AWS"

Hermes kiểm tra thông tin xác thực theo thứ tự sau:

1. 
`AWS_BEARER_TOKEN_BEDROCK

2. 
`AWS_ACCESS_KEY_ID

 + 
`AWS_SECRET_ACCESS_KEY

3. 
`AWS_PROFILE

4. Siêu dữ liệu phiên bản EC2 (IMDS)
5. Thông tin xác thực vùng chứa ECS
6. Vai trò thực thi Lambda

Nếu không tìm thấy, hãy chạy 
`aws configure
` hoặc đính kèm vai trò IAM vào phiên bản điện toán của bạn.

### "Việc gọi ID mẫu ... với thông lượng theo yêu cầu không được hỗ trợ"

Sử dụng **ID hồ sơ suy luận** (có tiền tố là 
`us.
` hoặc 
`global.

) thay vì ID mô hình nền tảng trần. Ví dụ:
- ❌ 
`Anthropic.Claude-sonnet-4-6

- ✅ 
`us.Anthropic.Claude-sonnet-4-6

### "Ngoại lệ điều chỉnh"

Bạn đã đạt đến giới hạn tốc độ Bedrock cho mỗi mô hình. Hermes tự động thử lại với thời gian chờ. Để tăng giới hạn, hãy yêu cầu tăng hạn ngạch trong [AWS Service Quotas console](https://console.aws.amazon.com/servicequotas/).

## Triển khai AWS chỉ bằng một cú nhấp chuột

Để triển khai hoàn toàn tự động trên EC2 với CloudFormation:

**[sample-Hermes-agent-on-aws-with-bedrock](https://GitHub.com/JiaDe-Wu/sample-Hermes-agent-on-aws-with-bedrock)** — tạo VPC, vai trò IAM, phiên bản EC2 và tự động định cấu hình Bedrock. Triển khai ở bất kỳ khu vực nào chỉ bằng một cú nhấp chuột.