Chuyển tới nội dung chính

Proxy đăng ký

Proxy đăng ký là máy chủ HTTP cục bộ cho phép các ứng dụng bên ngoài — OpenViking, Karakeep, Open WebUI, bất cứ thứ gì tương thích với OpenAI hoàn thành trò chuyện — sử dụng đăng ký nhà cung cấp do Hermes quản lý của bạn làm Điểm cuối LLM. Proxy đính kèm thông tin xác thực phù hợp (làm mới chúng tự động) để ứng dụng không bao giờ cần khóa API tĩnh.

Điều này khác với API server:

Máy chủ APIProxy đăng ký
Nó phục vụ những gìĐại lý của bạn (bộ công cụ đầy đủ, bộ nhớ, kỹ năng)Suy luận mô hình thô
Trường hợp sử dụng"Sử dụng Hermes làm phụ trợ trò chuyện""Sử dụng cổng phụ của tôi từ một ứng dụng khác"
Xác thực

API_SERVER_KEY ` của bạn | Bất kỳ người mang nào (proxy gắn với người thật) | | Cuộc gọi công cụ | Có — đại lý chạy công cụ | Không — chỉ thông qua |

Sử dụng máy chủ API khi bạn muốn tác nhân làm chương trình phụ trợ. Sử dụng proxy khi bạn chỉ muốn mô hình thông qua đăng ký của mình.

Bắt đầu nhanh​

1. Đăng nhập vào nhà cung cấp của bạn (một lần)​

Hermes login nous

`
``Thao tác này sẽ mở trình duyệt của bạn để xem luồng OAuth của Nous Portal. Cửa hàng Hermes
mã thông báo làm mới trong 

~/.Hermes/auth.JSON

 - cùng một vị trí với tất cả Hermes
đăng nhập nhà cung cấp trực tiếp.

### 2. Khởi động proxy

`bash
Hermes proxy start

`

`

Starting Hermes proxy for Nous Portal
  Listening on:  http://127.0.0.1:8645/v1
  Forwarding to: (resolved per-request from your subscription)
  Use any bearer token in the CLIent — the proxy attaches your real credential.

`
``Để cái này chạy ở phía trước. Sử dụng 
`tmux

, 
`nohup
` hoặc systemd
unit nếu bạn muốn nó tồn tại khi đăng xuất.

### 3. Trỏ ứng dụng của bạn vào đó

Mọi cấu hình ứng dụng tương thích với OpenAI đều có cùng một bộ ba:

`
Base URL:   http://127.0.0.1:8645/v1
API key:    anything (e.g. "sk-unused")
Model:      Hermes-4-70B    # or Hermes-4.3-36B, Hermes-4-405B

`
``Proxy bỏ qua tiêu đề 
`Authorization
` khỏi ứng dụng của bạn và đính kèm
thông tin xác thực Cổng thông tin thực của bạn cho yêu cầu ngược dòng. Làm mới xảy ra
tự động khi người mang thẻ sắp hết hạn.

## Nhà cung cấp có sẵn

`bash
Hermes proxy providers

`
``Hiện đang vận chuyển: 
`nous
` (Nous Portal). Có thể có thêm nhà cung cấp OAuth
được thêm bằng cách triển khai giao diện 
`UpstreamAdapter
` trong
`Hermes_CLI/proxy/adapters/

.

## Kiểm tra trạng thái

`bash
Hermes proxy status

`

`

Hermes proxy upstream adapters`[nous    ] Nous Portal — ready (bearer expires 2026-05-15T06:43:21Z)

`
``Nếu bạn thấy 
`not logged in

, hãy chạy 
`Hermes login nous

. Nếu bạn thấy
`credentials need attention

, mã thông báo làm mới của bạn đã bị thu hồi (hiếm —
xảy ra nếu bạn đã đăng xuất khỏi giao diện người dùng web của Cổng thông tin) — chỉ cần chạy lại
`Hermes login nous

.

## Đường dẫn được phép

Proxy chỉ chuyển tiếp các đường dẫn ngược dòng thực sự phục vụ. Dành cho Nous
Cổng thông tin:

| Đường dẫn | Mục đích |
|------|----------|
| 

/v1/chat/completions
` | Hoàn thành trò chuyện (trực tuyến + không phát trực tuyến) |
| 

/v1/completions
` | Hoàn thành văn bản kế thừa |
| 

/v1/embeddings
` | Nhúng |
| 

/v1/models
` | Danh sách người mẫu |

Các đường dẫn khác (

/v1/images/generations

, 

/v1/audio/speech

, v.v.) trả về
404 với lỗi rõ ràng khi trỏ vào các đường dẫn được phép. Điều này cứ lạc lối
khách hàng khỏi bị rò rỉ các yêu cầu kỳ lạ lên thượng nguồn.

## Định cấu hình OpenViking để sử dụng Cổng thông tin`[OpenViking](https://GitHub.com/volcengine/OpenViking) là một bối cảnh
cơ sở dữ liệu cần nhà cung cấp LLM cho VLM (mô hình ngôn ngữ/tầm nhìn
được sử dụng để trích xuất ký ức) và mô hình nhúng. Với proxy, bạn có thể
trỏ 
`vlm.API_base
` vào proxy cục bộ của bạn:

Chỉnh sửa 

~/.openviking/ov.conf

:

`JSON
{
  "vlm": {
    "provider": "OpenAI",
    "model": "Hermes-4-70B",
    "API_base": "http://127.0.0.1:8645/v1",
    "API_key": "unused-proxy-attaches-real-creds"
  }
}

`
``Sau đó khởi động proxy của bạn trong một terminal cùng với 
`openviking-server

:

`bash

# Terminal 1
Hermes proxy start

# Terminal 2
openviking-server

`
``Các cuộc gọi VLM của OpenViking hiện chuyển qua đăng ký Cổng thông tin của bạn. các
phía mô hình nhúng vẫn cần nhà cung cấp riêng - Cổng thông tin phục vụ

/v1/embeddings
` nhưng việc lựa chọn kiểu máy phụ thuộc vào cấp độ của bạn
hỗ trợ; kiểm tra 
`portal.NousResearch.com/models

.

## Định cấu hình Karakeep (hoặc bất kỳ ứng dụng đánh dấu/tóm tắt nào)

[Karakeep](https://karakeep.app/) sử dụng API tương thích với OpenAI để
tóm tắt đánh dấu. Trong cấu hình của nó:

``` bash

# Karakeep .env
OpenAI_API_BASE_URL=http://127.0.0.1:8645/v1
OpenAI_API_KEY=any-non-empty-string
INFERENCE_TEXT_MODEL=Hermes-4-70B

`
``Mẫu tương tự hoạt động cho Open WebUI, LobeChat, NextChat hoặc bất kỳ mô hình nào khác
Máy khách tương thích với OpenAI.

## Chiếu trên mạng LAN

Theo mặc định, proxy liên kết 
`127.0.0.1
` (chỉ localhost). Để cho người khác
các máy trên mạng của bạn sử dụng nó:

``` bash
Hermes proxy start --host 0.0.0.0 --port 8645

`
``⚠ **Lưu ý:** bất kỳ ai trên mạng của bạn hiện có thể sử dụng Cổng thông tin của bạn
đăng ký. Proxy không có quyền xác thực riêng - nó chấp nhận bất kỳ người mang nào.
Sử dụng tường lửa, VPN hoặc proxy ngược với quyền xác thực thích hợp nếu bạn để lộ
điều này nằm ngoài mạng lưới đáng tin cậy của bạn.

## Giới hạn tỷ lệ

Giới hạn RPM/TPM của cấp Cổng thông tin của bạn áp dụng trên toàn bộ proxy. các
proxy không phân tán hoặc gộp lại — nó là một proxy duy nhất với đầy đủ
hạn ngạch đăng ký. Giám sát việc sử dụng tại
[portal.NousResearch.com](https://portal.NousResearch.com).

## Kiến trúc

Proxy là tối thiểu có chủ ý. Mỗi yêu cầu:1. Nhận 
`POST /v1/chat/completions
` từ ứng dụng của bạn

2. Tra cứu thông tin xác thực hiện tại của adapter (làm mới nếu hết hạn)
3. Chuyển tiếp nguyên văn nội dung yêu cầu, với 
`Authorization: Bearer <minted-key

4. Truyền phản hồi trở lại không thay đổi (bảo toàn SSE)

Không có sự biến đổi. Không đăng nhập các cơ quan yêu cầu. Không có vòng lặp đại lý. các
proxy là một thông tin đính kèm thông tin xác thực.

## Tương lai: thêm nhà cung cấp OAuth

Hệ thống bộ chuyển đổi có thể cắm được. Thêm nhà cung cấp mới (ví dụ:
HuggingFace, điểm cuối trò chuyện của GitHub Copilot, Anthropic qua OAuth)
yêu cầu triển khai 
`UpstreamAdapter
` trong
`Hermes_CLI/proxy/adapters/<provider.py
` và đăng ký nó trong
`adapters/__init__.py

. Các nhà cung cấp không tương thích với OpenAI tại
cấp độ giao thức (ví dụ: API thông báo nhân loại) sẽ cần một
lớp chuyển đổi nằm ngoài phạm vi của hình dạng hiện tại.