Chuyển đến nội dung chính
Bring Your Own Key (BYOK) chạy các lệnh gọi mô hình AI phía sau CloudThinker trên tài khoản nhà cung cấp của bạn. Nhà cung cấp tính phí token, còn một lượt chạy trên khóa của bạn chỉ bị trừ một phần nhỏ số credit CloudThinker mà cùng lượt đó tốn khi chạy trên mô hình nền tảng. Số credit này hiển thị trên trang Usage cùng các khoản chi khác. Trang Usage không tách chi tiêu theo việc có dùng khóa của bạn hay không.
BYOK không chặn khi lỗi. Nếu một lệnh gọi trên khóa của bạn thất bại, hoặc khóa đang tạm dừng hay không hoạt động, lượt chạy sẽ chuyển sang mô hình nền tảng của CloudThinker, và không có cài đặt nào để tắt hành vi này. Nếu dữ liệu của bạn chỉ được phép đến tài khoản nhà cung cấp của riêng bạn, hãy theo dõi cảnh báo BYOK Credentials Error và xem Khi khóa ngừng hoạt động.

Điều kiện tiên quyết

  • Gói Scale hoặc Enterprise. Với các gói khác, trang BYOK hiển thị nút Upgrade plan. Xem Pricing.
  • Một workspace của tổ chức. Workspace cá nhân hiển thị No key in a personal workspace.
  • Vai trò phù hợp với loại khóa bạn thiết lập:
Các thành viên khác thấy khóa có hoạt động tốt hay không, nhưng không bao giờ thấy thông tin xác thực.
  • Thông tin xác thực từ một nhà cung cấp:
Google Vertex và các nhà cung cấp tương thích OpenAI hiển thị Soon trong danh sách chọn và chưa chọn được.

Kết nối khóa

1

Mở cài đặt BYOK

Với vai trò Owner, vào Admin Settings → BYOK. Trang có hai phần: This workspace (workspace bạn đang ở) và Organization key.Với vai trò Admin của workspace, vào More → Workspace settings → BYOK và đặt This workspace thành Workspace.
2

Chọn nhà cung cấp

Trong Step 1 Provider, chọn AWS Bedrock, Anthropic, FPT Cloud, Claude Code hoặc Codex.
3

Nhập thông tin xác thực

Điền Step 2 Credentials.Claude Code và Codex không có thông tin xác thực để dán. Step 2 của chúng là bước kết nối: đặt tên cho thông tin xác thực (không bắt buộc), chọn tab phương thức và hoàn tất đăng nhập. Thông tin xác thực tự kết nối, nên không có Step 3 và không có nút Verify and activate. Sau đó, chọn những hàng chạy trên thông tin xác thực này trong bảng What runs on which credential bên dưới các thẻ khóa.
Đặt Sign in with thành IAM role (mặc định). CloudThinker assume role này cho mọi lệnh gọi và không lưu AWS key nào.
  1. Tin cậy CloudThinker. Trong AWS IAM, tạo một role với trust policy mà biểu mẫu hiển thị. Policy có dạng như dưới đây; biểu mẫu điền sẵn principal thật của CloudThinker và một External ID riêng cho phạm vi của khóa này, nên hãy sao chép từ biểu mẫu, không lấy từ workspace khác:
  1. Cho phép Bedrock. Gắn permissions policy mà biểu mẫu hiển thị. Biểu mẫu cũng hiển thị placeholder 111122223333, nên bạn tự thay bằng AWS account ID của mình:
Hai resource foundation-model bao gồm cả hai dạng ARN mà Bedrock dùng cho mô hình gốc, có và không có vùng. Câu lệnh bedrock-mantle bao gồm Mantle inference API của Bedrock, nơi phục vụ các mô hình OpenAI trên Bedrock. Giữ câu lệnh này nếu bạn muốn dùng các mô hình đó trên khóa của mình.
  1. Role ARN. Dán ARN của role vừa tạo.
  2. Region. Giữ Global (recommended) hoặc chọn một vùng AWS. Xem Chọn vùng Bedrock.
4

Chọn mô hình

Step 3 Models on your key liệt kê từng loại công việc cùng mô hình mà khóa của bạn chạy cho loại đó. Giữ mặc định, hoặc nhấn Customize models để đổi một hàng hay đặt hàng đó thành CloudThinker credits. Ít nhất một hàng phải chạy trên khóa của bạn; nếu không, nút sẽ bị vô hiệu hóa kèm thông báo Pick a model for at least one row.
5

Xác minh và kích hoạt

Nhấn Verify and activate. CloudThinker gửi một yêu cầu ngắn cho mỗi mô hình bạn chọn (một token đầu ra, do nhà cung cấp tính phí), rồi lưu và bật khóa.Trạng thái thành công: thẻ khóa hiển thị Active, gợi ý khóa, vùng (với Bedrock) và thời điểm verified. Trong chat, huy hiệu Your key xuất hiện cạnh ô nhập tin nhắn. Để kiểm tra từ phía bạn, tìm các lệnh gọi InvokeModel của role trong AWS CloudTrail, hoặc xem mức sử dụng trong Anthropic Console.
CloudThinker mã hóa thông tin xác thực khi lưu trữ và không bao giờ gửi lại secret đã lưu về trình duyệt.

Những gì chạy trên khóa của bạn

Mỗi hàng trong Step 3 là một loại công việc. Hàng đặt thành CloudThinker credits chạy trên nền tảng và được tính phí như bình thường. Mặc định của các hàng còn lại do bản phát hành CloudThinker hiện tại đặt theo từng nhà cung cấp, nên sẽ thay đổi khi có mô hình mới. Step 3 hiển thị từng mặc định trước khi bạn xác minh; đó chính là danh sách mô hình cần bật trong phần truy cập mô hình của Bedrock. Danh sách mô hình lấy từ nhà cung cấp. Danh sách chọn chỉ đưa ra những mô hình mà nhà cung cấp phục vụ cho khóa và vùng này. Nếu một lựa chọn đã lưu hiển thị Model retired, pick another, hãy chọn mô hình mới cho hàng đó.

Chọn vùng Bedrock

Region quyết định nơi Bedrock được phép phục vụ yêu cầu của bạn. Bạn chọn vùng, CloudThinker chọn cross-region inference profile tương ứng của Bedrock (us., eu., apac. hoặc global.).
Lựa chọn South America chạy như Global, nên yêu cầu có thể rời khỏi Nam Mỹ. Chọn một vùng cụ thể sẽ thu hẹp danh sách mô hình còn những mô hình Bedrock phục vụ ở khu vực địa lý đó. Nếu dữ liệu của bạn phải ở trong một khu vực địa lý, hãy giữ lựa chọn vùng cụ thể và kiểm tra sau khi thiết lập rằng mọi hàng vẫn chạy trên khóa của bạn.

Khóa tổ chức và khóa workspace

This workspace quyết định workspace chạy trên khóa nào: Dòng bên dưới lựa chọn cho biết cấu hình đang có hiệu lực, ví dụ “Turns run on the organization’s AWS Bedrock key.” Để buộc mọi workspace dùng khóa tổ chức, Owner bật Require the organization key in every workspace trong Organization key. Khi đó Admin của workspace không thể thêm khóa riêng hoặc tắt BYOK.

Quản lý khóa

Hai cài đặt khác nhau quyết định mô hình nào chạy:

Khi khóa ngừng hoạt động

Nếu một lệnh gọi trên khóa của bạn thất bại, CloudThinker chuyển sang mô hình nền tảng để công việc hoàn tất. Lệnh gọi đó tiêu credit CloudThinker. Điều này áp dụng cả với lệnh gọi bị nhà cung cấp giới hạn tốc độ, nên nếu hạn mức Bedrock thấp so với khối lượng công việc, hãy tăng hạn mức trong AWS Service Quotas để giữ lượt chạy trên khóa của bạn. Nếu nhà cung cấp từ chối thông tin xác thực (token hết hạn, khóa bị thu hồi, access denied), CloudThinker tắt khóa:
  • Thẻ khóa hiển thị Disabled after error hoặc Key expired, kèm mã lỗi của nhà cung cấp.
  • Một thông báo mức nghiêm trọng cao có tiêu đề BYOK Credentials Error được gửi đến workspace nơi lệnh gọi thất bại, nêu tên nhà cung cấp và mã lỗi.
  • Lượt chạy tiếp tục dùng credit CloudThinker cho đến khi bạn sửa khóa.
Để khôi phục, nhấn Rotate key, nhập thông tin xác thực hợp lệ và nhấn Verify and save.

Khắc phục sự cố

Hộp đỏ Verification failed hiển thị nguyên văn lỗi của nhà cung cấp.
  • Bedrock access denied: kiểm tra role hoặc user có policy Allow Bedrock, và trust policy dùng External ID từ biểu mẫu này.
  • Model not available: bật quyền truy cập cho mô hình đó trong Bedrock console, hoặc chọn mô hình khác cho hàng đó.
  • Một hàng không phục vụ được: đặt hàng đó thành CloudThinker credits rồi xác minh lại.
Bedrock không phục vụ mọi mô hình ở mọi khu vực địa lý. Đổi Region sang Global (recommended), hoặc chọn mô hình được phục vụ ở khu vực đó.
Access key tạm thời ASIA sẽ hết hạn và không gia hạn được. Xoay vòng sang IAM role hoặc khóa cố định AKIA.
  • Thẻ khóa phải hiển thị Active, không phải Saved, paused.
  • Lựa chọn This workspace của workspace không được là Off.
  • Khi chọn Organization, bản thân khóa tổ chức phải đang hoạt động.
Hoặc bạn không phải Admin của workspace, hoặc Owner đã bật Require the organization key in every workspace. Trang sẽ cho biết lý do.

Bước tiếp theo

Usage

Xem số credit các workspace đã tiêu

Giới hạn credit

Đặt giới hạn credit nền tảng mà mỗi workspace được tiêu

Thông báo

Đảm bảo đúng người nhận cảnh báo thông tin xác thực BYOK

Bảo vệ dữ liệu

Những gì mô hình nhìn thấy, và secret cùng thông tin định danh nào được che trước