Điều kiện tiên quyết
- Gói Scale hoặc Enterprise. Với các gói khác, trang BYOK hiển thị nút Upgrade plan. Xem Pricing.
- Một workspace của tổ chức. Workspace cá nhân hiển thị No key in a personal workspace.
- Vai trò phù hợp với loại khóa bạn thiết lập:
Các thành viên khác thấy khóa có hoạt động tốt hay không, nhưng không bao giờ thấy thông tin xác thực.
- Thông tin xác thực từ một nhà cung cấp:
Google Vertex và các nhà cung cấp tương thích OpenAI hiển thị Soon trong danh sách chọn và chưa chọn được.
Kết nối khóa
1
Mở cài đặt BYOK
Với vai trò Owner, vào Admin Settings → BYOK. Trang có hai phần: This workspace (workspace bạn đang ở) và Organization key.Với vai trò Admin của workspace, vào More → Workspace settings → BYOK và đặt This workspace thành Workspace.
2
Chọn nhà cung cấp
Trong Step 1 Provider, chọn AWS Bedrock, Anthropic, FPT Cloud, Claude Code hoặc Codex.
3
Nhập thông tin xác thực
Điền Step 2 Credentials.Claude Code và Codex không có thông tin xác thực để dán. Step 2 của chúng là bước kết nối: đặt tên cho thông tin xác thực (không bắt buộc), chọn tab phương thức và hoàn tất đăng nhập. Thông tin xác thực tự kết nối, nên không có Step 3 và không có nút Verify and activate. Sau đó, chọn những hàng chạy trên thông tin xác thực này trong bảng What runs on which credential bên dưới các thẻ khóa.
- Bedrock: IAM role
- Bedrock: access key
- Anthropic
- FPT Cloud
Đặt Sign in with thành IAM role (mặc định). CloudThinker assume role này cho mọi lệnh gọi và không lưu AWS key nào.Hai resource
- Tin cậy CloudThinker. Trong AWS IAM, tạo một role với trust policy mà biểu mẫu hiển thị. Policy có dạng như dưới đây; biểu mẫu điền sẵn principal thật của CloudThinker và một External ID riêng cho phạm vi của khóa này, nên hãy sao chép từ biểu mẫu, không lấy từ workspace khác:
- Cho phép Bedrock. Gắn permissions policy mà biểu mẫu hiển thị. Biểu mẫu cũng hiển thị placeholder
111122223333, nên bạn tự thay bằng AWS account ID của mình:
foundation-model bao gồm cả hai dạng ARN mà Bedrock dùng cho mô hình gốc, có và không có vùng. Câu lệnh bedrock-mantle bao gồm Mantle inference API của Bedrock, nơi phục vụ các mô hình OpenAI trên Bedrock. Giữ câu lệnh này nếu bạn muốn dùng các mô hình đó trên khóa của mình.- Role ARN. Dán ARN của role vừa tạo.
- Region. Giữ Global (recommended) hoặc chọn một vùng AWS. Xem Chọn vùng Bedrock.
4
Chọn mô hình
Step 3 Models on your key liệt kê từng loại công việc cùng mô hình mà khóa của bạn chạy cho loại đó. Giữ mặc định, hoặc nhấn Customize models để đổi một hàng hay đặt hàng đó thành CloudThinker credits. Ít nhất một hàng phải chạy trên khóa của bạn; nếu không, nút sẽ bị vô hiệu hóa kèm thông báo Pick a model for at least one row.
5
Xác minh và kích hoạt
Nhấn Verify and activate. CloudThinker gửi một yêu cầu ngắn cho mỗi mô hình bạn chọn (một token đầu ra, do nhà cung cấp tính phí), rồi lưu và bật khóa.Trạng thái thành công: thẻ khóa hiển thị Active, gợi ý khóa, vùng (với Bedrock) và thời điểm verified. Trong chat, huy hiệu Your key xuất hiện cạnh ô nhập tin nhắn. Để kiểm tra từ phía bạn, tìm các lệnh gọi
InvokeModel của role trong AWS CloudTrail, hoặc xem mức sử dụng trong Anthropic Console.Những gì chạy trên khóa của bạn
Mỗi hàng trong Step 3 là một loại công việc. Hàng đặt thành CloudThinker credits chạy trên nền tảng và được tính phí như bình thường.
Mặc định của các hàng còn lại do bản phát hành CloudThinker hiện tại đặt theo từng nhà cung cấp, nên sẽ thay đổi khi có mô hình mới. Step 3 hiển thị từng mặc định trước khi bạn xác minh; đó chính là danh sách mô hình cần bật trong phần truy cập mô hình của Bedrock.
Danh sách mô hình lấy từ nhà cung cấp. Danh sách chọn chỉ đưa ra những mô hình mà nhà cung cấp phục vụ cho khóa và vùng này. Nếu một lựa chọn đã lưu hiển thị Model retired, pick another, hãy chọn mô hình mới cho hàng đó.
Chọn vùng Bedrock
Region quyết định nơi Bedrock được phép phục vụ yêu cầu của bạn. Bạn chọn vùng, CloudThinker chọn cross-region inference profile tương ứng của Bedrock (us., eu., apac. hoặc global.).
Khóa tổ chức và khóa workspace
This workspace quyết định workspace chạy trên khóa nào:
Dòng bên dưới lựa chọn cho biết cấu hình đang có hiệu lực, ví dụ “Turns run on the organization’s AWS Bedrock key.” Để buộc mọi workspace dùng khóa tổ chức, Owner bật Require the organization key in every workspace trong Organization key. Khi đó Admin của workspace không thể thêm khóa riêng hoặc tắt BYOK.
Quản lý khóa
Hai cài đặt khác nhau quyết định mô hình nào chạy:
Khi khóa ngừng hoạt động
Nếu một lệnh gọi trên khóa của bạn thất bại, CloudThinker chuyển sang mô hình nền tảng để công việc hoàn tất. Lệnh gọi đó tiêu credit CloudThinker. Điều này áp dụng cả với lệnh gọi bị nhà cung cấp giới hạn tốc độ, nên nếu hạn mức Bedrock thấp so với khối lượng công việc, hãy tăng hạn mức trong AWS Service Quotas để giữ lượt chạy trên khóa của bạn. Nếu nhà cung cấp từ chối thông tin xác thực (token hết hạn, khóa bị thu hồi, access denied), CloudThinker tắt khóa:- Thẻ khóa hiển thị Disabled after error hoặc Key expired, kèm mã lỗi của nhà cung cấp.
- Một thông báo mức nghiêm trọng cao có tiêu đề BYOK Credentials Error được gửi đến workspace nơi lệnh gọi thất bại, nêu tên nhà cung cấp và mã lỗi.
- Lượt chạy tiếp tục dùng credit CloudThinker cho đến khi bạn sửa khóa.
Khắc phục sự cố
Verification failed
Verification failed
Hộp đỏ Verification failed hiển thị nguyên văn lỗi của nhà cung cấp.
- Bedrock access denied: kiểm tra role hoặc user có policy Allow Bedrock, và trust policy dùng External ID từ biểu mẫu này.
- Model not available: bật quyền truy cập cho mô hình đó trong Bedrock console, hoặc chọn mô hình khác cho hàng đó.
- Một hàng không phục vụ được: đặt hàng đó thành CloudThinker credits rồi xác minh lại.
Access denied chỉ sau khi chọn vùng
Access denied chỉ sau khi chọn vùng
Bedrock không phục vụ mọi mô hình ở mọi khu vực địa lý. Đổi Region sang Global (recommended), hoặc chọn mô hình được phục vụ ở khu vực đó.
Khóa liên tục tự tắt
Khóa liên tục tự tắt
Access key tạm thời
ASIA sẽ hết hạn và không gia hạn được. Xoay vòng sang IAM role hoặc khóa cố định AKIA.Không có huy hiệu Your key trong chat
Không có huy hiệu Your key trong chat
- Thẻ khóa phải hiển thị Active, không phải Saved, paused.
- Lựa chọn This workspace của workspace không được là Off.
- Khi chọn Organization, bản thân khóa tổ chức phải đang hoạt động.
Không đổi được cài đặt workspace
Không đổi được cài đặt workspace
Hoặc bạn không phải Admin của workspace, hoặc Owner đã bật Require the organization key in every workspace. Trang sẽ cho biết lý do.
Bước tiếp theo
Usage
Xem số credit các workspace đã tiêu
Giới hạn credit
Đặt giới hạn credit nền tảng mà mỗi workspace được tiêu
Thông báo
Đảm bảo đúng người nhận cảnh báo thông tin xác thực BYOK
Bảo vệ dữ liệu
Những gì mô hình nhìn thấy, và secret cùng thông tin định danh nào được che trước