Nền tảng hỗ trợ
| Nền tảng | Hỗ trợ |
|---|---|
| Confluent Cloud | Tất cả các gói |
| Self-hosted Kafka | 2.8+ (KRaft mode), 3.x |
Điều kiện tiên quyết
- Tài khoản Confluent Cloud với ít nhất một Kafka environment và cluster, HOẶC cluster Kafka 2.8+ (KRaft mode) hoặc 3.x tự lưu trữ có thể truy cập từ CloudThinker.
- Với Confluent Cloud: quyền admin để tạo API key tại confluent.cloud/settings/api-keys.
- Quyền truy cập mạng từ CloudThinker đến các bootstrap server và REST endpoint của Kafka cluster.
Thiết lập
Chọn nền tảng Kafka của bạn để xem hướng dẫn kết nối cụ thể:- Confluent Cloud
- Self-hosted Kafka
Mở Confluent Cloud và chọn environment
Vào confluent.cloud/home, sau đó mở Environments.Nhấn vào environment bạn muốn kết nối.ID của environment xuất hiện trên URL sau khi bạn chọn (ví dụ:
env-xxxxx).Ví dụ điều hướng:- Danh sách environment:
https://confluent.cloud/environments - Mẫu URL khi chọn environment:
https://confluent.cloud/environments/<env-id>/overview
Lấy thông tin Kafka cluster
Trong environment đã chọn, mở Clusters và nhấn vào cluster mục tiêu (ví dụ:
<cluster-name>).Thu thập:BOOTSTRAP_SERVERSKAFKA_REST_ENDPOINTKAFKA_CLUSTER_ID
KAFKA_ENV_ID là ID environment đã chọn từ Bước 1.Tạo API key và secret theo phạm vi
Vào confluent.cloud/settings/api-keys và nhấn + Add API Key.Chọn Service Account cho môi trường production, hoặc My Account cho development/testing.Chọn phạm vi mong muốn trong quy trình onboarding của Confluent, sau đó lưu cặp API key và API secret được tạo.Các phạm vi bạn có thể tạo key:
- Kafka cluster
- Schema Registry
- ksqlDB cluster
- Flink region
- Cloud resource management
- Tableflow
Lấy endpoint Schema Registry (tùy chọn)
Trong environment đã chọn, mở Stream Governance -> Schema Registry.Thu thập:
SCHEMA_REGISTRY_ENDPOINT
https://confluent.cloud/environments/<env-id>/stream-governance/schema-registry/overviewLấy thông tin Flink (tùy chọn)
Trong environment đã chọn, mở Flink.Mở Compute pools và tạo pool mới bằng + Add compute pool nếu cần.Nhấn vào compute pool mục tiêu và thu thập:
FLINK_COMPUTE_POOL_IDFLINK_ENV_ID(cùng ID environment từ URL)
https://confluent.cloud/environments/<env-id>/flink/pools/<compute-pool-id>/overviewĐặt FLINK_REST_ENDPOINT theo nhà cung cấp cloud và region của bạn (AWS, Azure, hoặc GCP; ví dụ: <region-code>).Lấy organization ID (tùy chọn)
Vào confluent.cloud/settings/organizations/edit và thu thập:
FLINK_ORG_ID
Thêm kết nối trong CloudThinker
Trong CloudThinker, điều hướng đến Connections → Kafka.Tạo tệp JSON với các trường cho phạm vi bạn đã bật (xem Mẫu trường kết nối bên dưới). Tải tệp JSON này lên trong biểu mẫu kết nối.Các trường bắt buộc phụ thuộc vào profile của bạn — xem Profiles để biết chi tiết.Nhấn Connect. CloudThinker xác minh thông tin xác thực và hiển thị trạng thái Connected.
Mô hình thông tin xác thực theo phạm vi
Confluent Cloud sử dụng thông tin xác thực API theo phạm vi. Mỗi cặp API key và secret cấp quyền truy cập vào một phạm vi tài nguyên cụ thể.Bạn có thể bắt đầu chỉ với các trường Kafka, sau đó thêm Schema Registry, Flink, Cloud API, hoặc Tableflow sau.| Phạm vi | Tính năng mở khóa | Trường thông thường |
|---|---|---|
| Kafka cluster | Quản lý topic (liệt kê, tạo, xóa, cấu hình), produce/consume message, xem metadata cluster | BOOTSTRAP_SERVERS, KAFKA_API_KEY, KAFKA_API_SECRET, KAFKA_CLUSTER_ID, KAFKA_ENV_ID, KAFKA_REST_ENDPOINT |
| Schema Registry | Liệt kê, kiểm tra và xóa data schema | SCHEMA_REGISTRY_ENDPOINT, SCHEMA_REGISTRY_API_KEY, SCHEMA_REGISTRY_API_SECRET |
| Flink region | Tạo và quản lý Flink SQL statement, khám phá catalog/database/table, kiểm tra sức khỏe và chẩn đoán | FLINK_REST_ENDPOINT, FLINK_API_KEY, FLINK_API_SECRET, FLINK_COMPUTE_POOL_ID, FLINK_ENV_ID |
| Cloud resource management | Khám phá environment và cluster, truy vấn metric vận hành và chi phí billing | CONFLUENT_CLOUD_API_KEY, CONFLUENT_CLOUD_API_SECRET |
| Tableflow | Quản lý topic hỗ trợ Tableflow và tích hợp catalog (ví dụ: AWS Glue) | TABLEFLOW_API_KEY, TABLEFLOW_API_SECRET |
| Organization metadata | Ngữ cảnh cấp tổ chức cho quản lý tài nguyên Flink | FLINK_ORG_ID |
Profiles
Tối thiểu (chỉ Kafka)
Bắt buộc:BOOTSTRAP_SERVERSKAFKA_API_KEYKAFKA_API_SECRETKAFKA_CLUSTER_IDKAFKA_ENV_ID
Tiêu chuẩn (Kafka + Schema Registry + Cloud Management)
Thêm:SCHEMA_REGISTRY_ENDPOINTSCHEMA_REGISTRY_API_KEYSCHEMA_REGISTRY_API_SECRETCONFLUENT_CLOUD_API_KEYCONFLUENT_CLOUD_API_SECRET
Nâng cao (Flink / Tableflow)
Thêm một hoặc nhiều nhóm phạm vi tùy chọn khi cần:- Flink:
FLINK_REST_ENDPOINT,FLINK_API_KEY,FLINK_API_SECRET,FLINK_COMPUTE_POOL_ID,FLINK_ENV_ID - Tableflow:
TABLEFLOW_API_KEY,TABLEFLOW_API_SECRET
Mẫu trường kết nối
Sử dụng mẫu này và điền giá trị cho các phạm vi bạn đã bật:Chi tiết kết nối
Các trường kết nối được gửi dưới dạng tệp JSON chứa thông tin xác thực. Các trường khác nhau tùy theo nền tảng và phạm vi đã bật — xem mẫu đầy đủ trong phần Thiết lập.CloudThinker hỗ trợ onboarding theo phạm vi một phần — bạn có thể bắt đầu chỉ với các trường Kafka và thêm thông tin xác thực Schema Registry, Flink, Cloud API, hoặc Tableflow sau.
| Trường | Nền tảng | Mô tả |
|---|---|---|
BOOTSTRAP_SERVERS | Cả hai | Địa chỉ bootstrap của Kafka cluster (bắt buộc) |
KAFKA_API_KEY / KAFKA_API_SECRET | Confluent Cloud | Thông tin xác thực phạm vi Kafka |
SCHEMA_REGISTRY_ENDPOINT | Cả hai | URL Schema Registry |
SCHEMA_REGISTRY_API_KEY / SCHEMA_REGISTRY_API_SECRET | Confluent Cloud | Thông tin xác thực Schema Registry |
FLINK_REST_ENDPOINT | Confluent Cloud | Endpoint vùng Flink |
CONFLUENT_CLOUD_API_KEY / CONFLUENT_CLOUD_API_SECRET | Confluent Cloud | Thông tin xác thực quản lý Cloud |
TABLEFLOW_API_KEY / TABLEFLOW_API_SECRET | Confluent Cloud | Thông tin xác thực Tableflow |
Quyền yêu cầu
Confluent Cloud: Tạo cặp API key và secret riêng cho từng phạm vi. Hạn chế Kafka ACL chỉ cho các topic mà CloudThinker cần. Thông tin xác thực Cloud Management yêu cầu tối thiểu role MetricsViewer. Self-hosted Kafka: Không cần API key. Đảm bảo địa chỉ bootstrap của broker có thể truy cập từ CloudThinker trên port 9092.Khả năng của agent
Sau khi kết nối, Alex và Tony có thể:| Khả năng | Mô tả |
|---|---|
| Giám sát consumer lag | Theo dõi lag theo consumer group, xác định consumer chậm |
| Phân tích sức khỏe topic | Kiểm tra phân phối partition, replication factor, các partition under-replicated |
| Metric throughput | Giám sát bytes vào/ra, tốc độ message theo topic |
| Sức khỏe broker | Theo dõi tính khả dụng của broker, trạng thái ISR (In-Sync Replicas) |
Xác minh kết nối
Ví dụ prompt
Xử lý sự cố
Kết nối bị từ chối hoặc timeout
Kết nối bị từ chối hoặc timeout
- Xác minh tiến trình Kafka broker đang chạy trên
<broker-name>.<your-domain>. - Kiểm tra rằng port của broker (mặc định 9092) đang mở và không bị chặn bởi firewall.
- Xác minh địa chỉ bootstrap server
<broker-name>.<your-domain>:9092chính xác và có thể truy cập từ CloudThinker. - Đối với development nội bộ, đảm bảo Kafka được bind vào IP có thể truy cập (không chỉ
127.0.0.1).
Trường phạm vi một phần trên Confluent Cloud
Trường phạm vi một phần trên Confluent Cloud
Khi sử dụng onboarding theo phạm vi một phần, hãy xóa toàn bộ cặp key-value cho các phạm vi không dùng. Không để chuỗi rỗng.Đúng (chỉ Kafka, Schema Registry đã xóa hoàn toàn):Sai (giá trị chuỗi rỗng gây lỗi validation):
Kết nối Schema Registry thất bại
Kết nối Schema Registry thất bại
Xác minh URL
SCHEMA_REGISTRY_ENDPOINT chính xác và có thể truy cập từ CloudThinker. Với self-hosted, đảm bảo port 8081 đang mở. Với Confluent Cloud, xác nhận API key của Schema Registry có đúng quyền cho environment của bạn.Bảo mật
- Quyền tối thiểu — chỉ cấp các quyền mà agent cần cho trường hợp sử dụng của bạn; bắt đầu với quyền chỉ đọc và mở rộng sau.
- Chỉ đọc theo mặc định — sử dụng thông tin xác thực chỉ đọc trừ khi bạn muốn agent thực hiện thay đổi qua kết nối này.
- Xoay vòng thông tin xác thực — xoay vòng khóa và token theo lịch trình thông thường của bạn; CloudThinker sẽ lấy giá trị mới khi bạn cập nhật kết nối.
- Thu hồi khi bàn giao — xóa thông tin xác thực tại nhà cung cấp khi bạn xóa một kết nối hoặc khi đồng nghiệp rời nhóm.
- API key giới hạn phạm vi — chỉ cấp các phạm vi mà CloudThinker cần; bắt đầu chỉ với Kafka và thêm Schema Registry, Flink, hoặc Cloud Management dần dần
- Hạn chế mạng — giới hạn bootstrap và REST endpoint chỉ cho IP egress của CloudThinker qua security group hoặc quy tắc firewall
Liên quan
Agent Alex
Agent tối ưu hạ tầng cloud và streaming
Kết nối AWS
Hướng dẫn thiết lập tài nguyên AWS cloud