4.1 Vì sao là đa agent, không phải một agent
Chương này mô tả mô hình trung lập với nhà cung cấp. Các mục 4.2 đến 4.4 chỉ ra mỗi phần nằm ở đâu trong CloudThinker, và Chương 10.3 so sánh với agent riêng của các hyperscaler. Hệ thống production dùng những nhóm chuyên gia được điều phối thay vì một agent đa năng. Lý do rất thực tế:- Chiều sâu thắng chiều rộng. Một chuyên gia Kubernetes với công cụ, prompt và các mẫu đã học dành riêng cho K8s làm tốt hơn agent đa năng trên các vấn đề K8s, giống như các nhóm kỹ sư chuyên môn hóa.
- Phạm vi ảnh hưởng có giới hạn. Mỗi chuyên gia chỉ giữ thông tin xác thực mà miền của nó cần. Agent database không sửa được security group; agent chi phí không drop được bảng.
- Phát triển độc lập. Có thể nâng cấp, đánh giá và rollback từng chuyên gia riêng biệt. Đây là bài học microservices áp dụng cho agent.
- Bàn giao kiểm toán được. Việc ủy quyền giữa các agent tạo ra dấu vết rõ ràng ai quyết định điều gì, thứ mà lập luận nguyên khối che giấu.
- Ủng hộ chuyên môn hóa. Hệ thống nghiên cứu đa agent của Anthropic dùng một agent dẫn dắt chia việc cho các environment chạy song song. Bài viết ghi nhận chất lượng tăng mạnh so với một agent đơn lẻ, đổi lại chi phí token cao hơn nhiều. Chi phí đó là lý do thiết kế hai tầng ở mục 4.3 quan trọng.
- Phản đối làm quá tay. Nhóm Azure SRE Agent của Microsoft viết rằng họ bắt đầu với hơn 100 công cụ và hơn 50 agent chuyên biệt hẹp, và kết thúc với năm công cụ cốt lõi cùng một số ít agent đa năng. Hãy chuyên môn hóa theo miền và ranh giới thông tin xác thực, đừng chia nhỏ thành hàng chục micro-agent. Mỗi agent và công cụ bạn thêm vào đều tốn ngữ cảnh, token và công điều phối.
4.2 Kiến trúc tham chiếu
Một nền tảng vận hành agentic production có năm tầng. Hãy dùng chúng làm danh sách kiểm tra khi đánh giá bất kỳ nền tảng nào hoặc khi tự thiết kế.4.3 Hai tầng: cảm nhận và xử lý
Các thiết kế agent ngây thơ chạy một lệnh gọi model cho mỗi cảnh báo và sụp đổ ở quy mô production. Các nền tảng trưởng thành tách thành hai tầng: tầng cảm nhận rẻ, luôn bật, theo dõi mọi tín hiệu, và tầng suy luận đắt, chỉ chạy một cuộc điều tra nhiều bước đầy đủ khi tầng cảm nhận tìm ra điều gì đáng làm. Đây là điều khiến việc bao phủ 24/7 trở nên vừa túi tiền. Khi đánh giá một nền tảng, hãy hỏi nền tảng quyết định thế nào về những gì được đưa lên tầng đắt, vì quyết định đó chi phối hóa đơn model của bạn. Trong CloudThinker, Pulse là tầng cảm nhận. Pulse loại bỏ bản trùng và nhiễu, nhóm các cảnh báo liên quan thành cluster, và chỉ gửi các cluster có tín hiệu cần hành động sang bước phân loại, nơi CloudThinker mở hoặc ghép vào một sự cố và điều tra. Bạn điều chỉnh những gì được escalate ở ba nơi:- Snooze trong giảm nhiễu loại bỏ các sự kiện bạn đã biết.
- Công tắc On duty trong Resolve → Investigation quyết định CloudThinker tự điều tra hay chờ ai đó nhấn Investigate. Xem Resolve.
- Những nguồn bạn kết nối trong thiết lập Pulse quyết định những gì tới được Pulse.
4.4 Bảo vệ dữ liệu bên trong pipeline
Trong các ngành bị quản lý, telemetry là dữ liệu nhạy cảm: log và truy vấn làm lộ PII của khách hàng, thông tin xác thực và dữ liệu tài khoản. Thực hành tốt đang hình thành là một ranh giới tokenization: một tầng nhận biết PII, thay giá trị nhạy cảm bằng token trước khi dữ liệu tới bất kỳ model nào. Kết hợp với triển khai private, ranh giới này cho phép ngân hàng và các doanh nghiệp bị quản lý khác áp dụng vận hành agentic mà telemetry thô không rời khỏi phạm vi của họ. Chương 6 trình bày chi tiết về lưu trú và kiểm soát dữ liệu.Trong CloudThinker
- Che dữ liệu. Guardrails thay giá trị nhạy cảm bằng placeholder trước khi agent đọc. Email, số điện thoại, thẻ tín dụng, IBAN, địa chỉ MAC, API key và thông tin xác thực cloud được bật mặc định. Địa chỉ IP, public key và cloud account ID mặc định tắt. Bạn có thể thêm pattern ID của riêng mình trong Admin Settings → Guardrails.
- Triển khai. CloudThinker Cloud, Cloud kết hợp Environment trên máy của chính bạn, và các hình thức triển khai dedicated, tự host hoặc air-gapped qua chương trình truy cập sớm. Xem Lựa chọn triển khai.
- Lệnh gọi model trên tài khoản của bạn. BYOK chạy lệnh gọi model trên tài khoản nhà cung cấp model của chính bạn.
Danh sách kiểm tra kiến trúc
Hãy hỏi bất kỳ nhà cung cấp nào, hoặc chính nhóm của bạn:- Có một orchestrator sở hữu phần lập luận xuyên suốt và việc escalate lên con người không?
- Mỗi chuyên gia có chỉ giữ thông tin xác thực mà miền của nó cần không?
- Mọi công việc có đi qua phát hiện, phân tích, xử lý, xác thực, với kết quả được kiểm tra sau khi hành động không?
- Có một tầng cảm nhận rẻ đặt trước tầng suy luận đắt, và bạn có điều chỉnh được những gì được escalate không?
- Định danh cá nhân và thông tin bí mật có được che trước mọi lệnh gọi model không?
- Có lựa chọn triển khai private hoặc tự host cho các workload bị quản lý không?
- Hệ thống có giữ bộ nhớ giữa các sự cố, để không phải bắt đầu từ con số không mỗi lần không?
Bước tiếp theo
Chương 5: Nhóm agent
Xem tầng chuyên gia ánh xạ vào các miền vận hành thực tế thế nào.
Chương 6: Tin cậy, guardrail và quản trị
Đặt các guardrail, phê duyệt và kiểm soát dữ liệu mà kiến trúc này cần.