Chuyển đến nội dung chính
Thiết kế một tổ chức agent chính là thiết kế tổ chức. Các câu hỏi vẫn vậy: ai chịu trách nhiệm việc gì, ai báo cáo cho ai, và công việc được bàn giao ra sao.

5.1 Đội hình cốt lõi

Hầu hết các triển khai production cuối cùng đều chọn một đội agent nhỏ, mỗi agent có phạm vi rõ ràng. Vai trò ổn định quan trọng hơn ta tưởng: agent giữ nguyên phạm vi và bộ nhớ theo thời gian sẽ tích lũy ngữ cảnh, niềm tin và trách nhiệm giống như một đồng nghiệp. Dưới đây là một đội hình tiêu biểu, kèm vị trí của từng vai trò trong CloudThinker. Trong CloudThinker, trợ lý có sẵn CloudThinker đóng vai điều phối (vai trò SuperAgent: agent duy nhất chia việc, định tuyến công việc và chuyển lên con người khi cần). Trợ lý này tạo các subagent tạm thời cho từng lĩnh vực, và bạn thêm custom agent cho những chuyên gia muốn giữ lâu dài. Ngoài đội hình cốt lõi, các tổ chức bổ sung custom agent: chuyên gia được cấu hình cho bề mặt và mục tiêu riêng, như tối ưu chi phí cho một đơn vị kinh doanh, hiệu năng cho một ứng dụng chủ lực, hay quy trình năng suất cho nhóm platform. Custom agent mở rộng đội ngũ do agent điều phối dẫn dắt. Chúng bổ sung cho mô hình, không bao giờ thay thế mô hình.
Hãy bắt đầu với trợ lý có sẵn, và chỉ thêm custom agent khi một tác vụ lặp lại đã có người chịu trách nhiệm, phạm vi rõ ràng và thước đo thành công. Custom agent có phạm vi mơ hồ sẽ cho phát hiện mơ hồ. Tạo agent trong More → Workspace settings → Agents, viết phạm vi vào Instructions, và chỉ gắn những Connections agent cần. Secret được đặt trong Credentials, không đặt trong chat. Xem bắt đầu nhanh với custom agent.

5.2 Công việc đi qua đội như thế nào

Hãy xét một sự cố production tiêu biểu lúc 02:40: độ trễ checkout vượt SLO.
  1. Phát hiện. Lớp cảm biến gom một cảnh báo độ trễ, một đợt tăng lỗi kết nối database và một lần deploy diễn ra 22 phút trước đó thành một sự cố duy nhất, đồng thời chặn bốn mươi mốt cảnh báo phát sinh phía sau.
  2. Phân tích. Agent điều phối huy động song song chuyên gia database và chuyên gia Kubernetes. Agent database phát hiện connection pool cạn kiệt do một mẫu truy vấn N+1 mới; agent Kubernetes xác nhận các pod vẫn khỏe và loại trừ nguyên nhân hạ tầng. Agent điều phối tổng hợp cả hai phát hiện thành một giả thuyết nguyên nhân gốc kèm bằng chứng: lần deploy mới đã đưa vào mẫu truy vấn đó.
  3. Khắc phục. Policy cho phép tự động rollback các lần deploy chưa quá 60 phút khi SLO bị vi phạm. Agent điều phối thực hiện rollback (một thao tác L3 đã được phê duyệt trước), đăng toàn bộ chuỗi lập luận lên kênh sự cố của nhóm để kỹ sư on-call đọc vào buổi sáng, và không gọi dậy ai cả.
  4. Xác thực. Độ trễ trở về mức nền trong vòng bốn phút; tỷ lệ lỗi về bình thường. Hệ thống xác nhận SLO đã phục hồi, mở một ticket problem cho nhóm kỹ thuật kèm truy vấn gây lỗi, soạn báo cáo sau sự cố và lưu mẫu này vào bộ nhớ.
Thời gian xử lý: chưa tới mười phút, không ai phải thức giấc. Sáng hôm sau, một kỹ sư xem báo cáo, sửa truy vấn và phê duyệt lần deploy lại. Cách chia việc đó (máy lo phần thao tác lúc 02:40, con người lo phần phán đoán kỹ thuật lúc 09:00) chính là mô hình đang vận hành đúng như thiết kế. Trong CloudThinker, bạn thể hiện policy rollback này qua hai phần. Thứ nhất, một Rule Allow bao phủ thao tác rollback trên kết nối production, với Runs from đặt là Resolve, để thao tác ghi chạy được mà không cần người duyệt khi CloudThinker bật Rule enforcement cho workspace của bạn. Thứ hai, một runbook nêu rõ khi nào dùng: lần deploy chưa quá 60 phút, SLO bị vi phạm. Cho đến khi bật enforcement, Approval mode của bạn tự quyết định mọi thao tác ghi, nên chính chế độ Auto mới cho phép rollback chạy mà không cần người giám sát.

5.3 Giao diện giữa agent và con người

Agent ở nơi kỹ sư làm việc. Mẫu giao diện chủ đạo là hội thoại kèm bằng chứng: agent đăng phát hiện, kế hoạch và yêu cầu phê duyệt vào Slack hoặc Teams với đầy đủ chuỗi lập luận, liên kết tới bằng chứng, và thao tác phê duyệt/từ chối chỉ bằng một cú nhấn. Dashboard vẫn dùng cho xu hướng và kiểm toán; còn trao đổi vận hành diễn ra trong chat. Có hai nguyên tắc giao diện đặc biệt quan trọng:
  1. Trình bày cách làm. Mọi kết luận đều đi kèm dữ liệu đã xem xét, các giả thuyết đã cân nhắc, và lý do loại bỏ các phương án khác. Lập luận minh bạch là yếu tố lớn nhất tạo nên niềm tin của kỹ sư, và là lời giải cho kiểu thất bại hộp đen từng nhấn chìm AIOps.
  2. Phê duyệt phải dễ, từ chối phải có thông tin. Phê duyệt nên chỉ cần một cú nhấn với đầy đủ ngữ cảnh; từ chối nên ghi lại lý do, vì mỗi lần từ chối là một tín hiệu để tinh chỉnh policy.

5.4 Bằng chứng: bốn triển khai

Bốn triển khai đã ẩn danh, kèm mức tự chủ ban đầu, phạm vi và những gì được đo lường. Ba triển khai đã có kết quả. Triển khai thứ tư đang diễn ra.

1. Công ty tài chính tiêu dùng

  • Vấn đề. Hạ tầng AWS trải rộng trên nhiều tài khoản. Công việc chi phí và sự cố đều làm thủ công, và tìm nguyên nhân khi ứng dụng cho vay gặp lỗi mất hàng giờ tìm kiếm qua nhiều tài khoản.
  • Mức tự chủ được cấp. L1 điều tra trên mọi tài khoản trong bốn tuần lấy mốc nền, đối chiếu với kết quả phân tích nguyên nhân gốc của chính đội vận hành. Sau đó L2 cho các thao tác về chi phí và vệ sinh hạ tầng, với bản sửa được chuẩn bị sẵn để phê duyệt bằng một cú nhấn.
  • Vẫn cần con người kiểm soát. Luồng cho vay cốt lõi giữ ở mức tư vấn trong suốt quá trình.
  • Kết quả. Trong vòng ba tháng: các kết quả như trong bảng trên, cùng với việc giám sát liên tục ngày đêm cho các ứng dụng quan trọng.

2. Nền tảng thanh toán số

  • Vấn đề. Ba cluster Kubernetes production cần nâng cấp phiên bản mà không có khung downtime nào, trong khi chi tiêu cho replica RDS tăng dần.
  • Mức tự chủ được cấp. L2 lên L3 cho vòng đời Kubernetes, điều chỉnh kích thước, tự phục hồi và mở rộng replica, dưới dạng các nhóm thao tác đã phê duyệt trước.
  • Vẫn cần con người kiểm soát. Các bước không đảo ngược được trong quá trình nâng cấp.
  • Kết quả. Việc nâng cấp chạy trên cả ba cluster mà khách hàng không thấy downtime nào. Khoản tiết kiệm từ replica và chi phí vận hành đạt được trong vòng ba tháng.

3. Nền tảng AI / SaaS

  • Vấn đề. Nhà đầu tư muốn sẵn sàng cho SOC 2 và HIPAA trên ba region chịu sự điều chỉnh của GDPR, với mục tiêu availability khắt khe.
  • Mức tự chủ được cấp. L2 cho guardrail tuân thủ, và L2 lên L3 cho khắc phục vận hành, với mọi bước liên quan tới tuân thủ đều được ghi log ngay khi diễn ra.
  • Kết quả. Triển khai ba region trong bốn tuần. Sẵn sàng ở đây nghĩa là các control được tự động hóa và bằng chứng được thu thập ngay trong lúc làm việc, không phải một cuộc audit đã hoàn tất.

4. Nhà cung cấp cloud viễn thông (đang diễn ra)

  • Vấn đề. Hàng trăm người vận hành tự tay chạy health check, sửa drift và thu thập bằng chứng kiểm toán. MTTR không cải thiện dù công cụ và nhân sự tăng lên.
  • Mức tự chủ dự kiến. L1 điều tra trên toàn bộ hạ tầng, sau đó L2 cho tình trạng cluster và drift thường lệ, rồi L3 cho các thao tác lặp lại an toàn nhất (khởi động lại cluster, thay đổi dung lượng, xoay vòng certificate).
  • Vẫn cần con người kiểm soát. Luồng control chịu quản lý, với dấu vết không thể sửa đổi cho mọi thao tác.
  • Kết quả. Việc đo lường đang được tiến hành. Số liệu sẽ được công bố khi kết thúc giai đoạn đo.
Không trường hợp nào ở trên là triển khai core banking. Liên hệ với chúng tôi để có tham chiếu từ các ngân hàng chịu quản lý.
Cách các hyperscaler đưa agent vào làm đồng đội
  • AWS DevOps Agent bắt đầu điều tra từ cảnh báo và chuyển phát hiện cùng các bước giảm thiểu tới Slack và ServiceNow.
  • Azure SRE Agent cho phép các nhóm thêm subagent của riêng mình và kết nối tới các công cụ khác qua MCP server.
Bài học: gặp kỹ sư ngay trong những công cụ họ đang dùng, và trình bày lập luận kèm mọi phát hiện. Trong CloudThinker, điều đó có nghĩa là Slack, Microsoft Teams và Google Chat cho chat, ServiceNow cho ITSM, và PagerDuty làm nguồn cảnh báo.

Bước tiếp theo

Bắt đầu nhanh với custom agent

Tạo custom agent đầu tiên với phạm vi rõ ràng và chỉ những kết nối agent cần.

Chương 6: Niềm tin, guardrail và quản trị

Thiết lập guardrail và các cơ chế kiểm soát dữ liệu để agent giành được nhiều quyền tự chủ hơn một cách an toàn.