Chuyển đến nội dung chính
Quyền tự trị phải được giành lấy, không phải cấu hình ra. Quản trị là thứ cho phép bạn trao quyền đó. Chương này liệt kê các cơ chế kiểm soát cần có trước khi agent ghi vào production: một ngăn xếp rào cản năm tầng, các câu hỏi về dữ liệu mà đội bảo mật sẽ đặt ra, và các bề mặt tấn công mà tầng agent mang thêm vào. Mục 6.6 chỉ ra mỗi cơ chế kiểm soát nằm ở đâu trong CloudThinker.

6.1 Khoảng trống quản trị

Các chương trình agentic bị đình trệ khi agent làm mất niềm tin bằng một thay đổi sai, hoặc khi đội rủi ro chặn triển khai vì thiếu bằng chứng. Một chính sách thành văn, một audit trail đầy đủ và một cách dừng agent thật nhanh là những thứ giúp đội rủi ro đồng ý.

6.2 Ngăn xếp rào cản

Rào cản trong production hoạt động ở năm tầng. Mỗi tầng chặn một kiểu lỗi khác nhau, nên bạn cần đủ cả năm. Hai câu hỏi quyết định một hành động nằm ở đâu trong chính sách ở tầng 2: bạn có hoàn tác được không, và hành động đó ảnh hưởng tới bao nhiêu thứ? Một audit trail tốt còn có lợi ích phụ: nó cho bạn bằng chứng thay đổi tốt hơn hầu hết các quy trình do con người vận hành từng tạo ra.

6.3 Lưu trú và kiểm soát dữ liệu

Trước khi bàn về quyền tự trị, đội bảo mật ở ngành bị quản lý sẽ hỏi ba câu. Agent làm thay đổi câu trả lời cho từng câu.
  1. Lưu trú: dữ liệu được lưu và xử lý ở đâu? Agent gửi telemetry tới một reasoning model, một luồng dữ liệu mà công cụ truyền thống chưa từng có. Ranh giới suy luận giờ chính là ranh giới dữ liệu của bạn. Bạn cần biết mỗi lời gọi model chạy ở đâu, nhà cung cấp model ghi log những gì, giữ trong bao lâu, và dữ liệu của bạn có được dùng để huấn luyện model của họ hay không.
  2. Chủ quyền: luật của ai có thể chạm tới dữ liệu? Dữ liệu đi qua một dịch vụ hoặc API model do nước ngoài vận hành có thể thuộc phạm vi luật công bố thông tin của quốc gia đó, bất kể server đặt ở đâu. Với các doanh nghiệp bị quản lý, quan điểm thận trọng là chủ quyền đi theo đơn vị vận hành, không chỉ theo trung tâm dữ liệu.
  3. Kiểm soát: ai nắm công tắc dừng khẩn cấp? Kiểm soát nghĩa là có audit trail bạn xuất và lưu giữ được, có khả năng thu hồi mọi thông tin xác thực của agent cùng lúc, có chính sách lưu giữ bạn thực thi được, và có tuyên bố rõ ràng về những gì đi qua ranh giới của bạn.
Mô hình triển khai là nút điều chỉnh chính cho cả ba câu hỏi. Từ ít kiểm soát nhất đến nhiều kiểm soát nhất: Hai lưu ý thực tế:
  • Các cơ chế kiểm soát cộng dồn. Mẫu hình mạnh nhất trong các triển khai ở ngành bị quản lý kết hợp một bản triển khai tách biệt với lớp che định danh đặt trước mọi lời gọi model. Khi đó, ngay cả suy luận trong region cũng không bao giờ thấy ID khách hàng, thông tin xác thực hay số tài khoản thật.
  • Kiểm soát phải đứng vững qua kiểm toán. Nếu cơ quan quản lý yêu cầu mọi dữ liệu agent đã gửi ra ngoài vành đai của bạn trong tháng Ba, egress log và audit trail của bạn phải trả lời được. Lời cam kết của nhà cung cấp không được tính.
Quy định về dữ liệu đang siết chặt ở châu Á và châu Âu, bao gồm Luật Bảo vệ dữ liệu cá nhân của Việt Nam, hướng dẫn quản lý rủi ro công nghệ của MAS tại Singapore, GDPR của EU và AI Act của EU. Hãy hỏi đội compliance quy định nào áp dụng cho bạn, và đối chiếu từng luồng dữ liệu của agent (telemetry tới model, đầu ra của model tới hệ thống của bạn) với các quy định đó.
Tám câu hỏi về kiểm soát dữ liệu cho mọi nhà cung cấp agentic
  1. Chính xác dữ liệu nào rời khỏi vành đai của chúng tôi, tới endpoint nào, ở region nào?
  2. Suy luận có chạy được trong region, trong instance dedicated, hoặc tự host hoàn toàn không?
  3. Dữ liệu của chúng tôi có được dùng để huấn luyện bất kỳ model nào, của bạn hay của bên thứ ba, và điều đó có nằm trong hợp đồng không?
  4. Định danh cá nhân và secret có được che trước ranh giới model không, và che ở đâu?
  5. Bạn và các nhà cung cấp model của bạn ghi log và lưu giữ những gì, trong bao lâu?
  6. Chúng tôi có chạy lời gọi model trên tài khoản nhà cung cấp model của chính mình được không?
  7. Chúng tôi có xuất được toàn bộ audit trail nếu ngừng dùng dịch vụ của bạn không?
  8. Chúng tôi có thu hồi được mọi thông tin xác thực của agent và dừng mọi thao tác ghi của agent chỉ bằng một thao tác không?
Hãy lấy câu trả lời bằng văn bản trước khi bắt đầu thử nghiệm. Câu trả lời của chính CloudThinker nằm ở mục 6.6 bên dưới.

6.4 Ngành bị quản lý

Ngân hàng, công ty bảo hiểm và các tổ chức tài chính khác được lợi nhiều nhất từ agentic operations: thời gian ngừng hoạt động của họ tốn kém nhất và khối lượng compliance nặng nhất. Họ cũng chịu ràng buộc chặt nhất. Ngoài lưu trú và kiểm soát, gần như mọi triển khai đều gặp ba yêu cầu:
  1. Quản lý rủi ro model. Agent thuộc phạm vi các khung quản lý rủi ro model hiện có: hành vi được tài liệu hóa, bộ đánh giá, tái thẩm định định kỳ và quy trình đối chứng. Hãy lên kế hoạch cho những yêu cầu này trước khi thử nghiệm, không phải sau.
  2. Khớp với quản lý thay đổi. Hành động của agent phải khớp vào quy trình thay đổi hiện có (kiểm tra trước và sau thay đổi, phê duyệt, bằng chứng rollback) thay vì đi vòng qua quy trình đó. Agent nào bỏ qua hội đồng thay đổi sẽ bị tắt.
  3. Bằng chứng cho từng hành động. Với mỗi thao tác ghi của agent, hãy lưu bản ghi về điều gì đã kích hoạt, bằng chứng agent dẫn ra, ai phê duyệt và kết quả, trong suốt thời gian mà hồ sơ thay đổi của bạn phải được lưu giữ. Kiểm tra thời hạn lưu giữ của nền tảng có bao phủ khoảng thời gian đó không, hoặc xuất bản ghi về kho lưu trữ của riêng bạn.

6.5 Mô hình mối đe dọa ở tầng agent

Mọi nội dung ở trên quản lý việc agent được phép làm gì. Mục này nói về chuyện xảy ra khi có người tấn công chính agent. Agent vận hành là một tác nhân có đặc quyền, đọc telemetry và thực hiện hành động, nên agent trở thành mục tiêu. Hãy lập mô hình mối đe dọa cho agent như với bất kỳ dịch vụ đặc quyền mới nào. Năm bề mặt tấn công thường lặp lại, và mỗi bề mặt có một biện pháp giảm thiểu cần yêu cầu trước khi bạn trao quyền tự trị: Trên thực tế, prompt injection qua log trông như sau. Một dòng log như thế này phải được đọc như bằng chứng, không bao giờ được làm theo:
Một agent được xây dựng tốt sẽ báo cáo dòng này là một lỗi timeout kèm một chuỗi đáng ngờ, và lệnh xóa không bao giờ chạy vì không có chính sách nào cho phép. Không mối đe dọa nào trong số này là lý do để không triển khai. Chúng là lý do để triển khai cùng ngăn xếp rào cản và audit trail ở mục 6.2. Agent sai một cách tự tin và agent bị điều khiển có chủ đích xấu thất bại ở cùng một chỗ, và cùng các cơ chế kiểm soát sẽ chặn được cả hai.
Nguyên tắc thiết kế: xây audit trail trước, quyền tự trị sau. Nền tảng nào chứng minh được mình đã làm gì và vì sao, với kỹ sư, kiểm toán viên hay cơ quan quản lý, sẽ được phép làm nhiều hơn.

6.6 Các cơ chế kiểm soát này nằm ở đâu trong CloudThinker

Nếu bạn đang đánh giá CloudThinker, đây là nơi kiểm tra từng cơ chế kiểm soát.

Câu trả lời của CloudThinker cho tám câu hỏi

Một cấu hình ban đầu an toàn

  1. Đặt workspace thành Manual trước khi kết nối bất cứ thứ gì. Trong Run types, cũng override Automations thành Manual: dòng đó mặc định là Auto · Rules + AI · Refuse và không đi theo workspace. Mỗi cuộc chat có thể chọn chế độ riêng, nên hãy kiểm tra cả chế độ trong khung soạn thảo. Workspace mới bắt đầu với Auto · Rules + AI · Ask me, khi đó AI judgment có thể cho một thao tác ghi không có Rule áp dụng tự chạy nếu đánh giá thao tác đó an toàn và đúng phạm vi. Hãy chuyển sang mặc định đó khi nhóm của bạn đã tin các đề xuất của agent trên hệ thống của mình (xem §7.5).
  2. Bật các định danh trong Guardrails khớp với dữ liệu trong log của bạn.
  3. Chỉ chấp nhận Rule Allow cho thao tác ghi đã vượt ngưỡng tốt nghiệp ở §8.2. Rule Allow chỉ tự chạy thao tác ghi ở chế độ Auto, và chỉ khi CloudThinker đã bật Rule enforcement cho workspace của bạn; trước đó, chỉ Approval mode quyết định. Ở chế độ Manual, người duyệt vẫn phải phê duyệt các thao tác này.
Approvals hướng dẫn thiết lập từng bước. Tiếp theo: Chương 7 · Con người trên vòng lặp trình bày vai trò thay đổi thế nào khi các cơ chế kiểm soát này đã sẵn sàng, và cách nâng quyền tự trị từng bước một.