7.1 Từ người thực thi đến người giám sát
Cụm từ “human in the loop” (con người trong vòng lặp) mô tả một người bên trong đường dẫn thực thi: mọi bước đều chờ đợi họ. “Human on the loop” (con người trên vòng lặp) mô tả một người giám sát: họ đặt mục đích và chính sách, phê duyệt các hành động quan trọng, kiểm toán kết quả và can thiệp theo ngoại lệ. Sự khác biệt là sự khác nhau giữa một phi công lái máy bay bằng tay và một phi công quản lý hệ thống lái tự động — phi công thứ hai không kém quan trọng hơn; họ chịu trách nhiệm về nhiều trạng thái máy bay hơn với ít khối lượng công việc thủ công hơn, và họ nắm quyền điều khiển chính xác khi phán đoán quan trọng nhất.Hình 7 — Trong vòng lặp, con người là bộ thực động; trên vòng lặp, con người là người giám sát.Dự báo I&O của Gartner dự kiến các doanh nghiệp nhanh chóng giảm sự tham gia của human-in-the-loop khi tính tự chủ của agent tăng lên trong cuối những năm 2020. Các nhóm thành công sẽ là những nhóm thiết kế lại vai trò một cách có chủ ý thay vì để sự xói mòn xảy ra với họ.
7.2 Cách các vai trò thay đổi
Hai chức năng thực sự mới xuất hiện. Kỹ sư vận hành agent sở hữu sức khỏe của đội agent — prompt, công cụ, bộ nhớ, đánh giá, chi phí. Chủ sở hữu chính sách tự chủ — thường là một SRE cấp cao hoặc người quản lý kỹ thuật — quyết định các lớp hành động nào tốt nghiệp lên thang tự chủ và phân xử khi agent và con người không đồng ý. Cả hai đều là lộ trình sự nghiệp, không phải nhiệm vụ phụ.
7.3 Tin tưởng được xây dựng từng bước
Sự tin tưởng của kỹ sư đi theo một cung có thể dự đoán, và việc bỏ qua các giai đoạn sẽ phản tác dụng:- Quan sát nó điều tra. Các agent chạy ở chế độ chỉ tư vấn; các kỹ sư so sánh phân tích nguyên nhân gốc rễ của agent với của họ. Độ chính xác kiếm được bước tiếp theo.
- Phê duyệt các hành động của nó. Các agent đề xuất các biện pháp khắc phục hoàn chỉnh; con người phê duyệt một chạm. Mỗi phê duyệt là một điểm dữ liệu được gán nhãn về phán đoán của agent.
- Phê duyệt trước những việc nhàm chán. Các lớp hành động có hồ sơ phê duyệt nhất quán và rollback sạch tốt nghiệp lên hành động-kèm-thông-báo.
- Ủy thác các lĩnh vực. Các lĩnh vực giới hạn — dọn dẹp tài nguyên nhàn rỗi, quản lý cache, luân chuyển chứng chỉ — được bàn giao từ đầu đến cuối, với kiểm toán thay thế phê duyệt.