7.1 실행자에서 감독자로
“루프 안의 인간(human in the loop)“은 실행 경로 내부에 있는 사람을 설명한다: 모든 단계가 그들을 기다린다. “루프 위의 인간(human on the loop)“은 감독자를 설명한다: 의도와 정책을 설정하고, 결과적인 액션을 승인하며, 결과를 감사하고, 예외적으로 개입한다. 이 차이는 항공기를 직접 조종하는 파일럿과 자동 조종 장치를 관리하는 파일럿의 차이다 — 두 번째 파일럿이 덜 중요한 것이 아니다. 더 적은 수동 작업으로 더 많은 항공기 상태에 책임지며, 판단이 가장 중요한 순간에 정확히 통제권을 잡는다.그림 7 — 루프 안에서 인간은 작동자다; 루프 위에서 인간은 감독자다.Gartner의 I&O 예측은 기업들이 2020년대 후반으로 갈수록 에이전트 자율성이 증가함에 따라 루프 안의 인간 개입을 빠르게 줄일 것으로 예상한다. 번성할 팀들은 역할이 침식되도록 내버려 두는 것이 아니라 의도적으로 역할을 재설계하는 팀들이 될 것이다.
7.2 역할이 어떻게 변하는가
두 가지 진정으로 새로운 기능이 등장한다. 에이전트 운영 엔지니어는 에이전트 플릿 자체의 상태 — 프롬프트, 툴, 메모리, 평가, 비용 — 를 담당한다. 자율성 정책 소유자 — 주로 수석 SRE 또는 엔지니어링 매니저 — 는 어떤 액션 클래스가 자율성 사다리를 올라가는지를 결정하고 에이전트와 인간이 이견을 보일 때 판단한다. 둘 다 부업이 아닌 커리어 경로다.
7.3 신뢰는 점진적으로 구축된다
엔지니어 신뢰는 예측 가능한 궤도를 따르며, 단계를 건너뛰면 역효과가 난다:- 조사를 지켜본다. 에이전트들이 조언 전용 모드로 실행된다. 엔지니어들은 에이전트의 근본 원인 분석과 자신의 것을 비교한다. 정확도가 다음 단계를 얻는다.
- 액션을 승인한다. 에이전트들이 완전한 해결책을 제안하면 인간이 원클릭으로 승인한다. 모든 승인은 에이전트 판단에 대한 레이블이 붙은 데이터 포인트다.
- 지루한 것을 사전 승인한다. 일관된 승인 기록과 깔끔한 롤백을 가진 액션 클래스들이 통지 후 실행으로 졸업한다.
- 도메인을 위임한다. 경계가 있는 도메인 — 유휴 리소스 정리, 캐시 관리, 인증서 교체 — 이 승인 대신 감사와 함께 완전히 인계된다.