Chương 1 · Giải phẫu một agent vận hành

​

1.1 Vòng lặp, một cách chính xác

loop (one step):
  if budget exceeded or loop detected:       # step, token, time budgets; checked first
      escalate with partial findings         # say what was checked and what wasn't
  context   = system_prompt + task + memory + retrieved_context + tool_results_so_far
  decision  = model.reason(context)          # hypothesis, plan, or tool selection
  if decision is tool_call:
      result = execute(tool, args)           # via policy + sandbox (Ch. 5-6)
      append result to trajectory            # feeds the next step
  elif decision is conclusion:
      emit finding | plan | verification     # with evidence attached
  elif decision is escalation:
      hand to a human with evidence so far   # low confidence, or needs approval

​

1.2 Một bước thực sự tốn bao nhiêu

1. Ngữ cảnh chiếm phần lớn chi phí. Kết quả công cụ (trích đoạn log, chuỗi metric, bản dump cấu hình) hầu như luôn là dòng token lớn nhất, không phải phần suy luận của chính model. Kiểm soát những gì quay lại vòng lặp là tối ưu hóa đầu tiên: tóm tắt, cắt bớt, hoặc truyền một con trỏ thay vì toàn bộ dữ liệu.
2. Số bước là độ trễ của bạn. Mỗi bước là một vòng gọi model đầy đủ. Một cuộc điều tra 40 bước trên một frontier model chậm không thể phản hồi theo thời gian thực. Gọi công cụ song song và giao việc cho chuyên gia (Chương 4) giúp giảm độ trễ không kém gì việc cải thiện chất lượng.
3. Ngân sách là guardrail. Agent production chạy với trần rõ ràng về số bước, token, thời gian và chi tiêu cho mỗi tác vụ. Agent production cũng cần một bộ phát hiện vòng lặp: một kiểm tra nhận ra cùng một công cụ đang được gọi với cùng đối số mà không tạo ra hiệu quả mới. Agent không có ngân sách chính là một sự cố chi phí chỉ chờ một cuối tuần vắng người để xảy ra.

​

1.3 Ranh giới tất định

​

1.4 Xác minh là điều làm nên một agent

• Kiểm tra các tín hiệu độc lập. Cảnh báo đã tắt không phải là bằng chứng. Lần khởi động lại che giấu lỗi cũng có thể tắt cảnh báo, một kiểu thất bại được ghi nhận trong các benchmark công khai (Chương 7). Hãy xác minh với một tín hiệu mà bản sửa không thể làm im lặng, như thăm dò SLO hoặc so sánh trạng thái trước/sau.
• Đặt thời hạn cho xác minh. Đặt một cửa sổ soak rõ ràng. Khi cửa sổ kết thúc, hệ thống hoặc tuyên bố thành công kèm bằng chứng, hoặc chuyển cấp với một rollback đã được chuẩn bị sẵn.

​

Bước tiếp theo