Proactive loop는 매력적이다. 사람이 없어도 schedule이나 event가 prompt를 시작하고, agent가 issue를 분류하고, bug를 고치고, review까지 돌린다. 하지만 위험은 실패만이 아니다. 더 흔한 위험은 너무 오래 “성공처럼” 도는 것이다.
Agent가 계속 뭔가를 하고 있고, log도 남고, token도 쓰고, 작은 patch도 만든다. 겉보기에는 자동화가 작동하는 것처럼 보인다. 하지만 stop condition, frequency, scope, cost ceiling이 없으면 routine은 가치보다 noise를 더 많이 만든다.
그래서 proactive agent를 만들 때는 먼저 작은 routine으로 시작해야 한다. 입력 queue가 명확한가, 완료 조건이 검증 가능한가, 실패 시 escalation할 수 있는가, side effect 범위가 제한되어 있는가를 확인해야 한다. 자동화의 수준을 올리는 것보다 먼저 경계를 설계해야 한다.
연결된 생각
- 20260710-proactive-agent-routine — proactive loop의 구성 요소와 위험.
- 20260710-verifiable-stop-condition — 각 run이 종료되는 기준.
- 20260706-self-improving-agent-system-stack — 반복 실행이 개선으로 이어지려면 상태와 skill 축적이 필요하다.
출처
클리핑 · Hada · Claude blog