에이전트 자동화 글의 90%는 같은 곳에서 어긋난다. 신뢰도 점수를 만들고, 임계값을 정하고, 그 위를 통과시킨다. 그런데 확신도는 그 결정에서 가장 약한 변수다. 강한 변수는 “이게 틀렸을 때 무슨 일이 벌어지는가”다. 확신은 모델이 만드는 숫자고, 폭발 반경은 시스템 구조가 만드는 사실이다. 전자는 조작될 수 있고 후자는 조작되지 않는다.
근거
원문은 게이트를 하나의 임계값이 아니라 레인 분리 문제로 재정의한다. 되돌리기 쉽고 국소적인 변경(문구 수정, 테스트, 커버리지 있는 독립 함수)은 실수 한 번의 비용이 revert 하나이므로 가장 먼저 연다. 되돌릴 수 있지만 넓은 변경(공용 유틸리티, 스키마 추가)은 결정론적 검사와 깨끗한 궤적을 함께 요구한다. 되돌리기 어려운 변경 — 마이그레이션, 삭제, 프로덕션 데이터 쓰기, 자금 이동 — 은 점수와 무관하게 열리지 않는다.
신뢰도 점수를 만들고 임계값을 정한 뒤 그 위의 모든 것을 통과시킨다. 확신은 그 결정에서 가장 약한 변수다.
열린 레인 안에서도 증거에는 서열이 있다. 결정론적 결과(테스트·타입·스키마·샌드박스 실행)가 먼저고, 그다음이 해당 에이전트 버전의 eval 궤적, 그다음이 이 표면에서의 롤백 이력이다. 모델 자신의 평가는 가장 낮게 가중한다 — 모델이 영향을 미칠 수 있는 유일한 입력이기 때문이다.
이 구조가 실무적으로 매력적인 이유는 승인 대기열을 없애지 않고 분해하기 때문이다. 인간의 리뷰 대역폭을 되돌리기 어려운 레인에만 집중시키면, 나머지 레인의 처리량은 사람 수와 무관해진다.
연결된 생각
- 20260809-eval-gate-for-agent-merge — 이 판단 기준이 속한 전체 게이트 설계
- 20260806-agentic-bottleneck-is-organizational-review-structure — 병목이 리뷰 구조라면, 레인 분리는 그 병목을 부수는 가장 값싼 수술이다
- 20260531-agent-count-should-match-review-rate — 리뷰 속도가 상한이라는 문제에 대한 다른 해법