8주 프로덕션 관찰의 가장 불편한 숫자: 자동 감사(audit)의 신규 실패 예방률은 0%, 그러나 회귀 차단률은 87%다. 그리고 사일런트 실패의 70%는 테스트도 감사도 아닌, 인간이 사용자 관점(user-view)에서 결과물을 직접 본 순간 발견됐다. 그 시점에 모든 자동 체크는 green이었다.
이 비대칭이 말하는 것: 감사는 “새로운 실패를 미리 잡는 장치”가 아니라 “한 번 잡은 실패가 되돌아오지 못하게 하는 회귀 엔진”이다. 처음 잡는 것은 여전히 사람의 몫이다. 자동화 감시를 늘리는 것으로 육안 확인을 대체하려는 시도는 역할을 오해한 투자다 — 둘은 대체재가 아니라 직렬로 연결된 다른 단계다.
근거
Governance: 예방률 0%, 회귀차단률 87% — “감사는 회귀 엔진”
70%는 human user-view 관찰로 발견. 테스트·감사는 모두 green
이것은 20260610-human-in-the-loop-fallback의 확장이다. HITL 폴백은 “기계가 실패를 자각했을 때” 사람을 부르는 패턴인데, 사일런트 실패는 정의상 기계가 자각하지 못한다. 그래서 폴백 호출을 기다리는 대신 사람이 주기적으로 사용자 관점의 결과물을 직접 보는 순찰(patrol)이 워크플로우에 박혀 있어야 한다. 내 파이프라인에서는 발견한 실패마다 감사 항목을 하나씩 추가하는 방식이 맞다 — 예방용이 아니라 재발 방지용임을 알고 쓰면 된다.
연결된 생각
- 20260706-silent-failure-taxonomy — 이 수치가 나온 원 연구의 분류 체계
- 20260610-human-in-the-loop-fallback — 연장: 폴백 호출조차 없는 실패에는 주기적 육안 순찰이 필요
- 20260515-agent-bottleneck-is-management-not-intelligence — 발견·추적·조정 레이어 부재라는 같은 진단