AI가 단일 컨텍스트에서 스스로 생성한 결과를 평가할 때 자기편향(self-preferential bias)이 발생한다. 자신이 작성한 가설이나 코드를 객관적으로 판단하지 못하고 선호하는 경향이 생긴다. Thariq의 글은 이 문제를 해결하는 핵심 메커니즘으로 동적 워크플로우의 적대적 검증 패턴을 제시한다. 분리된 에이전트가 서로 다른 증거로부터 가설을 생성하고, 또 다른 에이전트가 이를 부정하거나 검증하는 구조는 인간 팀에서 리뷰어를 분리하는 원리와 본질적으로 같다.
근거
“A workflow can structurally prevent this by spinning up agents to generate hypotheses from disjoint evidence. For example, separate agents for logs, files, and data. Each hypothesis can then face a panel of verifiers and refuters.”
글은 또한 “Adversarial verification” 패턴을 별도로 강조하며, 각 서브에이전트의 출력을 다른 에이전트가 루브릭이나 기준에 따라 적대적으로 검증하도록 설계한다. 이는 단일 AI의 자기검증 한계를 벗어나는 실용적인 방법이다.
연결된 생각
- 20260605-dynamic-workflows-claude-code — 상위개념: 동적 워크플로우의 정의와 속성
- 20260605-adversarial-verification-as-code-review — 연장: 적대적 검증을 코드 리뷰에 구체적으로 적용한 사례