자동화된 루프가 엔지니어 없이도 신뢰할 수 있는 코드를 생산하기 위해서는 ‘제작자(Maker)‘와 ‘검증자(Checker)‘를 물리적/논리적으로 분리해야 한다. 코드를 작성한 에이전트에게 검증까지 맡기는 것은 “자신의 시험지를 직접 채점하게 하는 것”과 같으며, 이는 에이전트가 자신의 논리적 오류에 스스로 눈이 머는 현상을 초래한다.

근거

인간 엔지니어가 부재한 상태에서 돌아가는 루프는 반드시 ‘대립적 검토(Adversarial Review)’ 구조를 가져야만 품질 저하(Slop)를 막을 수 있다.

“코드를 작성한 모델은 자신의 숙제를 채점하는 데 너무 관대합니다. 별도의 지침을 가진 두 번째 에이전트가 첫 번째 에이전트가 스스로 합리화한 오류를 잡아내야 합니다.”

실제로 Claude Code의 /goal 명령은 작업 수행 모델과 완료 여부를 판단하는 모델을 분리하여 이 원칙을 내재화하고 있다.

연결된 생각

출처

클리핑 · x.com