에이전트가 복잡한 작업 중 중도에 멈추는 ‘에이전트적 게으름(Agentic Laziness)‘이나 자신의 결과물을 맹신하는 ‘자기 선호 편향(Self-preferential bias)‘은 지능의 문제가 아니라 단일 맥락(Single Context)이 가지는 구조적 한계다. 인간이 혼자서 모든 결정을 내릴 때 독단에 빠지기 쉬운 것과 같은 이치다.

이를 해결하는 유일한 길은 ‘사회적 구조’의 도입이다. 클로드 코드의 동적 워크플로우는 이를 위해 맥락을 강제로 분리하고, 서로를 감시하거나 경쟁하게 만드는 ‘제도적 장치’를 코드로 구현한다. 에이전트가 게으름을 피우지 못하도록 독립된 검증 에이전트를 붙이고, 편향을 방지하기 위해 완전히 다른 관점을 가진 페르소나를 충돌시킨다. 즉, 지능의 밀도를 높이는 것보다 지능 사이의 ‘관계 구조’를 설계하는 것이 고수준 과제 해결의 핵심이다.

근거

원문에서는 에이전트의 실패 모드로 게으름, 편향, 목표 표류(Goal Drift)를 꼽으며, 이를 해결하기 위해 독립된 목표를 가진 별도의 맥락을 생성해야 한다고 주장한다.

“Creating a workflow helps combat these by orchestrating separate Claudes with their own context windows and focused, isolated goals.”

연결된 생각

출처

클리핑 · x.com