정의
Self-Improving Agent System Stack은 agent가 한 번 task를 완료하는 데서 끝나지 않고, 실행 기록과 실패 패턴을 상태 파일과 memory에 남기고, verifier loop로 품질을 점검하며, 반복되는 성공 패턴을 skill로 축적하는 운영 구조다. 핵심은 모델이 스스로 weights를 바꾸는 것이 아니라, 모델을 둘러싼 실행 환경이 반복 실행을 통해 더 날카로워지는 것이다.
핵심 속성
- STATE.md 중심성: 실행 단계, 완료 phase, checkpoint, cost, current state, restart pointer를 기록해 장시간 실행과 재시작을 가능하게 한다.
- Verification Loop: executor와 verifier를 분리해 output을 기준에 따라 검증하고, 실패 시 feedback을 다시 executor에게 보낸다.
- Memory 계층화: working memory, episodic memory, procedural memory를 구분한다.
- Skills Library: 반복되는 prompt, workflow, code pattern을 reusable asset으로 만든다.
- Dynamic Router: task complexity, cost sensitivity, quality requirement에 따라 model과 agent를 배정한다.
- Failure as Asset: 실패를 제거해야 할 noise가 아니라 다음 실행을 개선하는 training signal로 저장한다.
- Human-in-the-loop: 비용 초과, 고위험 의사결정, unknown state는 인간에게 escalation한다.
관계
- 20260612-ai-agent-work-harness — 상위 기반: agent output을 검증하고 통제하는 하네스 관점.
- 20260704-code-explainer-docs-as-understanding-harness — 보완: verifier loop가 output correctness를 다룬다면 explainer docs는 human understanding을 다룬다.
- 20260706-claude-code-lab — 출처 계정: Claude/Fable agent system guide를 게시한 X 계정.
인용
Self-improvement is a property of the system around the model, not necessarily weight-level learning inside the model.