Self-improving agent라는 말은 쉽게 과장된다. 모델이 스스로 weights를 바꾸는 것처럼 들리지만, 실제로 지금 운영 가능한 형태는 다르다. 모델은 그대로 두고, 주변 시스템이 실행 결과를 기록하고, 실패를 분류하고, 검증 기준을 강화하고, 반복되는 절차를 skill로 축적하는 방식이다.
이 관점이 중요한 이유는 책임 소재가 분명해지기 때문이다. 성능이 나빠졌을 때 “모델이 부족하다”고만 말할 수 없다. STATE.md가 없었는지, verifier가 같은 bias를 공유했는지, 실패가 skill로 증류되지 않았는지, cost ceiling과 checkpoint가 없었는지를 봐야 한다. 즉 개선 대상은 prompt가 아니라 운영 구조다.
근거
원문은 self-improving system의 핵심을 STATE.md, Verification Loop, Memory, Skills 네 가지 요소로 설명한다. 실행할수록 상태와 절차 자산이 축적되어 다음 실행 품질을 높이는 구조다.
연결된 생각
- 20260706-self-improving-agent-system-stack — self-improving agent system의 구조화된 stack.
- 20260706-state-memory-skills-agent-loop — 상태 파일, memory, skills가 결합된 최소 loop.
- 20260612-ai-agent-work-harness — 검증·감사 중심 agent harness 관점.