진정한 의미의 ‘세션 간 메모리’는 단순히 이전 대화를 데이터베이스에 저장하는 행위가 아니다. 실패한 경험에서 일반적인 규칙을 추출(Distill)하고, 이를 다음 실행 시점에 참조할 수 있는 ‘지식의 압축 과정’이 필수적이다. 모델이 ‘기억’하게 만드는 것이 아니라, 우리가 모델이 ‘기억할 수 있는 구조’를 설계해 주어야 한다.
근거
Claude Fable 5에서 발견된 5단계 메모리 주기는 실패를 단순한 손실로 처리하지 않고 자산화하는 과정을 보여준다.
- 실패 문서화 → 2. 원인 파악 → 3. 진단의 사실 검증 → 4. 규칙으로 압축 → 5. 다음 세션 활용. 이 과정에서 핵심은 ‘증류(Distill)‘다. 방대한 실패 로그를 다 읽는 것이 아니라, 거기서 추출된 핵심 규칙만을 디스크에 남겨 다음 컨텍스트에 주입하는 것이다.
모델이 ‘기억’하는 것이 아니라 우리가 모델에게 기억할 수 있는 구조를 주는 것.. 이게 중요해요. Memory는 디스크에 있어야지, 컨텍스트 안에만 있으면 안 된다.
연결된 생각
- 20260611-self-correction-loop — 이 순환 구조가 완성될 때 모델은 비로소 경험을 통해 진화한다.
- 20260611-loop-architecture-over-prompts — 메모리 구조의 설계가 곧 롱테일 문제를 해결하는 열쇠다.