정의

자기 교정 루프는 LLM이 생성한 결과물을 외부 피드백이나 검증 메커니즘을 통해 평가하고, 오류를 스스로 수정하며 그 과정을 학습 데이터로 전환하는 반복적인 아키텍처 구조를 의미한다.

핵심 속성

  • 외부 검증기(External Verifier): 모델 내부의 자기 비판이 아닌, 독립적인 맥락에서 결과의 정합성을 판단하는 장치.
  • 5단계 메모리 주기: 실패(Fail) → 조사(Investigate) → 검증(Verify) → 증류(Distill) → 참조(Consult)로 이어지는 지식 축적 프로세스.
  • 비휘발성 메모리: 컨텍스트 윈도우 내부의 일시적 기억이 아닌, 디스크(RAG 또는 로그)에 저장되어 세션을 가로질러 유지되는 지식 구조.

관계

인용

직접 프롬프트를 잘 다루는 것보다, 자기 교정 루프(self-correction loop)와 세션 간 메모리를 설계하는 것이 훨씬 더 중요해졌습니다!

출처

클리핑 · x.com