LLM의 자동 메모리(Auto Memory) 기능은 편리하지만 비즈니스 환경에서는 치명적인 독이 될 수 있다. 무엇을 기억했는지 불투명한 상태에서는 답변의 근거를 검증할 수 없기 때문이다. 따라서 중요한 비즈니스 규칙은 명시적인 지식 층(Knowledge Layer)으로 관리해야 한다.
근거
동일한 “매출” 질문에 대해 결제 기준, 확정 기준, 취소분 반영 여부가 그때그때 다르게 답해진다면 AI는 도구로서의 가치를 잃는다. 이를 해결하기 위해 프롬프트에 정의를 구구절절 적는 대신, YAML과 같은 구조화된 카탈로그(Metric Registry)에 매핑하여 강제로 결정론적 결과를 산출하게 해야 한다.
Auto Memory는 껐어요. 무엇을 기억했는지 불투명한 메모리는 검증도 관리도 안 됩니다. 명시적 Knowledge(Metric Registry, rules, skills, dbt YAML)만 사용해요.
연결된 생각
- 20260611-metric-registry-for-ai-agents — 결정론적 카탈로그의 구체적인 구현체
- 20260611-ai-reliability-comes-from-engineering-not-prompts — 명시적 지식을 기반으로 테스트를 돌려야 신뢰도가 쌓임