데이터 분석에서 AI가 범하는 가장 치명적인 오류는 ‘환각(Hallucination)‘이 아니라 ‘용어의 오해’다. 사용자가 묻는 “매출”이 결제 기준인지, 확정 기준인지, 취소분 반영 후인지 AI가 제멋대로 판단하게 두는 순간 데이터의 신뢰도는 붕괴한다. 이를 해결하는 방법은 모델의 기억력(Auto Memory)에 의존하는 것이 아니라, 명시적인 지표 사전(Metric Registry)을 강제하는 것이다.
근거
마이리얼트립은 불투명한 ‘Auto Memory’를 끄고, 대신 26개 핵심 지표를 담은 YAML 기반의 메트릭 레지스트리를 도입했다. 이는 AI에게 도메인 지식을 프롬프트로 주입하는 수준을 넘어, 사용자의 자연어를 시스템 내부의 결정론적 계산식으로 매핑하는 ‘의미론적 브릿지’ 역할을 수행한다. 표현이 달라도 결과는 하나로 수렴해야 한다는 원칙이다.
해결은 prompt가 아니라 카탈로그였어요. … 무엇을 기억했는지 불투명한 메모리는 검증도 관리도 안 됩니다. 명시적 Knowledge만 사용해요.
연결된 생각
- 20260612-myrealtrip-ai-agent-architecture — 명시적 지식을 온디맨드로 로드하는 아키텍처.
- 20260612-trust-comes-from-tests-not-prompts — 명시적 지표는 테스트 가능한 코드가 되어 신뢰를 구축한다.