AI 에이전트의 성능 저하와 비용 폭발의 주범은 모든 맥락을 하나의 거대한 프롬프트에 밀어 넣는 ‘모놀리식 프롬프트’다. 마이리얼트립의 사례는 요청의 수신(Listener), 관리(Dispatcher), 흐름 제어(Orchestrator), 실제 수행(Worker)을 엄격히 분리함으로써 이 문제를 해결한다. 특히 오케스트레이터가 도메인 지식을 직접 들고 있지 않고 필요한 순간에만 워커를 ‘지연 로딩(Lazy load)‘하는 방식은 고성능 소프트웨어 공학의 원리를 AI 에이전트에 그대로 이식한 탁월한 접근이다.
근거
단일 프롬프트는 모델의 추론 부하를 높이고, 불필요한 토큰 소비를 야기하며, 수정 시 사이드 이펙트를 예측하기 어렵게 만든다.
“큰 prompt 하나로 다 시키면 성능도 저하되고, 비용은 폭발적으로 증가합니다. 결국 4단으로 분업했습니다. … 핵심은 orchestrator가 가볍다는 점. 도메인 지식은 들고 다니지 않고, 필요한 worker를 필요한 순간에만 불러옵니다 (lazy load).”
연결된 생각
- 20260515-myrealtrip-data-agent-architecture — 이 통찰이 적용된 전체 시스템 구조
- 20260515-deterministic-metric-registry — 가벼운 오케스트레이터를 가능케 하는 명시적 지식 레이어