마이리얼트립의 AI 에이전트 설계에서 가장 인상적인 점은 오케스트레이터가 ‘도메인 지식을 들고 다니지 않고’ 오직 흐름만 책임진다는 것이다. 필요한 worker를 lazy load하는 방식은 비용과 품질이라는 트레이드오프를 해결하는 실용적인 전략이다. 많은 AI 시스템이 모든 지식을 한 번에 컨텍스트에 넣으려다 비용이 폭발하고 품질이 떨어지는 경험을 하는데, 이 사례는 반대 접근을 보여준다.
근거
원문에서: “orchestrator가 가볍다는 점. 도메인 지식은 들고 다니지 않고, 필요한 worker를 필요한 순간에만 불러옵니다 (lazy load). Knowledge를 on-demand로 부르면 품질은 지키면서 비용은 낮출 수 있어요.”
이는 소프트웨어 공학의 지연 로딩(lazy loading) 패턴을 AI 에이전트에 적용한 사례다. 많은 팀이 하나의 거대한 프롬프트에 모든 지식을 넣어 비용은 기하급수적으로 증가하고, 관련 없는 정보가 추론에 노이즈를 주어 정확도를 떨어뜨린다. 오케스트레이터를 가볍게 유지하고 필요할 때만 worker를 호출하면, 추론 비용은 호출당 지식의 양에 비례하므로 평균 비용이 크게 낮아진다. 또한 worker가 각각 특화되어 있으므로 품질도 유지된다.
연결된 생각
- 20260605-ai-agent-harness-pattern-myrealtrip — 이 에이전트의 Harness 구조 전체를 설명하는 개념 노트
- lazy-loading-in-llm-pipelines — 지연 로딩 패턴을 다른 LLM 파이프라인에 적용한 사례와 비교해볼 가치가 있다.