거대한 프롬프트 하나에 모든 기능을 때려넣는 방식은 에이전트의 지능을 떨어뜨리고 운영 비용을 기하급수적으로 높인다. 대신, 흐름만을 관장하는 가벼운 ‘오케스트레이터’를 두고, 특정 기능(분석, 보고서 등)을 수행하는 ‘워커’를 필요할 때만 불러오는(Lazy Load) 구조가 대규모 서비스 운영의 핵심이다. 이는 소프트웨어 공학의 ‘관심사 분리(SoC)’ 원칙을 에이전트 설계에 적용한 것이다.
근거
마이리얼트립은 오케스트레이터가 도메인 지식을 직접 들고 다니지 않게 설계하여 컨텍스트 윈도우 낭비를 막고 비용을 최적화했다. 워커는 요청이 있을 때만 필요한 지식을 로드하여 전문적인 태스크를 수행한다.
“핵심은 orchestrator가 가볍다는 점. 도메인 지식은 들고 다니지 않고, 필요한 worker를 필요한 순간에만 불러옵니다 (lazy load). Knowledge를 on-demand로 부르면 품질은 지키면서 비용은 낮출 수 있어요.”
연결된 생각
- 20260609-myrealtrip-ai-data-agent-harness — 오케스트레이터-워커 분업 아키텍처
- lazy-loading-in-agentic-workflows — 에이전트 워크플로우에서의 지연 로딩 전략