AI 에이전트를 설계할 때 중앙 통제소 역할을 하는 ‘오케스트레이터(Orchestrator)‘에게 모든 컨텍스트와 회사 정책, 도메인 지식을 주입하려는 유혹은 매우 강하다. 똑똑한 비서 한 명에게 모든 것을 알려주고 알아서 처리하게 만드는 것이 직관적으로 보이기 때문이다.
그러나 이런 접근은 ‘비대한 프롬프트(Mega Prompt)‘를 낳고, 모델의 추론 성능을 저하시키며, 토큰 비용을 폭발적으로 증가시킨다. 마이리얼트립의 AI 에이전트 구조는 이와 정반대의 길을 걷는다. 그들의 오케스트레이터는 도메인 지식에 대해 철저히 ‘무지’하다. 단지 어떤 작업이 들어왔고, 누구에게 넘겨야 하는지 ‘흐름’만 통제할 뿐이다.
실제 데이터 분석, SQL 작성, 보고서 작성에 필요한 구체적인 도메인 지식은 실무를 담당하는 서브 에이전트(Worker)가 호출되는 순간에만 온디맨드(Lazy Load)로 주입된다. 지휘자는 악기를 연주하지 않고, 악보 전체를 외울 필요도 없이 템포와 큐 사인만 조율한다.
라우팅 계층과 지식 계층을 물리적으로 분리하는 것. 이 단순하지만 강력한 디커플링(Decoupling) 패턴이 대규모 요청을 경제적이고 안정적으로 처리하는 멀티 에이전트 아키텍처의 핵심 비밀이다.
근거
핵심은 orchestrator가 가볍다는 점. 도메인 지식은 들고 다니지 않고, 필요한 worker를 필요한 순간에만 불러옵니다 (lazy load). Knowledge를 on-demand로 부르면 품질은 지키면서 비용은 낮출 수 있어요.
연결된 생각
- 20260610-enterprise-ai-agent-architecture — 오케스트레이터 패턴은 이 기업용 AI 아키텍처의 중추 역할을 수행한다.