정의

마이리얼트립에서 일일 500건 이상의 데이터 분석 요청을 처리하기 위해 구축한 다계층 AI 에이전트 실행 프레임워크(Harness)다. 단일 프롬프트의 한계를 극복하기 위해 분업화된 워크플로우와 명시적인 지식 레이어를 결합한 것이 특징이다.

핵심 속성

  • 4단 분업 구조:
    • Listener: Slack 메시지 수신 및 샤드(Shard) 전달.
    • Dispatcher: 중복 제거, 쓰레드 잠금, 세션 관리.
    • Orchestrator: 흐름 제어 전담. 도메인 지식을 보유하지 않고 필요 시 워커를 호출(Lazy Load).
    • Worker: 분석, 검색, 보고서 작성 등 실제 태스크 수행.
  • Metric Registry: 비즈니스 지표의 정의, 필터, 계산식을 담은 YAML 기반의 결정론적 지식 저장소.
  • 안전망 시스템: Role(권한), Gate(판정), Rule(자연어 정책), Hook(코드 레벨 차단)의 4중 구조.

관계

  • llm-orchestration — 상위개념: 대규모 언어 모델의 복합적 태스크 수행을 위한 운영 체계
  • metric-registry — 하위개념: 데이터의 비즈니스적 의미를 LLM에게 전달하는 시맨틱 레이어
  • deterministic-ai-safety — 연장: 자연어 제어를 넘어 코드 레벨에서 실행을 강제하는 안전 메커니즘

인용

“Harness로 흐름을 만들고, Knowledge Layer로 기준을 만들고, Hook으로 신뢰를 만들면 일을 돕는 AI가 아니라, 일을 하는 AI를 만들게 됩니다.”

출처

클리핑 · linkedin.com