정의

단순히 AI 에이전트의 실행 추적(Trace)을 기록하는 것을 넘어, 실패 원인을 진단하고 수정 코드를 제안하며 이를 회귀 테스트로 확정하여 시스템을 자동으로 개선하는 일련의 순환 구조다.

핵심 속성

  • 진단 자동화 (Ollie): 실행 스팬 트리(Span Tree)를 분석하여 최종 답변이 왜곡된 근거를 코드 수준에서 파악.
  • 코드 수정 제안: 소스 코드와 연동하여 실패를 유발한 지점의 Diff를 생성하고 사용자의 승인을 대기.
  • 회귀 방지 (Regression Locking): 승인된 수정 사항이 적용된 실패 케이스를 자동으로 테스트 스위트에 추가하여 향후 동일 오류 방지.
  • 에이전트 샌드박스: 프롬프트나 모델 변경이 전체 에이전트 그래프에 미치는 영향을 운영 환경과 동일한 조건에서 사전 검증.

관계

인용

“실제 병목은 관측성이 아닙니다. 트레이스가 화면에 나타난 이후에 일어나야 하는 모든 일들(원인 분석, 패치 작성, 테스트)이 진짜 병목입니다.”

출처

클리핑 · x.com