정의
목표가 명확하고 결과물의 평가가 확실한(verifiable) 도메인에서는 LLM을 투입해 검색 공간을 최적화하는 자동화 루프(auto research)가 매우 효과적으로 작동한다. 이는 강화학습(RL)의 원리를 LLM 에이전트에 적용한 것으로, 명확한 보상 신호가 있을 때 컴퓨팅 자원을 투입해 최적 해를 찾아낸다.
핵심 속성
- Verifiable Evaluation: 측정 가능한 목표와 평가 기준이 필수. 예: Loss 값, 정확도 등 scalar metric.
- Self-Improving Loop: 에이전트가 자신의 출력을 평가하고 개선하는 재귀적 루프. (Ralph loop, auto research loop)
- Minimal Manifest: 목표와 조건을 명시한 manifest 파일(예: program.md)이 루프의 중심.
- Domain Dependency: 수학 증명, 코드 최적화 등 검증 가능한 분야에 매우 강력. 농담, 창작 등 비검증 영역에서는 표류(drift).
관계
- 강화학습 — 상위 개념: RL의 원리를 LLM 에이전트에 적용한 구체적 패턴
- 매니페스트 — 하위 개념: 목표를 명시하는 manifest 파일
- 검증 불가능 영역 — 대조: auto research가 실패하는 영역 (예: 농담)
- Ralph 루프 — 유사 개념: 반복적 피드백 루프와 동일한 원리
인용
“검증 가능한 영역에서는 너무 잘 작동하지만 검증하기 어려운 것에서는 다 drift한다” — Andrej Karpathy (clipping 내 인용)
출처
- 📎 클리핑: 20260613-ep98-ko-transcript