정의

오토리서치는 목표와 평가 지표가 명확히 정의된 문제(verifiable reward)에 대해 LLM 기반 에이전트를 반복 실행하여 최적해를 탐색하는 방법론이다. 목표(manifest)를 기술한 파일과 대상 코드를 두고, 에이전트가 매 루프마다 결과물을 자기 개선하며 검증 기준을 충족할 때까지 반복한다.

핵심 속성

  • 목표의 명확성: program.md 같은 manifest 파일에 행위 의지와 성공 기준을 코드화한다.
  • 검증 가능한 평가: Loss, 정확도, 인수 조건(ATD) 등 정량적 지표로 성공 여부를 판단한다.
  • RL 루프 구조: 에이전트가 행동→평가→피드백→수정을 자율적으로 반복한다.
  • 자기 개선 가능: 스스로 코드와 문서를 수정하며 성능을 향상시킨다.
  • 표류(drift) 한계: 검증하기 어려운 영역(농담, 창의성 등)에서는 방향을 잃고 표류한다.

관계

인용

“목표가 명확히 되고 그 목표에 대한 결과물의 evaluation을 확실하게 할 수만 있다면, 그 중간에 있는 것이 문서든 연구든 GitHub 레포든 모델이든 어떤 형태로든 LLM을 투입해서 토큰을 투입해서 최적화, optimize 할 수 있다.”

출처

클리핑 · youtube.com