정의

검증 가능 신호 루프(Verifiable Signal Loop)는 AI 시스템이 명확하게 정의된 평가 지표(보상 신호)를 기반으로 스스로 반복 개선하는 자기 증강 학습 패턴이다. 이는 AlphaGo의 Monte Carlo Tree Search, Andrej Karpathy의 Autoresearch, Ralph loop의 계획-실행-평가 주기 등 다양한 형태로 나타나며, 오늘날 프론티어 추론 모델의 핵심 동력이다.

핵심 속성

  • 명확한 평가 지표: 보상이 미분 가능하거나 이진 성공/실패로 정의 가능해야 한다. (예: 바둑 승패, 벤치마크 점수, 코드 컴파일 성공 여부)
  • 무한 반복: 목표 달성까지 중단 없이 반복한다. (Autoresearch의 “never stop” 원칙)
  • 자기 증강: 외부 데이터 없이 스스로 생성한 경험으로 개선한다. (RLHF, RLVR 등)
  • 도메인 한계: 평가가 신속하고 명확한 영역(게임, 코딩, 수학, AI 훈련 하이퍼파라미터 최적화 등)에서 가장 효과적이다.

관계

인용

“오늘날 최전선 추론 모델들을 가능하게 한 핵심 방식은 놀랍게도 AlphaGo와 비슷하다. 방대한 양의 인간 데이터를 모방하고, 더 나은 추론을 위해 추론 시점에 연산량을 늘린다. 당시에는 Monte Carlo Tree Search였는데 오늘날에는 Chain of Thought다.” — Noam Brown

출처

클리핑 · youtu.be