정의

알고리즘적인 방법만으로는 정답의 참/거짓을 판별할 수 있는 보상 함수(Reward Function)를 생성할 수 없는 영역을 의미한다. 수학, 코딩, 과학과 같이 논리적 검증이 가능한 ‘Verifiable Domain’과 대조되는 개념이다.

핵심 속성

  • 검증의 비알고리즘성: 정답 여부를 판단하기 위해 단순 연산이나 로직이 아닌, 인간의 주관적 취향, 실제 물리 세계의 반응, 혹은 특정 비즈니스 맥락에서의 피드백이 반드시 필요하다.
  • 합성 데이터 생성의 한계: 에이전트나 프롬프트 조합만으로는 신뢰할 수 있는 참/거짓 라벨을 가진 합성 데이터(Synthetic Data)를 대량으로 자동 생성하기 어렵다.
  • 환경 의존성: 데이터의 가치가 모델 자체가 아닌, 데이터를 생성하고 검증하는 ‘환경(Environment)’ 혹은 ‘폐쇄 루프 시스템(Closed-loop System)‘에 귀속된다.

관계

인용

“무언가 검증 가능한 reward function을 만들 수 있는 영역… 수학이라든지, 과학이라든지, 아니면 코딩—이런 영역들이 그냥 한 번에 다 만들어졌죠. 여기는 dataset이 완전히 reinforcement learning을 통해서 다 자체 생성되는 영역으로 넘어간 것 같아요. … 검증 불가능한 영역으로 그럼 도망가면 되겠구나.”

출처

클리핑 · youtube.com