정의
알고리즘적인 방법만으로는 정답의 참/거짓을 판별할 수 있는 보상 함수(Reward Function)를 생성할 수 없는 영역을 의미한다. 수학, 코딩, 과학과 같이 논리적 검증이 가능한 ‘Verifiable Domain’과 대조되는 개념이다.
핵심 속성
- 검증의 비알고리즘성: 정답 여부를 판단하기 위해 단순 연산이나 로직이 아닌, 인간의 주관적 취향, 실제 물리 세계의 반응, 혹은 특정 비즈니스 맥락에서의 피드백이 반드시 필요하다.
- 합성 데이터 생성의 한계: 에이전트나 프롬프트 조합만으로는 신뢰할 수 있는 참/거짓 라벨을 가진 합성 데이터(Synthetic Data)를 대량으로 자동 생성하기 어렵다.
- 환경 의존성: 데이터의 가치가 모델 자체가 아닌, 데이터를 생성하고 검증하는 ‘환경(Environment)’ 혹은 ‘폐쇄 루프 시스템(Closed-loop System)‘에 귀속된다.
관계
- 20260602-closed-loop-system-as-label-generator — 상위개념: 검증 불가능한 데이터를 검증 가능하게 바꾸는 시스템
- test-time-compute — 대조: 검증 가능한 영역에서 성능을 폭발시키는 핵심 동력
- data-flywheel — 연장: 독점적 데이터를 통해 비즈니스 해자를 구축하는 메커니즘
인용
“무언가 검증 가능한 reward function을 만들 수 있는 영역… 수학이라든지, 과학이라든지, 아니면 코딩—이런 영역들이 그냥 한 번에 다 만들어졌죠. 여기는 dataset이 완전히 reinforcement learning을 통해서 다 자체 생성되는 영역으로 넘어간 것 같아요. … 검증 불가능한 영역으로 그럼 도망가면 되겠구나.”