정의
알고리즘적으로 검증 가능한 reward function(0/1 label)을 만들 수 없는 데이터 영역. 이 영역은 프런티어 모델(AGI)이 자동으로 데이터를 생성하여 학습할 수 없기 때문에, 스타트업이 지속 가능한 경쟁 우위(proprietary data)를 확보할 수 있는 유일한 공간이다.
핵심 속성
- 검증 불가능성 (Unverifiability): reward function을 수학적으로 정의할 수 없어 synthetic data 생성이 불가능함. 예: 인간의 취향, 미적 판단, 맥락 의존적 의사결정.
- 환경 의존성 (Environment Dependency): non-verifiable 영역을 verifiable로 바꾸려면 closed-loop system(환경)이 필요. 이 환경은 사용자 피드백, 시뮬레이터, 실제 물리적 상호작용 등을 통해 label을 생성함.
- Proprietary Data의 진정한 정의: “너만 가질 수 있는 데이터”란 검증 불가능한 영역에서 환경을 통해 수집한 label 데이터로, 프런티어 모델이 크롤링하거나 생성할 수 없는 데이터.
- Data Flywheel 가능성: 환경이 label을 생성 → 서비스 개선 → 더 많은 사용자/상호작용 → 더 많은 label → 선순환 구조 형성.
관계
- 20260602-ai-business-two-axes — 상위개념: AI 비즈니스의 두 축(인프라 vs 수직통합) 중 수직통합 전략의 핵심 요소.
- 20260603-verifiable-reward-signal — 대조: Verifiable reward function이 있는 영역(수학, 코딩)은 빅테크가 자동 데이터 생성으로 장악.
- 20260606-closed-loop-system-as-moat — 하위개념: Non-verifiable을 verifiable로 변환하는 시스템/환경의 정의와 예시.
인용
“알고리즘적 방법으로 검증 가능한 reward function을 만들 수 없는 영역. … 이런 부분들이 prompt work이나 agent를 아무리 잘 조합해도 참과 거짓이 명확한 synthetic data를 잘 생성할 수 없는 영역.”