정의
알고리즘적으로 검증 가능한 reward function을 만들 수 없는 영역(non-verifiable domain)에 사용자·환경 피드백을 결합해 0/1 라벨을 생성함으로써, 그 영역을 학습 가능한(verifiable) 영역으로 전환하는 폐쇄 시스템. 노정석이 프런티어 모델 시대의 진짜 proprietary data를 정의하기 위해 제시한 개념.
핵심 속성
- 전제: 수학·코딩·과학처럼 verifiable reward function이 가능한 도메인은 프런티어 모델이 RL로 dataset을 자동 생성·정복한다. 살아남으려면 verifiable하지 않은 영역으로 가야 한다.
- proprietary data의 재정의: “남이 못 가진 데이터”가 아니라 “알고리즘으로 참/거짓 synthetic data를 생성할 수 없는 영역의 데이터”.
- 환경(environment)의 역할: VLA 로봇의 vision, Tesla 카메라, 시뮬레이터처럼 환경이 신호를 받아야 라벨이 생긴다. 환경 없이는 라벨 자체를 만들 수 없다.
- closed-loop 구성: 사용자에게 결과를 제시 → 좋아/싫어 피드백 수집 → 라벨화 → 서비스 개선 → 더 나은 데이터 생성 (data flywheel).
- 형태: 특정 vertical domain과 결합된 simulator 또는 AI 서비스 (헬스케어·교육·HR 등).
- 판단 기준: “evaluation 틀이 명확히 상상 안 되는 프로젝트는 시작하면 안 된다.” evaluation metric 정의 = 라벨 0/1 정의.
관계
- 20260528-corpus-is-the-only-moat-left-in-2026 — 연장: 모델·프롬프트가 수렴할 때 남는 비대칭 자산이 코퍼스라는 주장과 동일 구조
- 20260527-three-gulfs-of-ai-evals — 연관: evaluation 없이는 개선 방향을 알 수 없다는 원칙
- 20260508-llm-wiki-pattern — 대조: Karpathy data flywheel의 비즈니스 전략 버전
- 20260530-model-commodity-value-shifts-to-delivery — 연관: 모델이 상품화되면 가치가 다른 레이어로 이동한다
인용
“알고리즘적 방법으로 검증 가능한 reward function을 만들 수 없는 영역. (…) 이 non-verifiable을 verifiable로 바꿔주는 이 closed-loop system이구나라고 저는 이렇게 정의했어요.”