정의

알고리즘적으로 검증 가능한 reward function을 만들 수 없는 영역(non-verifiable domain)에 사용자·환경 피드백을 결합해 0/1 라벨을 생성함으로써, 그 영역을 학습 가능한(verifiable) 영역으로 전환하는 폐쇄 시스템. 노정석이 프런티어 모델 시대의 진짜 proprietary data를 정의하기 위해 제시한 개념.

핵심 속성

  • 전제: 수학·코딩·과학처럼 verifiable reward function이 가능한 도메인은 프런티어 모델이 RL로 dataset을 자동 생성·정복한다. 살아남으려면 verifiable하지 않은 영역으로 가야 한다.
  • proprietary data의 재정의: “남이 못 가진 데이터”가 아니라 “알고리즘으로 참/거짓 synthetic data를 생성할 수 없는 영역의 데이터”.
  • 환경(environment)의 역할: VLA 로봇의 vision, Tesla 카메라, 시뮬레이터처럼 환경이 신호를 받아야 라벨이 생긴다. 환경 없이는 라벨 자체를 만들 수 없다.
  • closed-loop 구성: 사용자에게 결과를 제시 → 좋아/싫어 피드백 수집 → 라벨화 → 서비스 개선 → 더 나은 데이터 생성 (data flywheel).
  • 형태: 특정 vertical domain과 결합된 simulator 또는 AI 서비스 (헬스케어·교육·HR 등).
  • 판단 기준: “evaluation 틀이 명확히 상상 안 되는 프로젝트는 시작하면 안 된다.” evaluation metric 정의 = 라벨 0/1 정의.

관계

인용

“알고리즘적 방법으로 검증 가능한 reward function을 만들 수 없는 영역. (…) 이 non-verifiable을 verifiable로 바꿔주는 이 closed-loop system이구나라고 저는 이렇게 정의했어요.”

출처

클리핑 · 클리핑2 · youtu.be