정의

알고리즘적인 방법이나 프롬프트 엔지니어링만으로는 정답 여부를 판별할 수 있는 보상 함수(Reward Function)를 생성할 수 없는 영역의 데이터 집합을 의미한다.

핵심 속성

  • 비검증성(Non-Verifiability): 참/거짓 또는 성공/실패를 기계가 스스로 판단할 수 없으며, 인간의 취향, 주관, 혹은 실제 물리적 환경의 피드백이 반드시 개입되어야 한다.
  • 합성 데이터 생성의 한계: 에이전트나 추론 모델이 스스로 정답지를 만들어 학습 데이터를 무한히 생성(Self-generation)하는 것이 불가능하다.
  • 상대적 개념: 기술 발전에 따라 과거에 검증 불가능했던 영역(예: 복잡한 수학 증명, 물리 시뮬레이션)이 검증 가능한 영역으로 편입되기도 한다.

관계

인용

“알고리즘적 방법으로 검증 가능한 reward function을 만들 수 없는 영역. prompt work이나 agent를 잘 조합해도 참과 거짓이 명확한 synthetic data를 잘 생성할 수 없는 영역들이 여기에 포함돼요.”

출처

클리핑 · youtu.be