Karpathy와 승준의 실험은 공통된 결론을 보여준다. 검증 가능한 영역에서 AI는 압도적이지만, 농담, 취향, 창의적 산문처럼 subjective한 평가가 필요한 영역에서는 같은 하네스가 전혀 통하지 않는다. 이는 단지 현재 모델의 한계가 아니라, 본질적으로 verifiable reward를 정의하기 어려운 영역은 RL 루프의 범위 밖에 놓여 있음을 의미한다. 앞으로 이런 비검증 영역의 가치가 상대적으로 상승할 것이며, 인간은 자신의 취향과 독창성을 발휘할 수 있는 영역으로 피난처를 이동하게 될 것이다.
근거
Andrej Karpathy는 Sarah Guo와의 인터뷰에서 “농담을 시키면 최신 모델도 3~4년 전 수준을 못 벗어난다. RL이 커버하지 않는 영역”이라고 밝혔다. 최승준은 동일한 auto-research 하네스로 산문과 농담을 각각 생성했을 때, 산문은 탁월했지만 농담은 전혀 웃기지 않았다고 보고했다. 두 경우 모두 모델의 GPT 수준 차이가 아니라 평가 기준의 정량화 어려움에 기인한 것으로 보인다.
“현재 레짐이 프리트레이닝으로 다 깔아놓고 미드트레이닝으로 도메인 훈련을 시키고 포스트트레이닝으로 RL+환경에 하네스까지 하는 것으로는 농담 같은 것들은 포착이 안 되는 쪽이라는 잠정 결론”
연결된 생각
- 20260607-auto-research-verifiable-loop — 오토리서치는 검증 가능한 영역에 한정된 방법론
- 20260607-okr-as-verifiable-translation — 비검증 영역을 검증 가능하게 번역하는 인간의 능력
출처
- 📎 클리핑: 20260613-ep98-ko-transcript