Andrej Karpathy는 Auto Research가 검증 가능한 문제(예: loss 최적화, 수학 증명)에서는 인간을 능가하는 결과를 내지만, 농담과 같이 검증하기 어려운 영역에서는 모델이 수년째 제자리걸음이라고 지적했다. 이는 단순히 RL 훈련 데이터의 부족 문제가 아니라, 현재의 evaluation 패러다임 자체가 정성적 가치를 포착하지 못하는 근본적 한계를 드러낸다. 농담의 웃음은 사회적 맥락, 타이밍, 예상치 못함 등 복합적 요소에 의존하며, 이를 단일 scalar reward로 환원하기 어렵다. 따라서 이러한 영역은 당분간 인간의 고유 영역으로 남을 가능성이 크다. 실제로 최승준이 같은 하네스로 농담을 생성해본 결과 “하나도 안 웃기다”는 경험을 공유하며, 산문(prose)은 상당한 수준으로 생성되었으나 농담은 실패했다는 실증적 증거를 보여주었다.
근거
“농담을 시키면 최신의 모델도 3~4년 전 모델이 하는 정도의 농담을 벗어나지 못합니다. Andrej Karpathy가 생각하기에 이것은 현재 RL이 커버하지 않는 영역인 것 같다는 것이죠.” “같은 메커니즘으로 농담을 쓰게 했거든요. 하나도 안 웃깁니다… 생성된 산문은 탁월하게 느껴지는데 왜 같은 접근으로 농담은 안 될까가 이번 주에 고민이었습니다.” — 최승준
연결된 생각
- 20260605-verifiable-evaluation-principle — 검증 가능한 평가의 원리와 한계 개념 노트
- 20260605-human-value-shifts-to-metric-design — 인간의 가치가 메트릭 설계로 이동한다는 인사이트
출처
- 📎 클리핑: 20260613-ep98-ko-transcript