Andrej Karpathy와 Terence Tao의 인터뷰는 공통된 결론을 시사한다: 강화학습 루프가 작동하는 영역(정량적 평가가 가능한 영역)에서는 AI가 인간을 압도하거나 곧 압도할 것이며, 그렇지 않은 영역(농담, 창의적 판단, 전략적 맥락 읽기)은 여전히 인간의 역할이 중요하다는 것이다. 이는 단순히 AI의 한계를 지적하는 것을 넘어, 인간이 집중해야 할 가치 영역을 명확히 해준다.
근거
Karpathy는 농담이 RL이 커버하지 못하는 영역이며, 최신 모델도 3~4년 전 수준을 벗어나지 못한다고 말한다. Terence Tao는 수학에서도 검증 가능한 증명 기계(Lean)로 해결되는 문제와 그렇지 않은 암묵적 추론 영역이 존재함을 지적한다. 또한 최승준의 실험에서 동일한 하네스로 산문은 탁월한 결과를 냈지만 농담은 실패한 점이 이를 뒷받침한다.
“농담을 시키면 최신의 모델도 3~4년 전 모델이 하는 정도의 농담을 벗어나지 못합니다.” — Andrej Karpathy
연결된 생각
- 20260603-verifiability-driven-automation — 상위 개념 (검증-주도 자동화의 원리)
- 20260603-why-jokes-fail-ai — 동일한 사례 (농담 실패의 구체적 분석)
- 20260603-tacit-knowledge-harnessing-advantage — 확장 (검증 불가능 영역을 하네스화하는 전략)
출처
- 📎 클리핑: 20260613-ep98-ko-transcript