Andrej Karpathy는 Sarah Guo와의 인터뷰에서 농담을 예시로 들어 “RL이 커버하지 못하는 영역”이 존재한다고 지적했다. 최신 모델조차 3~4년 전 수준의 농담을 벗어나지 못하며, 검증 가능한 문제(verifiable)는 초광속으로 정복하지만 검증 불가능한 문제에서는 완전히 표류(drift)한다는 것이다.
이 말을 듣고 나는 직접 실험을 해봤다. 같은 하네스(루프+인수조건)로 산문을 생성했을 때는 놀라울 정도로 창의적인 결과물이 나왔다. 하지만 똑같은 구조로 농담을 생성하게 하자 전혀 웃기지 않았다. 스탠드업 코미디의 구조, 시트콤 패턴, 일본 만자이 등 다양한 레퍼런스를 리서치하게 했지만 결과는 빈약했다. 모델은 ‘무엇이 웃긴지’는 잘 판별하지만, 스스로 웃긴 것을 만들어내지는 못하는 셈이다.
이는 단순한 데이터 부족 문제가 아니라 평가 함수(evaluation function) 자체를 정의하기 어려운 근본적 한계를 드러낸다. 코딩이나 수학과 달리 ‘재미’는 문화 컨텍스트, 타임라인, 심리적 거리감 등 수많은 변수에 의존하며, 이를 스칼라 보상으로 압축하는 게 현재 체계에서는 불가능하다. Andrej의 말처럼 “이 영역들이 꽤 있고 그래서 능력이 들쭉날쭉하다”는 점이 현실이다.
그러나 바로 여기에 인간의 기회가 있다. AI가 쉽게 대체하지 못하는 이 영역은 우리가 시간을 투자할 가치가 있는 ‘딸깍 되지 않는 일’의 좋은 예다. 농담, 유머, 취향, 감성적 판단 — 이것들은 여전히 인간의 고유 영역이며, 앞으로도 상당 기간 인간의 개입과 가치를 필요로 할 것이다.
근거
“농담을 시키면 최신의 모델도 3~4년 전 모델이 하는 정도의 농담을 벗어나지 못합니다. Andrej Karpathy가 생각하기에 이것은 현재 RL이 커버하지 않는 영역인 것 같습니다.” — 클리핑 중 최승준의 발췌 “같은 메커니즘으로 농담을 쓰게 했거든요. 하나도 안 웃깁니다.” — 최승준의 실험 결과
연결된 생각
- 20260606-verifiability-hierarchy-in-ai-automation — 이 개념의 상위 프레임워크: 검증 가능성 계층이 설명하는 경계
- 추후-취향-가치함수-구현 — 취향을 RL 가치 함수로 구현할 가능성 (향후 연구 방향)
출처
- 📎 클리핑: 20260613-ep98-ko-transcript