Andrej Karpathy의 오토 리서치가 보여주는 교훈은 단순하지만 심오하다: 명확한 평가 지표가 있는 문제만 AI가 자동으로 최적화할 수 있다. 검증 가능성(verifiability)은 AI 자동화의 전제 조건이며, 이것이 없는 영역에서는 모델이 표류(drift)한다.
이 원칙은 Karpathy가 농담을 실패한 사례에서 극명하게 드러난다. 농담의 웃음은 주관적이고 맥락 의존적이며, 단일한 scalar 보상으로 축소하기 어렵다. 반면 validation loss, 수학 증명, 코드 실행 결과는 명확한 기준을 제공한다. 이 차이가 딸깍 되는 일과 안 되는 일을 가른다.
더 중요한 함의는: 인간이 앞으로 할 일은 ‘무엇을 평가할지’를 설계하는 일이다. 목표를 verifiable한 형태로 번역하는 능력, 즉 OKR이나 manifest를 작성하는 메타-엔지니어링이 핵심 기술이 된다. 모델이 아무리 좋아져도, 평가 지표가 없으면 자동화는 불가능하다.
근거
“검증 가능한 영역에서는 너무 잘 작동하지만 검증하기 어려운 것에서는 다 drift한다… 농담을 시키면 최신의 모델도 3~4년 전 모델이 하는 정도의 농담을 벗어나지 못합니다.”
연결된 생각
- 20260606-auto-research-verifiability — 이 인사이트의 개념적 기반 (오토 리서치의 정의와 속성)
- 20260606-inefficiency-enables-creativity — 검증 불가능한 영역이 오히려 인간 창의성의 조건이 되는 역설
출처
- 📎 클리핑: 20260613-ep98-ko-transcript