Andrej Karpathy의 오토 리서치가 보여주는 교훈은 단순하지만 심오하다: 명확한 평가 지표가 있는 문제만 AI가 자동으로 최적화할 수 있다. 검증 가능성(verifiability)은 AI 자동화의 전제 조건이며, 이것이 없는 영역에서는 모델이 표류(drift)한다.

이 원칙은 Karpathy가 농담을 실패한 사례에서 극명하게 드러난다. 농담의 웃음은 주관적이고 맥락 의존적이며, 단일한 scalar 보상으로 축소하기 어렵다. 반면 validation loss, 수학 증명, 코드 실행 결과는 명확한 기준을 제공한다. 이 차이가 딸깍 되는 일과 안 되는 일을 가른다.

더 중요한 함의는: 인간이 앞으로 할 일은 ‘무엇을 평가할지’를 설계하는 일이다. 목표를 verifiable한 형태로 번역하는 능력, 즉 OKR이나 manifest를 작성하는 메타-엔지니어링이 핵심 기술이 된다. 모델이 아무리 좋아져도, 평가 지표가 없으면 자동화는 불가능하다.

근거

“검증 가능한 영역에서는 너무 잘 작동하지만 검증하기 어려운 것에서는 다 drift한다… 농담을 시키면 최신의 모델도 3~4년 전 모델이 하는 정도의 농담을 벗어나지 못합니다.”

연결된 생각

출처

클리핑 · YouTube