Ilya Sutskever가 “감정은 가치 함수다”라고 말한 것은 RL 프레임워크에서 인간의 의사결정을 재해석한 것이다. 완전히 합리적인 존재는 불확실성 속에서 결정을 내리지 못하며, 감정은 일종의 휴리스틱 역할을 해서 제한된 시간과 정보 내에서 빠르게 행동을 선택하게 한다. 이는 AGI에 내적 동기를 부여하는 열쇠가 될 수 있다. 현재 LLM은 spiky한 능력과 어이없는 실수를 공존시키는데, 이는 일반화보다 평가 최적화(bench-maxxing)에 치우친 결과다. 진정한 일반화를 위해서는 감정과 같은 가치 함수가 필요하다.
근거
“감정이 있다면 그런 문제에 도움이 될 수 있죠. 우리가 합리적인 것만으로는 의사결정을 할 수 없는 경우가 많이 있거든요. 결국 불확실성 속에서 도약을 해야 하는 경우가 있죠.”
“사람이 탐색을 할 때는 냄새에 대한 욕구… 언어 게임에 들어가면서 사회적인 욕구들이 내적 동기가 됩니다. 그 내적 동기를 어떻게 구현할 수 있는가가 흥미로운 주제입니다.”
이러한 관점은 RL에서 가치 함수가 샘플 효율성을 높이는 것과 유사하다. 감정이 없는 에이전트는 모든 가능성을 계산하려 하다가 행동하지 못하지만, 감정(가치 함수)은 ‘이 상태가 좋다/나쁘다’는 빠른 판단을 내릴 수 있게 한다.
연결된 생각
- 20260606-continual-learning-and-post-scaling-paradigm — 지속 학습은 내적 동기와 직결된다.
- 20260606-scaling-age-ended-research-age-begun — 연구 시대에는 이러한 휴리스틱 메커니즘을 모델에 통합하는 작업이 포함된다.
출처
- 📎 클리핑: 20260613-ep98-ko-transcript