Ilya Sutskever가 ‘감정은 가치 함수’라고 비유한 것은 RL에서 가치 함수가 샘플 효율성을 높이고 탐색을 가이드하는 역할을 감정이 인간에게 수행한다는 통찰이다. 제한된 합리성 문제에서 감정은 휴리스틱으로 작용하여 불확실성 속에서도 결정을 가능하게 한다. 현재 LLM이 보여주는 놀라운 능력과 어처구니없는 실수의 공존은, 모델이 충분한 샘플 효율성과 일반화를 위한 가치 함수적 메커니즘을 결여하고 있음을 시사한다. 이는 향후 AI 연구에서 ‘내적 동기’나 ‘사회적 욕구’를 어떻게 구현할 것인가라는 핵심 질문으로 이어진다.
근거
“감정이 있다면 그런 문제에 도움이 될 수 있죠. 우리가 합리적인 것만으로는 의사결정을 할 수 없는 경우가 많이 있거든요. 결국 불확실성 속에서 도약을 해야 하는 경우가 있죠. 그리고 그 불확실성 속에서 도약을 할 때는 감정 같은 것들이 이성과는 완전히 별개의 영역에서 작용해서 도움이 될 수 있죠.”
연결된 생각
- 20260606-post-scaling-research-paradigm — 감정 가치 함수가 연구 패러다임의 한 축
- 20260606-scaling-era-ended-research-era-begun — 왜 연구의 시대에 이런 개념이 필요한지