Ilya Sutskever가 “감정은 가치 함수다”라고 말한 것은 단순한 비유가 아니다. 이는 인간의 의사결정 메커니즘에 대한 깊은 통찰이자, 현재 LLM이 결여하고 있는 핵심 요소를 지적한다. 합리성만으로는 불확실성 속에서 의사결정을 내릴 수 없으며, 감정이라는 휴리스틱이 그 공백을 채운다는 주장이다.
근거
뇌 절제술로 감정 능력을 상실한 환자들은 오히려 합리적인 결정을 내리지 못하고 선택 자체가 불가능해진다는 사례가 있다. 이는 ‘감정이 없는 완전한 합리성’이라는 이상이 실제로는 의사결정을 마비시킨다는 것을 보여준다.
“사람들이 생각하듯 감정이 없으면 완벽하고 철두철미하게 합리적인 결정만 할 수 있을 것이다. 그런데 실제로 일어나는 일은 결정을 전혀 못 하는 상태가 되는 거죠.”
RL의 가치 함수(Value Function)는 ‘어떤 상태가 얼마나 큰 보상으로 이어질지’를 추정한다. 감정은 이와 동일한 기능을 수행하지만, 완전한 계산 없이도 즉각적인 판단을 가능하게 하는 휴리스틱 역할을 한다. ‘더러운 것을 보면 피하는’ 혐오 감정은 위험을 계산하지 않고도 생존에 유리한 선택을 하게 만든다. 이는 제한된 합리성(Bounded Rationality)의 핵심 메커니즘이다.
연결된 생각
- 20260605-true-agi-is-system-not-model — 연장: 감정이라는 가치 함수가 시스템의 자기 수정 능력과 어떻게 결합되어야 하는지
- bounded-rationality-and-heuristics — 상위개념: 제한된 합리성 이론과 휴리스틱의 역할
출처
- 📎 클리핑: 20260613-ep98-ko-transcript