Ilya Sutskever가 “감정은 가치 함수”라고 비유한 것은 인간의 의사결정 과정에서 감정이 하는 역할을 AI에 적용하려는 깊은 통찰이다. 순수한 이성만으로는 불확실성 속에서 선택이 불가능하며, 감정(가치 함수)은 효율적인 의사결정을 위한 휴리스틱 역할을 한다. 이는 LLM이 진정한 에이전트가 되기 위해 필요한 내적 동기(intrinsic motivation)와 연결된다. OpenAI의 Yao Shunyu도 수학 증명과 같은 장기적인 보상이 없는 탐색에서 내적 동기의 중요성을 언급한 바 있다. 이 비유는 단순히 감정의 존재를 인정하는 것을 넘어, AI가 인간처럼 ‘도약’할 수 있는 메커니즘을 제공할 수 있다는 점에서 중요하다. 현재의 보상 함수는 외부에서 주어지지만, 감정을 내재화하면 스스로 탐색 방향을 결정할 수 있게 된다.
근거
“감정이 있다면… 결국 불확실성 속에서 도약을 해야 하는 경우가 있죠… 그때 감정의 기능이 무엇일까… 가치 함수라고 비유했기 때문에… 어떤 상태가 어느 정도의 보상으로 이어질 것인가에 대한 함수… 세상은 불확실하고 예상 불가능한 요인들이 많이 일어나죠. 그럼 그 불확실한 상황 속에서 의사결정을 하고 ‘이 상태가 좋을 거야’, ‘이 판단이 좋을 거야’라고 생각하는 건 다분히 감정적이고 믿음에 근거한 영역일 수 있습니다.”
연결된 생각
- 20260607-scaling-to-research-paradigm — 이 통찰이 속한 연구 패러다임
- 20260607-why-scaling-alone-agi — 연구 패러다임의 필요성과 연결
출처
- 📎 클리핑: 20260613-ep98-ko-transcript