2026년 전망에서 김성현이 가장 중요하게 언급한 패러다임 중 하나는 continual learning이다. 단순히 데이터를 추가하는 것을 넘어, 모델이 스스로 학습할 대상을 발견하고 선택하는 능력이 필요하다. 이는 self‑play의 난점(흥미로운 문제를 생성하는 어려움)과도 연결되며, 결국 모델이 사람과 정렬된 내적 동기를 가져야 함을 시사한다. Ilya Sutskever의 감정‑가치 함수 논의와도 맞닿아 있으며, 에이전트가 자율적으로 가치 있는 작업을 추구하게 하려면 인간의 가치와 정렬된 동기 부여가 필수적임을 보여준다.
근거
“저는 더 중요한 문제는 모델이 무엇을 배울 건가, 그걸 왜 배울 건가, 이것들을 발견하는 게 지속 학습의 가장 중요한 컴포넌트라고 생각합니다. … 모델에 그런 동기가 부여된다면, 그 동기는 사람의 목표와 가치하고 정렬이 되어 있어야 할 겁니다.”
연결된 생각
- 20260606-data-bottleneck-autonomous-driving-analogy — 데이터 병목 해결을 위해 continual learning이 필요하며, 이는 내적 동기와 정렬 문제로 귀결됨.
출처
- 📎 클리핑: 20260613-ep98-ko-transcript