2026년에 기대되는 가장 중요한 패러다임 전환은 모델이 스스로 학습할 데이터를 발견하고, 인간의 개입 없이도 지속적으로 성장하는 능력이다. 현재 AI의 가장 큰 병목은 데이터 수집과 정제에 있으며, 이는 자율주행에서 99.9%의 안전성을 확보하는 것과 유사한 ‘롱테일 문제’를 안고 있다. continual learning과 self-play는 이 문제를 해결할 유일한 희망으로 보인다. 특히 self-play에서 ‘흥미로운 문제’를 생성하는 능력은 인간의 내적 동기와 정렬되어야 하며, 이는 단순한 성능 개선을 넘어 AI의 질적 도약으로 이어질 것이다.
근거
김성현은 2026년 전망으로 세 가지를 제시한다: 스케일업, 자율적 에이전트, 그리고 continual learning. 이 중 가장 핵심은 “모델이 무엇을 배울지 스스로 찾는 것”이며, 그 확률을 50%로 추정했다. 또한 기존의 투자 규모를 정당화하려면 “패러다임 전환이 있어야만” 한다고 주장한다. self-play의 어려움은 zero-sum game이 아닌 도메인(예: 코딩, 과학)에서 ‘흥미로운 문제’를 생성해야 한다는 점에 있으며, 이는 인간 정렬 문제와 직결된다.
“지속 학습에 최소한 아주 중요한 컴포넌트가 등장할 수 있다는 생각을 합니다. … 2026년 정도에는 볼 수 있지 않을까요?”
연결된 생각
- 20260607-rlvr-enables-agentic-training — 기반: RLVR이 에이전트 학습을 가능하게 한 것처럼, continual learning이 다음 단계의 자율성을 부여할 것.
- human-alignment — 연장: self-play에서 ‘흥미로운 문제’를 생성하려면 인간의 가치와 정렬되어야 함.
출처
- 📎 클리핑: 20260613-ep98-ko-transcript