2025년이 MoE와 RLVR의 “연마의 시간”이었다면, 2026년은 그 다음 단계 — 스케일업 너머의 질적 도약 — 을 요구한다. 그 핵심에 자리한 세 가지 과제(자율 에이전트, 지속 학습, self-play)는 모두 하나의 공통점으로 수렴한다: 모델이 ‘무엇을 배울지’ 스스로 결정할 수 있는 내적 동기(internal motivation) 의 부재. 데이터를 사람이 일일이 만들어 주는 현 체계는 99%에서 99.9%로 가는 롱테일 병목에 직면했고, 이를 돌파할 유일한 길은 모델이 스스로 ‘흥미로운 문제’와 ‘배울 가치 있는 지식’을 발견하게 하는 것이라는 통찰이 인상적이다.
근거
원문에서 김성현은 세 가지 축을 연결한다: (1) 자율 에이전트가 진정한 경제적 가치를 창출하려면 사람의 지시 없이도 지속적으로 코드를 개선하고 기능을 추가하는 ‘내적 추진력’이 필요하다. (2) 지속 학습(continual learning)의 핵심은 학습 가능 여부가 아니라 ‘무엇을 배울지 선택하는 능력’이며, 이는 사람이 데이터를 만들어 주는 기존 방식을 넘어선다. (3) self-play는 바둑과 달리 zero-sum game이 아니기 때문에 ‘흥미로운 문제 생성’ 자체가 난제이며, 이 또한 모델이 인간의 가치 판단(정답률 50% 수준의 어렵지만 의미 있는 문제)과 정렬되어야 한다.
“저는 이 세 가지 문제가 ‘내적 동기, 인간과의 정렬’ 로 수렴한다”는 진단은, 2026년 기술 로드맵을 이해하는 핵심 프레임이다. 투자 규모가 상상할 수 없을 정도로 커진 배경에는 이런 패러다임 전환이 없으면 점진적 개선만으로는 버블 의심을 피할 수 없다는 인식이 깔려 있다. 개인적으로는 이 수렴점에 도달하기 전에 “unlearning”이 더 빈번해질 것이라는 승준의 발언이 가장 현실적인 경고로 다가온다.
연결된 생각
- 20260606-ai-paradigm-shift-2025-moe-rlvr — 현재 패러다임이 닿은 한계
- 20260606-moe-is-mandatory-not-optional — MoE 스케일업의 자연스러운 귀결
- 20260606-rlvr-enables-combinatorial-skills — RLVR이 가능하게 한 기반
- human-alignment-problem — 해결 방향의 상위 개념
- self-play-difficulty-with-non-zero-sum — 구체적 난제 분석 (가칭)