정의

2025년 AI 모델 개발은 Mixture of Experts(MoE) 아키텍처의 보편화와 Reinforcement Learning with Verifiable Rewards(RLVR)를 통한 에이전트 포스트트레이닝 방법론의 확립이라는 두 축에서 패러다임 전환이 일어났다. DeepSeek이 이 두 분야의 핵심 레시피를 공개하면서 중국을 중심으로 한 오픈 프런티어 모델 붐과 추론/에이전트 능력의 비약적 향상이 촉발되었다.

핵심 속성

  • MoE 아키텍처: 전체 파라미터 중 일부만 활성화하는 sparsity를 통해 compute multiplier를 극대화. 학습 연산량이 증가할수록 dense 모델 대비 성능 우위가 커지는 scaling law가 확인됨.
  • RLVR 방법론: 검증 가능한 정답(verifiable reward)을 기반으로 모델을 강화학습하여 추론 과정과 에이전트 행동을 학습. 최종 결과물만으로 보상을 주어 도구 사용과 조합 능력을 습득.
  • DeepSeek의 역할: V3(2024)로 MoE 레시피를, R1(2025)로 RLVR 방법을 공개. 이후 중국 주요 기업들이 이를 채택하여 프런티어급 모델을 오픈소스로 출시.
  • 2025년 특징: 패러다임 전환은 초반 DeepSeek 사건에 집중되었고, 이후 나머지 기간은 해당 패러다임에 대한 이해와 연마의 시간으로 채워짐.

관계

인용

“RLVR과 에이전트 포스트트레이닝이라는 새로운 패러다임이 등장했고 2025년 초에, 2025년 내내 그 패러다임을 발전시키고 이해하고 탐색하는 것으로 2025년이 지나간 것 같긴 합니다.” “이 dense model에 비해서 MoE 모델은 dense model의 7배 정도의 연산력을 부은 것과 비슷한 성능을 낸다는 겁니다.”

출처

클리핑 · YouTube