개요

DeepSeek은 2025년 초 DeepSeek-R1과 함께 RLVR 레시피를 공개하고, MoE 아키텍처(V3)의 설계 원칙을 투명하게 공개함으로써 중국 AI 업계 전체가 프런티어 모델을 개발할 수 있는 기반을 마련했다.

핵심 정보

  • 주요 발표: DeepSeek-V3 (MoE 아키텍처), DeepSeek-R1 (RLVR 방법론)
  • 영향: 중국 10여 개 기업이 동일한 아키텍처 기반으로 프런티어급 모델을 출시. MoE가 업계 표준이 됨.
  • 레시피의 핵심: 희소성(sparsity)을 극대화한 MoE 설계, 검증 가능한 보상을 통한 RL 학습, 제한된 연산(800~2000대 GPU)으로도 프런티어 도달 가능

주요 발언 / 기여

“앞서 말씀드렸던 것처럼 MoE의 레시피를 잘 정립한 것이 DeepSeek의 굉장히 큰 기여입니다. 어떻게 보면 DeepSeek이 설계한 아키텍처가 이전 세대의 Llama 같은 아키텍처가 되어서 그 베이스 아키텍처가 되었습니다.”

관계

출처

클리핑 · youtube.com