정의
Open-Weight Compliance Demand는 외부 API를 쓰기 어려운 금융, 정부, 방산, 대형 enterprise가 프론티어급 오픈웨이트 모델을 내부 인프라에서 운영하려는 수요다.
이 수요는 단순히 API 가격이 싸거나 비싸서 생기는 것이 아니다. 데이터 반출 금지, 지정학적 신뢰 문제, 내부 규정, audit requirement 때문에 외부 hosted model 자체가 선택지가 아닌 조직에서 생긴다.
핵심 속성
- Data sovereignty: 민감 데이터를 외부 provider로 보내지 않는다.
- Geopolitical trust boundary: 특정 국가 또는 vendor API를 사용하기 어려운 조직이 있다.
- On-prem deployment: 속도와 비용보다 통제권이 더 중요할 수 있다.
- New demand creation: 기존 HBM full rack 가격이면 도입을 포기했을 조직이 DRAM offloading으로 진입할 수 있다.
- Agent workload relevance: 내부 agent가 문서, 코드, 업무 데이터를 처리할수록 local model 수요가 커진다.
해석 포인트
오픈웨이트가 API 수요를 대체한다고만 보면 수요를 과소평가할 수 있다. 더 중요한 점은 외부 API를 애초에 쓰지 못했던 조직에 새 선택지를 제공한다는 것이다. 이 경우 저가 메모리 기반 serving은 기존 고가 시스템을 cannibalize하기보다, 원래 존재하지 않던 long-tail 수요를 만든다.
연결
- 20260717-sparse-moe-memory-demand-shift — on-prem sparse MoE serving이 RDIMM 수요를 만들 수 있는 이유.
- 20260717-training-efficiency-vs-inference-efficiency — open-weight 모델의 실제 serving economics를 확인하는 방법.