모델의 능력이 이미 인간이 상상하는 수준을 넘어섰지만, 그 능력을 실제로 ‘꺼내 쓰는’ 방법을 아는 사람은 극소수다. 이 격차가 바로 Capability Overhang이며, 이는 현재 AI 업계에서 가장 중요한 단일 현상이다. 표면적인 이야기(누가 더 좋은 모델을 내놓았는가) 이면에는, 모델이 할 수 있는 일 vs. 사용자가 실제로 시키는 일 사이의 거대한 간극이 숨어 있다.
팟캐스트에서 지적한 것처럼, “사람의 기여분이 거의 없고 대부분 다 모델이 이미 가지고 있을 거라고 추정하는 capability overhang”이 모든 산업의 본질이다. 이는 두 가지 전략적 함의를 가진다. 첫째, ‘wrapper’ 비즈니스는 모델이 직접 제공할 수 있는 기능에 언제든 ‘딸깍’당할 위험이 있다. 실제로 Claude Design은 Pencil과 같은 외부 서비스가 하던 일을 단숨에 흡수했다. 둘째, 생존하려면 모델이 아직 완전히 대체하지 못한 고객 레이어(예: 일반인이 AI를 활용하도록 돕는 unbundling 서비스)나, 인간의 도메인 지식이 여전히 필요한 영역(AI for Science)에 집중해야 한다.
더 날카로운 통찰은, Capability Overhang이 단순히 ‘모델이 똑똑하다’를 넘어 ‘지식 증류(Knowledge Distillation)의 효율성 문제’라는 점이다. Anthropic이 Mythos(10T 파라미터)라는 거대한 teacher 모델로부터 Opus, Sonnet, Haiku를 증류해 내는 과정은, 능력 추출의 공급망 자체가 프론티어의 독점 영역이 되고 있음을 보여준다. 일반 개발자는 이미 증류된 작은 모델만 다룰 뿐, 진정한 capability overhang은 frontier 연구소 내부에 갇혀 있다.
근거
“지금 일어나는 모든 일들의 본질을 보면 사람의 기여분이 거의 없어요. 대부분 다 모델이 이미 가지고 있을 거라고 추정하는 모델의 과잉 능력, 저희가 항상 얘기하는 capability overhang이란 말을 많이 하잖아요. 그 능력을 누가 빨리 잘 꺼내 쓰느냐의 지금 싸움” — 노정석
“만약에 그 model card에서도 좀 guide를 했다, 뭐 했다 나왔다면 세 번째 on-policy training을 하면서 그 teacher model이 강하게 engage를 했을 가능성이 높다고 봐야 되겠죠. … frontier의 사람들은 화성으로 가고 있고” — 노정석
연결된 생각
- 20260607-ai-model-release-acceleration — 릴리스 가속이 capability overhang을 더욱 극명하게 만든다
- 20260607-knowledge-distillation-frontier — Knowledge Distillation이 어떻게 capability 전이의 핵심 기술인지
출처
- 📎 클리핑: 20260613-ep98-ko-transcript