“모델은 강력하지만 여전히 인간을 못 뛰어넘는다, 암묵지 영역은 절대 못 한다”는 주장에 대한 답은 capability overhang이다. 모델은 우리 생각보다 훨씬 똑똑하고, 내가 하는 일은 모델을 가이드하거나 우월하게 리딩하는 것이 아니라 이미 모델 안에 있는 능력을 꺼내는 것에 불과하다.
근거
Boris Cherny의 명제가 이를 압축한다 — “the most general one is the most specific one.” 특정 문제를 더 잘 푸는 게 아니라, general한 문제 해결 능력이 증가하면 특정 도메인 문제는 그냥 풀려버린다.
모델이 갖고 있던 capability overhang을 제가 꺼내는 것에 불과하지, 내가 모델을 가이드하고 있다거나 인간으로서 우월하게 리딩하고 있다는 느낌이 점점 안 드는
실용적 함의는 반직관적이다. 회사의 독점 지식 3개를 GPT-5.4에 넣어보니 모델이 이미 다 알고 있었다(실행까지는 아니더라도). 그래서 데이터를 온프레미스에 가둬 보호하는 것보다, capability overhang을 가진 모델에 빨리 제공해 추가 search space를 가져오게 하는 거래가 아직은 더 이익이다. “지금 안 풀리면 6개월 뒤 모델이 풀 테니 덮어둬라.”
연결된 생각
- 20260603-everything-becomes-search-problem — search 문제로의 수렴
- 20260603-precise-tokens-light-up-the-models-minimap — 능력을 꺼내는 토큰