노정석은 “모델이 투영하고 있는 전체 진리를 100이라고 하면 그 100 부분이 희소하게 구현되어 있고, 그 사이를 보간하는 것이 인간 입장에서 외삽처럼 보인다”고 말한다. 이 통찰은 모델이 하는 일이 본질적으로 ‘이미 있는 지식 공간의 빈틈을 메우는 것’이라는 점을 시사한다. 인간이 ‘새로운 발견’이라고 느끼는 것도 모델의 관점에서는 단순히 학습된 representation 사이의 interpolation일 뿐이다.
그러나 이 ‘내삽’이 놀라운 이유는 모델의 표현 공간이 인간의 그것보다 훨씬 고차원적이고 밀도가 높아, 두 점 사이를 연결하는 경로가 인간의 사고를 뛰어넘는 경우가 많기 때문이다. GPT-5.2 Pro가 12시간 만에 이론 물리학 문제를 증명한 사례는 이 ‘내삽의 스케일’이 얼마나 거대해질 수 있는지를 보여준다.
근거
“모델이 투영하고 있는 전체 진리를 100이라고 하면 그 100이라는 부분이 모델에서 매우 희소하게, sparse하게 구현돼 있잖아요. 그냥 interpolation이라고 저는 생각합니다. 이 넓은 공간에서 sparse한 공간들 사이를 interpolation 하는 게 인간 입장에서는 extrapolation처럼 보이는 거라고 생각하고”
“모델이 해당 분야에서 세계에서 가장 똑똑한 사람들 중 2명이 해내지 못했던 일을 해낸 것이다.”
연결된 생각
- 20260605-harness-engineering — 하네스는 이 내삽 과정에서 인간이 좌표를 찍어주는 역할을 한다.
- 20260605-ddakggak-era-depression-insight — 단순 내삽 결과물의 홍수 속에서 인간의 고유한 ‘좌표 설정’ 능력이 더욱 중요해진다.
출처
- 📎 클리핑: 20260613-ep87-ko-transcript