초창기에는 모델이 단순한 내삽(interpolation) 엔진일 뿐 새로운 것으로 나가지 못한다고들 했다. 그런데 GPT-5.2 Pro가 12시간 만에 양자장론 미해결 문제를 증명하는 등의 결과를 보면 외삽(extrapolation)처럼 보인다. 노정석의 해석은 우아하다 — 둘 다 맞다.
근거
모델이 투영하고 있는 전체 진리를 100이라고 하면 그 100이라는 부분이 모델에서 매우 희소하게 (…) 구현돼 있잖아요. 그냥 interpolation이라고 저는 생각합니다. 이 넓은 공간에서 sparse한 공간들 사이를 interpolation 하는 게 인간 입장에서는 extrapolation처럼 보이는 거라고
즉 전체 보편 진리를 100으로 보면, 모델 안에는 그 진리가 sparse하게 박혀 있고, 그 점들 사이를 보간하는 행위가 인간에게는 외삽으로 보인다. 인간이 “창조”라 부르는 것조차 이미 있었지만 발견되지 않은 공간을 누군가 찾아내는 것에 불과하다. 연산과 일반성이 증가하면 그 사이 빈틈도 결국 다 채워진다 — 모델이 다 끝낼 가능성이 있다는 뜻이다. 한 스텝씩 옮길 때마다 모델 내부 representation space가 바뀌고, 그 space를 전이시켜내는 능력이 곧 인간의 취향이자 방향 설정이다.
연결된 생각
- 20260603-march-of-nines-last-fraction-is-human-taste — 같은 에피소드, 남는 인간 가치
- 20260603-precise-tokens-light-up-the-models-minimap — space 전이와 토큰