Ilya Sutskever의 ‘연구의 시대’ 선언은 단순한 pre-training 스케일링의 한계를 넘어, 우리가 지능의 본질에 대해 잘못된 가정을 하고 있음을 암시한다. 진정한 지능은 거대한 모델 파라미터에서 나오는 것이 아니라, 모델이 스스로를 지속적으로 수정하고 환경에 적응할 수 있는 시스템 구조에서 나온다는 통찰이 이 대화의 핵심이다.
근거
OpenAI 연구진은 “진짜 AGI가 나온다면 그건 GPT-5 같은 모델이 아니라, 그 모델을 학습시키는 RL 프레임워크와 시스템 전체가 합쳐진 하나의 지능 대상이 될 것”이라고 말한다. 이는 지능을 ‘고정된 가중치 집합’이 아니라 ‘자기 수정 메커니즘을 가진 동적 시스템’으로 바라보는 관점이다.
“실제로 AGI가 나온다면 그건 GPT-5 같은 모델이 아니라 그 GPT-5라는 모델을 학습시키는 어떤 RL이라는 프레임워크, 시스템, 그것이 전체가 합쳐져서 하나의 지능이라는 대상이 될 거라는 얘기를 하거든요.”
더 중요한 점은 이 시스템이 단순히 RL 환경에서 학습하는 것을 넘어, 스스로의 학습 방식을 결정할 수 있어야 한다는 것이다. ‘새로운 과제에 대해서 그 시스템이 자기 자신을 수정하는 과정에서, 어떤 방식으로 수정해야 할지를 결정하는 것이 시스템 안에 있는 모델이 될 수도 있다’는 언급은 이러한 자기 참조적 구조가 진정한 지능의 조건임을 시사한다.
연결된 생각
- 20260605-pre-training-scaling-limit-post-training-paradigm — 상위개념: 스케일링 한계와 새로운 패러다임의 필요성
- gebs-strange-loop-and-consciousness — 연장: 괴델, 에셔, 바흐의 ‘이상한 고리’ 개념이 시스템이 스스로를 바라보는 자기 참조 구조와 어떻게 연결되는지
출처
- 📎 클리핑: 20260613-ep98-ko-transcript