AGI를 단일 모델로 상상하면 길을 잃는다. 김성현이 전하는 OpenAI 내부의 관점은 다르다. 진짜 지능이 나온다면 그것은 GPT-5 같은 모델이 아니라, 그 모델을 학습시키는 RL 프레임워크·시스템 전체가 합쳐진 하나의 대상일 것이다. 모델은 그 시스템 안의 한 요소(뉴런)에 불과하다.
근거
continual learning을 가장 쉽게 떠올리면 이런 시스템이다 — 모델 혹은 시스템이 새로운 과제에 대해 자기 자신을(모델 가중치를) 계속 수정해 나가는 것. 그리고 어떻게 수정할지 결정하는 것조차 시스템 안의 모델이 될 수 있다. 그렇게 고리가 만들어진다. 노정석의 GEB 가설 — 스케일 위에 input/output이 얽히는 Strange Loop — 과 정확히 맞닿는다.
“진짜 지능, 어떤 AGI라는 것이 나온다면 그건 GPT-5 같은 모델이 아니라 그 GPT-5라는 모델을 학습시키는 어떤 RL이라는 프레임워크, 시스템, 그것이 전체가 합쳐져서 하나의 지능이라는 대상이 될 거라는 얘기를 하거든요.”
연결된 생각
- 20260603-strange-loop-as-agi-condition — 시스템론을 떠받치는 GEB 가설
- 20260603-ilya-sutskever — continual learning 화두의 출발점
- 20260514-runbook-is-the-actual-agent-not-the-llm — 에이전트의 본체가 모델이 아니라 시스템이라는 동형 통찰