AGI를 단일 모델로 상상하면 길을 잃는다. 김성현이 전하는 OpenAI 내부의 관점은 다르다. 진짜 지능이 나온다면 그것은 GPT-5 같은 모델이 아니라, 그 모델을 학습시키는 RL 프레임워크·시스템 전체가 합쳐진 하나의 대상일 것이다. 모델은 그 시스템 안의 한 요소(뉴런)에 불과하다.

근거

continual learning을 가장 쉽게 떠올리면 이런 시스템이다 — 모델 혹은 시스템이 새로운 과제에 대해 자기 자신을(모델 가중치를) 계속 수정해 나가는 것. 그리고 어떻게 수정할지 결정하는 것조차 시스템 안의 모델이 될 수 있다. 그렇게 고리가 만들어진다. 노정석의 GEB 가설 — 스케일 위에 input/output이 얽히는 Strange Loop — 과 정확히 맞닿는다.

“진짜 지능, 어떤 AGI라는 것이 나온다면 그건 GPT-5 같은 모델이 아니라 그 GPT-5라는 모델을 학습시키는 어떤 RL이라는 프레임워크, 시스템, 그것이 전체가 합쳐져서 하나의 지능이라는 대상이 될 거라는 얘기를 하거든요.”

연결된 생각

출처

클리핑 · youtu.be