Ilya Sutskever가 Dwarkesh Patel 팟캐스트에서 “스케일링의 시대는 가고 연구의 시대가 다시 도래했다”고 말한 것은 단순한 선언이 아니라, 현재의 pre-training 스케일링이 여전히 유효하지만 추가적인 연구적 돌파구 없이는 AGI로 가는 길이 불완전하다는 사실을 지적한 것이다. Noam Brown의 정리처럼, 대부분의 연구자들은 스케일링이 계속해서 성능 향상을 가져올 것에 동의하지만, 진정한 일반화와 지속 학습을 위해서는 새로운 패러다임이 필요하다는 데에도 의견이 모아진다.
근거
“Noam Brown이 강조한 것은 지금 회의론자와 광신도가 있는데 연구자들이 하는 얘기를 들어보면 수렴되는 지점이 많다. 지금의 패러다임만으로도 추가적인 연구적 돌파구가 없어도 막대한 경제·사회적 임팩트를 내기는 충분할 가능성이 크다. 그런데 정말 AGI, ASI로 가려면 지속 학습이나 샘플 효율 등 추가적인 돌파구가 더 필요할 확률이 높다.” — 최승준
연결된 생각
- 20260605-continual-learning — 지속 학습이 AGI를 위한 핵심 메커니즘으로 부상.
- 20260605-emotion-as-value-function — 감정의 가치 함수 역할이 샘플 효율성을 높이는 방안.
- noam-brown — 연구자들의 합의를 정리한 Noam Brown의 관점.