정의

Ilya Sutskever가 2025년 11월 Dwarkesh Patel과의 인터뷰에서 제기한 주장으로, 현재의 pre-training 스케일링 방식이 지속적인 성능 향상을 제공하지만 AGI/ASI에 도달하기 위해서는 연구적 돌파구가 필수적이라는 패러다임 전환 개념을 말한다. 이는 스케일링 법칙의 완전한 실패가 아니라, 그 이득이 감소하고 지속 학습·감정 모델링·샘플 효율 혁신이 필요한 상태를 의미한다.

핵심 속성

  • 스케일링 법칙의 지속성: Ilya는 이후 트윗을 통해 “스케일링이 중간에 멈추지는 않을 것”이라고 보완. 계속 성능 향상은 있지만 그 폭이 줄어들고 있음.
  • 연구적 돌파구 필요: 지속 학습(continual learning), 감정을 가치 함수로 활용, 샘플 효율 개선 등 새로운 패러다임이 필요.
  • 연구자 간 합의: Noam Brown의 정리에 따르면, Hassabis·Chollet·Altman·LeCun·Amodei 등 주요 연구자는 2~20년 내 AGI 가능성에 동의하며 이견보다 합의가 큼.
  • 경제·안보 연계: 스케일링 논쟁이 학문을 넘어 데이터센터 투자·전력 인프라·미중 갈등 등 국가적 이슈로 확대됨.

관계

인용

“지금의 pre-training은 벽에 도달했다. 무언가 새로운 생각이 필요하다. 이제 스케일링의 시대는 가고 연구의 시대가 다시 도래했다.” — Ilya Sutskever

“Noam Brown의 정리: 지금 패러다임만으로도 막대한 경제·사회적 임팩트는 가능하지만, 정말 AGI로 가려면 지속 학습 등 추가 돌파구가 필요하다.”

출처

클리핑 · youtube.com