Ilya Sutskever가 Dwarkesh Patel 팟캐스트에서 던진 ‘연구의 시대’ 선언은 단순한 기술 예측이 아니다. 이는 AI 생태계 전체의 패러다임 전환 신호다. Pre-training 스케일링이 한계에 부딪혔다는 주장은 학계를 넘어 주식 시장(NVIDIA 출렁임)과 국가 안보(미중 갈등)까지 흔들었으며, Google이 TPU로 Gemini 3를 만든 사건과 직결된다. 스케일링의 지속 가능성에 대한 의문이 들끓는 이유는 판돈이 너무 커졌기 때문이다.

근거

“스케일링이라는 주제 자체가 너무 큰 경제적인 영역 문제들과 연결되기 시작했다. 데이터 센터를 많이 지어야 하고, 전력 인프라가 필요하고, 결국 정부 보증이 있어야 하는 수준까지 나아갔다.” (김성현)

Ilya가 말한 ‘갭’은 단지 성능 정체가 아니라, 투자 대비 수익의 체감을 의미한다. o1/RL이라는 연구적 돌파구가 pre-training 스케일링 이상의 성능 도약을 가져온 선례는, 앞으로도 유사한 돌파구가 필요함을 시사한다. 스케일링을 부정하는 것이 아니라, 스케일링만으로는 도달할 수 없는 지점이 있음을 인정하는 것이 성숙한 태도다.

연결된 생각

  • 20260606-age-of-research-and-pre-training-scaling-limitation — 위키 개념 노트: 스케일링의 한계와 새 패러다임에 대한 구조적 정의.
  • Ilya의 ‘감정=가치 함수’ 비유는 연구의 시대에 필요한 휴리스틱의 중요성을 시사한다. 스케일링이 포착하지 못하는 ‘spiky intelligence’ 현상을 설명하는 프레임워크가 될 수 있다.

출처

클리핑 · youtu.be