정의
Pre-training 스케일링 법칙이 계속해서 성능 향상을 가져오지만, 진정한 AGI/ASI에 도달하기 위해서는 새로운 연구 패러다임(continual learning, 추론 효율, 내적 동기, 일반화 등)이 필수적이며, 이에 따라 AI 커뮤니티의 초점이 순수 스케일링에서 연구의 시대로 전환되고 있음을 나타내는 개념.
핵심 속성
- 핵심 주장: 스케일링은 계속되지만, AGI로 가는 데는 추가적인 돌파구가 필요하다.
- 주요 연구 방향: continual learning, 샘플 효율성, 일반화(inductive bias), 감정-가치 함수, 내적 동기(intrinsic motivation)
- Continual Learning 필요성: 모델이 배포 후에도 지속적으로 학습해야 하며, 이는 샘플 효율성을 요구함. 인간은 뜨거운 것에 한 번만 데어도 학습하지만, AI는 수많은 시행착오가 필요.
- 일반화 문제: 현재 모델은 benchmark를 잘 통과하지만 실제 사용에서 어이없는 실수를 보임. 이는 inductive bias 부족 때문이며, 일반화는 근본적인 딥러닝의 난제.
- 감정-가치 함수 연결: Ilya Sutskever가 감정을 가치 함수로 비유한 것은, 불확실성 속에서 효율적 의사결정을 위한 휴리스틱의 중요성을 시사. 이는 내적 동기 연구의 방향성을 제시.
- 연구 취향: 좋은 연구 방향을 선택하는 능력(taste)은 경험의 축적(양질 전환)을 통해 얻어짐. 이는 연구 패러다임 전환의 핵심 요소.
- 관련 인물: Ilya Sutskever, Noam Brown, Andrej Karpathy, Demis Hassabis, Dario Amodei
관계
- 20260607-why-scaling-alone-agi — 하위개념 (구체적 논증)
- 20260607-emotion-as-value-function-ai — 연장 (가치 함수 개념의 확장)
- 20260607-good-research-taste-quantity-quality — 연장 (연구 방법론의 일부)
인용
“지금의 방법을 더 키워나가면, 계속, 그러니까 스케일링하면 계속 성능 향상이 있을 것이지, 없다고 얘기하는 게 아니라 약간 갭이 있다는 정도로 얘기했다. … 여전히 어떤 중요한 무언가는 계속해서 빠져 있을 것이다.”
“pre-training의 스케일링만으로 지금 나와 있는 모델의 성능 향상이 일어난 건 아니거든요. 분명하게 pre-training의 스케일링만으로 지금 수준의 모델 성능에 도달하려고 하면 그 스케일이 어마어마해야 했을 겁니다. 그런데 그 돌파구를 찾았던 게 굉장히 연구적인 접근이었던 o1하고 RL이죠.”
출처
- 📎 클리핑: 20260613-ep98-ko-transcript