정의

지속 학습(Continual Learning)은 모델이 고정된 훈련 데이터에 의존하지 않고, 새로운 환경이나 작업에 적응하며 지속적으로 지식을 축적하고 갱신할 수 있는 능력을 말한다. 이 개념은 pre-training 스케일링의 물리적·경제적 한계와 일반화의 근본적 문제를 해결하기 위한 핵심 패러다임으로 떠오르고 있다.

핵심 속성

  • 샘플 효율성(Sample Efficiency): 인간은 몇 번의 경험으로 일반화하지만, 현재 LLM은 방대한 데이터가 필요하다. 지속 학습은 샘플 효율성을 높이는 방향으로 연구된다.
  • 내적 동기(Intrinsic Motivation): 보상이 없는 상황에서도 탐색과 학습을 지속하게 하는 메커니즘. Ilya Sutskever는 감정을 가치 함수에 비유하며 이와 연결지었다.
  • 귀납적 편향(Inductive Bias): 일반화를 위해 불가피한 편향. 최소 알고리즘(Occam’s Razor)을 선호하는 편향이 필요하며, 추론(Reasoning)은 암기보다 단순한 알고리즘을 선호하는 편향을 제공한다.
  • 외재화(Externalization): 현재 모델의 지속 학습 능력 부족을 보완하기 위해 인간이 context, memory, tool을 외부에 저장하는 방식. 이는 인간의 인지 외재화와 유사하다.

관계

인용

“Pre-training의 스케일링만으로 지금 수준의 모델 성능에 도달하려고 하면 그 스케일이 어마어마해야 했을 겁니다. 그런데 그 돌파구를 찾았던 게 굉장히 연구적인 접근이었던 o1하고 RL이죠.”

“인간은 뜨거운 것에 손을 대면 한 번 해보고 난 다음에 절대 손을 안 댑니다. 지속 학습에는 그런 샘플 효율성이 크게 도움이 될 겁니다.”

출처

클리핑 · youtube.com