정의
지속 학습(Continual Learning)은 모델이 고정된 훈련 데이터에 의존하지 않고, 새로운 환경이나 작업에 적응하며 지속적으로 지식을 축적하고 갱신할 수 있는 능력을 말한다. 이 개념은 pre-training 스케일링의 물리적·경제적 한계와 일반화의 근본적 문제를 해결하기 위한 핵심 패러다임으로 떠오르고 있다.
핵심 속성
- 샘플 효율성(Sample Efficiency): 인간은 몇 번의 경험으로 일반화하지만, 현재 LLM은 방대한 데이터가 필요하다. 지속 학습은 샘플 효율성을 높이는 방향으로 연구된다.
- 내적 동기(Intrinsic Motivation): 보상이 없는 상황에서도 탐색과 학습을 지속하게 하는 메커니즘. Ilya Sutskever는 감정을 가치 함수에 비유하며 이와 연결지었다.
- 귀납적 편향(Inductive Bias): 일반화를 위해 불가피한 편향. 최소 알고리즘(Occam’s Razor)을 선호하는 편향이 필요하며, 추론(Reasoning)은 암기보다 단순한 알고리즘을 선호하는 편향을 제공한다.
- 외재화(Externalization): 현재 모델의 지속 학습 능력 부족을 보완하기 위해 인간이 context, memory, tool을 외부에 저장하는 방식. 이는 인간의 인지 외재화와 유사하다.
관계
- 20260606-scaling-age-ended-research-age-begun — 연장: 지속 학습의 필요성은 스케일링 시대가 종료되고 연구 시대가 도래했음을 시사한다.
- 20260606-emotion-as-value-function-for-agi — 대조: 감정이 가치 함수 역할을 한다는 관점은 내적 동기와 연결된다.
- 20260606-externalization-as-continual-learning-workaround — 하위개념: 외재화는 지속 학습의 현실적 우회 전략이다.
- 20260508-llm-wiki-compounds-with-accumulation — 연장: 지식 누적이 일반화에 기여하는 방식과 관련.
인용
“Pre-training의 스케일링만으로 지금 수준의 모델 성능에 도달하려고 하면 그 스케일이 어마어마해야 했을 겁니다. 그런데 그 돌파구를 찾았던 게 굉장히 연구적인 접근이었던 o1하고 RL이죠.”
“인간은 뜨거운 것에 손을 대면 한 번 해보고 난 다음에 절대 손을 안 댑니다. 지속 학습에는 그런 샘플 효율성이 크게 도움이 될 겁니다.”
출처
- 📎 클리핑: 20260613-ep98-ko-transcript