현재 LLM은 진정한 지속 학습(continual learning) 능력이 부족하기 때문에, 인간은 context, memory, tool을 외부에 저장하는 ‘외재화’를 통해 이를 보완하고 있다. 이는 마치 인간이 메모장이나 캘린더를 사용해 자신의 한계를 극복하는 것과 같다. Claude Code의 데스크톱 앱, Antigravity의 Knowledge & Artifacts, Group Chat 기능 등이 모두 이 전략의 일부다. 모델이 스스로 모든 것을 학습할 수 없다면, 외부 시스템이 그 역할을 대신하도록 하는 것이다. 이 접근법은 향후 수개월 내에 초인간적인 context 관리 능력으로 발전할 가능성이 있다.
근거
“장기 실행 에이전트를 위한 효과적인 harness — Git의 형상 관리를 rollback하기도 하고 메모리 절약하고 context 압축하고… 인간도 scratchpad, 메모장을 써서 그 외재화해서 context 관리를 하는 게 인간의 커다란 장점이잖아요. 근데 그것을 하는 쪽으로 가는 그 방향성을 보여줬어요.”
또한 블랙홀 연구자 Alex의 사례에서, 모델이 priming을 통해 점진적으로 문제를 해결하는 과정이 외재화된 context 내에서의 협업을 보여준다. 모델과 인간이 지속적인 back-and-forth로 한계를 돌파하는 방식은 외재화된 협업의 한 형태다.
연결된 생각
- 20260606-continual-learning-and-post-scaling-paradigm — 외재화는 진정한 지속 학습이 도래하기 전까지의 우회 전략이다.
- 20260606-scaling-age-ended-research-age-begun — 연구 시대에는 이러한 외재화 방법론도 중요한 연구 주제가 된다.
- 20260508-llm-wiki-compounds-with-accumulation — 위키 패턴은 외부 지식 축적을 통한 일반화 향상의 예시다.
출처
- 📎 클리핑: 20260613-ep98-ko-transcript