지속 학습은 아직 연구 단계의 미해결 문제지만, 업계는 기다리지 않는다. Claude Code의 메모리 파일, Git 형상 관리 rollback, 컨텍스트 압축, Google Antigravity의 Artifacts — 전부 가중치를 못 바꾸니 바깥에 적어두는 전략이다. 흥미로운 건 이게 임시방편이 아니라 인간 인지의 오래된 전략이라는 점이다. 인간의 큰 장점도 scratchpad와 메모로 기억을 외재화해 작업 기억의 한계를 넘는 것이다.

근거

“외재화를 통해 현재 모델로 할 수 있는 continual learning 능력 부족을 우회하는 현상들이 보인다. 인간이 context 관리하는 것과 유사하고 그걸 앞으로 수개월 안에 초인간적으로 잘할 가능성을 이제 상상하게 됐더라고요.” — 최승준

노정석의 이상한 고리 논의와 겹쳐 읽으면 함의가 커진다. continual learning이 꼭 하나의 Transformer circuit 안에서 구현될 필요는 없다 — 인간도 메모와 말을 RAM으로 쓰며 flow를 돌린다. 출력이 외부 기억을 거쳐 다시 입력으로 되먹임되는 구조가 완성되면, 그것이 가중치 업데이트든 파일 기록이든 시스템 수준에서는 루프다. 외재화는 우회로처럼 보이지만, 어쩌면 그 자체가 목적지의 절반일 수 있다.

내 지식 파이프라인(클리핑→노트→위키)도 정확히 이 패턴이다. 모델은 매 세션 잊지만 위키는 누적되고, 누적된 위키가 다시 컨텍스트로 주입된다.

연결된 생각

출처

클리핑 · youtu.be