RAG는 매 쿼리마다 0에서 다시 시작한다. 5개 문서를 종합해야 답할 수 있는 미묘한 질문을 받으면, 매번 그 5개 조각을 새로 찾아 짜맞춰야 한다. 누적이 없다. Karpathy가 제안하는 LLM Wiki는 정반대다 — 지식을 한 번 컴파일해서 살아있는 위키로 유지한다. 새로운 소스가 들어오면 인덱싱만 하는 게 아니라, 기존 페이지를 갱신하고 모순을 표시하고 종합을 다시 쓴다. 결과적으로 위키는 매번 더 풍부해진다.
근거
“the wiki is a persistent, compounding artifact. The cross-references are already there. The contradictions have already been flagged. The synthesis already reflects everything you’ve read.”
핵심은 유지보수 비용이다. 인간이 위키를 버리는 이유는 내용 부족이 아니라 교차참조 갱신·요약 동기화·모순 해소가 너무 귀찮아서다. LLM은 한 번에 10~15개 페이지를 건드릴 수 있고 지치지 않는다. 그래서 유지보수 비용이 0에 수렴하고, 위키는 시간이 갈수록 가치가 커진다 — 인간이 운영할 때와는 정반대 곡선이다.
연결된 생각
- 20260508-llm-wiki-pattern — 이 글의 방법론을 구조화한 wiki 노트
- 20260508-atomic-notes-enable-context-injection — 누적 효과를 내려면 노트가 원자 단위여야 한다는 보완 명제