Karpathy가 LLM 위키를 “소프트웨어 코드베이스”에 비유한 것은 단순한 비유가 아니다. 이 패턴의 가장 강력한 특징은 지식이 컴파운드(compound) 된다는 점이다. 전통적인 RAG 시스템에서는 질의할 때마다 LLM이 원시 문서에서 관련 청크를 검색해 처음부터 지식을 재구성한다. 반면, LLM 위키는 새로운 소스가 추가될 때마다 기존 페이지를 업데이트하고, 모순을 플래깅하며, 합성을 강화한다.
원문에서 “The wiki keeps getting richer with every source you add and every question you ask”라는 문장이 이를 압축한다. 지식 베이스의 품질이 시간이 지남에 따라 단조 증가한다는 뜻이다. 또한 “good answers can be filed back into the wiki as new pages”라는 아이디어는 탐색 과정 자체를 지식으로 축적한다. 질문하고 답을 얻는 활동이 위키에 새로운 페이지로 저장되어, 다음 탐색의 기반이 된다.
이것은 마치 소프트웨어 개발에서 코드베이스가 지속적으로 리팩토링되고 기능이 추가되는 것과 같다. Obsidian을 IDE로, LLM을 프로그래머로, 위키를 코드베이스에 비유한 것이 이 점을 잘 드러낸다. 결국, 이 패턴은 지식 관리의 ‘컴파운딩 효과’를 실현하는 방법이다. 단순한 수집이 아니라, 시간이 갈수록 더 가치 있는 지식 자산이 된다.
근거
“The wiki is a persistent, compounding artifact. The cross-references are already there. The contradictions have already been flagged. The synthesis already reflects everything you’ve read. The wiki keeps getting richer with every source you add and every question you ask.”
“Obsidian is the IDE; the LLM is the programmer; the wiki is the codebase.”
“good answers can be filed back into the wiki as new pages… This way your explorations compound in the knowledge base just like ingested sources do.”