크롱의 트윗은 현실적인 고통을 정확히 짚었다. AI 에디터(Cursor, Claude Code)가 “똑똑한 척” 전체 코드를 훑는 비용이 생각보다 크다는 것. 단순히 지연 시간이 아니라 토큰이 그대로 돈으로 연결되는 구조에서, 이 비용은 프로젝트 규모가 커질수록 기하급수적으로 증가한다.
codegraph 같은 접근은 이 문제를 근본적으로 해결한다. 툴 콜을 할 때마다 코드베이스 전체를 LLM 컨텍스트에 넣는 대신, 로컬에서 미리 구축한 코드 그래프에서 필요한 부분만 빠르게 추출하여 전달하는 것이다. 이는 1회성 인덱싱 비용을 지불하는 대신 매 툴 콜의 비용을 O(n) → O(log n) 수준으로 낮추는 아키텍처 결정이다.
핵심은 “구조적 비용 절감”이다. 단순 캐싱이 아니라, 문제의 본질을 바라보며 근본적인 흐름을 바꾼다. AI 에디터가 코드베이스를 “이해”하는 방식을, 런타임 전체 스캔이 아닌 사전 인덱싱된 지식 그래프로 전환하는 패러다임 전환이다.
근거
“이걸 100% 로컬 지식 그래프로 미리 인덱싱해서 해결하겠다는 저장소가 나옴.”
원문 작성자는 툴 콜이 “질질 끌리고 토큰 녹아내리는” 현상을 비용 문제로 인지했고, codegraph라는 구현체를 통해 이 비용이 구조적으로 해결 가능함을 보여준다. 이는 단순한 팁 수준이 아니라 제품 아키텍처 자체를 재고해야 하는 수준의 인사이트다.
연결된 생각
- 로컬 코드 그래프 사전 인덱싱 — 개념 정의
- Claude Code의 전체 코드 스캔 비효율 — 문제의 원인과 대안
- 사전 인덱싱 패턴 — 유사한 비용 최적화 사례 (예: 검색 엔진의 역인덱스)