클라우드 기반 모델이 복잡한 추론에서 여전히 앞서 있다는 사실은 논란의 여지가 없다. Kanika 자신도 “Frontier cloud models still more capable for complex reasoning”라고 인정한다. 그렇다면 왜 로컬 AI로 전환하는가? 답은 맥락 통제력에 있다. Smart Connections가 만드는 로컬 임베딩은 오직 내 볼트의 내용만을 검색하고 전달한다. Claude나 GPT는 방대한 세계 지식을 가지고 있지만, 그 지식의 원천을 내가 통제할 수 없다. 반면 로컬 RAG 파이프라인은 ‘어떤 정보를 근거로 삼을 것인가’를 완전히 내가 결정한다. 이는 단순한 프라이버시를 넘어, AI가 답을 생성하기 전에 내가 제공한 맥락 안에서만 답하도록 강제하는 인식론적 선택이다.

근거

“Smart Connections creates embeddings of every vault note → semantic search → grounded answers using only your content … Everything on-device. Nothing leaves.”

이 파이프라인의 핵심은 ‘grounded answers using only your content’이다. 모든 응답이 내가 소유한 지식으로 제한됨으로써, 결과의 신뢰성과 통제 가능성이 극대화된다. Kanika가 하이브리드 모드(Obsidian 로컬 + Claude API)를 ‘복잡한 추론’에 제한하는 이유도, 일반 작업에서는 맥락 통제력이 더 중요하기 때문이다.

연결된 생각

출처

클리핑 · x.com