정의
LLM 시스템 구축 패턴은 단순히 모델의 성능을 높이는 것을 넘어, 데모 수준의 프로토타입을 실제 상용화 가능한 수준의 제품으로 끌어올리기 위한 7가지 공학적 설계 전략을 의미한다.
핵심 패턴 구성
- Evals (평가): 시스템 성능을 정량적으로 측정하고 회귀를 방지하는 기초 토대.
- RAG (검색 증강 생성): 외부 지식을 실시간으로 주입하여 환각을 줄이고 사실성을 확보하는 기법.
- Fine-tuning (미세 조정): 특정 작업에 대한 전문성, 스타일, 제어력을 강화하기 위한 가중치 업데이트.
- Caching (캐싱): 중복 요청에 대한 비용 절감 및 지연 시간(Latency) 최소화 전략.
- Guardrails (가드레일): 출력의 구조적/내용적 적합성을 검증하는 안전 장치.
- Defensive UX (방어적 UX): 시스템의 한계를 인정하고 오류를 우아하게 처리하는 인터페이스 설계.
- User Feedback (사용자 피드백): 데이터 플라이휠을 구축하기 위한 명시적/암시적 학습 데이터 수집.
관계
- 20260609-demo-is-easy-product-is-hard — 상위 개념: 왜 이러한 패턴이 필요한지에 대한 근본적인 이유.
- 20260609-rag-vs-finetuning-knowledge-vs-skill — 하위 전략: 성능 개선을 위한 두 축의 상호보완적 관계.
- 20260609-defensive-ux-converts-hallucination-to-trust — 사용자 접점 전략: 기술적 결함을 신뢰로 전환하는 방법론.
인용
“쉽게 상상하고 데모를 만들 수 있는 문제는 많지만, 그것을 제품으로 만드는 것은 지극히 어렵다. 예를 들어 자율주행은 동네 한 바퀴 도는 데모는 쉽지만, 제품이 되는 데는 10년이 걸린다.” (Andrej Karpathy)