LLM 시스템에서 발생하는 환각이나 오류를 ‘기술적으로 완벽하게’ 해결하려는 시도는 불가능에 가깝다. 이때 필요한 것이 **방어적 UX(Defensive UX)**이다. 이는 모델이 완벽하지 않음을 사용자에게 숨기지 않고, 오히려 그 한계를 투명하게 공개(Disclaimer)하거나 결과의 근거(Attribution)를 제시함으로써 사용자가 스스로 판단할 수 있게 돕는 전략이다.
흥미로운 지점은 ‘채팅 인터페이스’에 대한 회의적 시각이다. 채팅창은 사용자에게 무한한 자유를 주지만, 동시에 무한한 기대를 품게 한다. 기대가 높을수록 작은 오류에도 신뢰는 급락한다. 반면, 명확한 제약 조건이 있는 UI(예: 드롭다운, 버튼 기반 추천)는 사용자의 기대를 통제하고 시스템의 성공률을 높인다. 결국 훌륭한 AI 제품은 ‘무엇이든 할 수 있는 마법’이 아니라 ‘특정 문제를 확실히 해결해 주는 도구’로서의 인상을 주어야 한다.
근거
Apple과 Google의 가이드라인을 인용하며, Eugene Yan은 AI의 한계를 명확히 설명하고 사용자가 사실 여부를 확인할 수 있는 출처를 제공하는 것이 장기적인 신뢰 형성의 핵심임을 역설한다.
“출처(Citations)는 점점 더 흔한 디자인 요소가 되고 있다. … 이는 정보가 어디서 왔는지 보여줄 뿐만 아니라 사용자가 출처의 품질을 평가할 수 있게 한다.”
연결된 생각
- 20260609-llm-system-building-patterns — 방어적 UX는 사용자 접점에서 시스템의 리스크를 관리하는 최종 단계다.