정의

Jakob Nielsen(1993, 2000)이 제안한 usability 문제 발견 모델. 포매티브 usability 테스트에서 n명의 사용자가 발견하는 문제 비율 L을 수학적으로 모델링한다. “N=5 규칙”으로 통용되지만, 실제로는 특정 조건 하의 bounded claim이다.

핵심 속성

  • 공식: L = 1 − (1 − p)^n
    • L: 발견된 usability 문제 비율
    • p: 단일 사용자가 특정 문제를 발견할 확률
    • n: 테스트 사용자 수
  • 원래 p값: 0.31 (1990년대 초기 데스크탑 연구 평균). 자연 상수 아님 — 인터페이스·태스크·사용자 특성에 따라 달라짐
  • 5명일 때 발견율: p=0.31 가정 시 약 85%. p=0.10이면 41%로 급감
  • Faulkner 2003 한계: 60명 연구에서 5명 샘플 100개를 분석 → 최고 99%, 최저 55% 발견. 10명이면 최저 80%로 안정화

적용 조건 (N=5가 방어 가능한 경우)

  1. 포매티브 usability 테스트 (브로드 탐색 연구 아님)
  2. 문제 발견이 목적 (빈도 추정 아님)
  3. 인터페이스/플로우가 비교적 bounded
  4. 태스크 목적상 사용자 집단이 균질함
  5. 문제가 세션 중 관찰 가능
  6. 반복 테스트·재설계 계획 존재

오용 패턴 (N=5가 잘못된 경우)

오용 유형이유
탐색적 인터뷰 (Mental model, motivations)다양성 이해가 목적 — 균질성 가정 성립 안 함
서브그룹 혼합 (신규/숙련/해외 사용자 혼재)서브그룹당 유효 n이 1~2로 줄어듦
측정 목적 (태스크 성공률, A/B 비교)p값 추정에는 대규모 샘플 필요
복잡한 인터페이스 (다양한 경로)Spool & Schroeder 2001: 문제가 계속 추가됨
희귀·심각 문제 (p=0.10이면 5명으로 41%만 발견)로그·지원티켓·표적 모집 등 다른 방법 필요

실용 공식

  • 5~8명: 단일 균질 집단, 포매티브, 반복 계획
  • ~12명/세그먼트: 루틴 테스트 (Faulkner 가이드라인)
  • ~30명/세그먼트: 고위험 결정
  • 정량 측정: 별도 설계 필요 (n=5로 60% 완료율 → 모집단 60%가 아님)

관계

인용

“The rule is not magic. It is math with assumptions, and the assumptions are doing all the work.”

“five is not a magic number. It is a tradeoff between speed, cost, coverage, and confidence.”

출처

클리핑 · substack.com