“N=5로 충분해요” — UX 업계에서 가장 많이 인용되고 가장 잘못 인용되는 문장이다. 원래는 usability testing에서 인터페이스 문제를 발견하는 포매티브 연구에만 해당하는 bounded claim이었다. 그런데 지금은 다섯 명의 인터뷰, 다섯 명의 컨셉 테스트, 다섯 명의 고객 인터뷰, 심지어 제품 의사결정까지 정당화하는 데 쓰인다.

규칙이 퍼진 경로는 이렇다. “5명으로 bounded formative test의 주요 usability 문제 대부분을 찾을 수 있다” → “5명으로 usability testing은 충분하다” → “5명으로 정성 연구는 충분하다.” 마지막 단계에서 원래 맥락이 완전히 사라진다.

문제는 인터뷰 연구의 목적이 전혀 다르다는 점이다. 인터페이스 문제 발견이 아니라 멘탈 모델, 동기, 제약, 의사결정 과정, 충족되지 않은 니즈를 이해하는 것이다. 이건 “p개의 문제가 균등하게 분포한다”는 수학 모델이 적용되는 상황이 아니다. 주제가 넓고 집단이 다양할수록 5명은 거의 확실히 부족하다.

더 나쁜 것은 서브그룹 혼합이다. 신규 사용자 2명, 파워유저 1명, 해외 사용자 1명, 다른 세그먼트 1명으로 구성된 “5명 연구”는 Nielsen 의미의 5명 연구가 아니다. 세그먼트당 1~2명에 불과한 데이터로 전체에 대한 주장을 만드는 것이다.

이 규칙이 퍼진 이유는 단순함 때문이다. 팀에게 “몇 명을 테스트해야 하나요?”에 대한 쉬운 답을 줬다. 그 단순함이 맥락 탈출을 부추겼다.

근거

“The problem is not small-N research. Small-N research can be valuable, and often it’s exactly the right call. The problem is using a discovery heuristic as if it were a universal sample-size principle.”

연결된 생각

출처

클리핑 · substack.com