인간 중심 AI의 세 가지 원칙
1. 통제권의 환상 (Ilusion of Control)
사용자가 실제로 통제하지 않더라도, 통제할 수 있다는 느낌을 유지해야 한다.
이는 단순한 UX 트릭이 아니라, 인간의 심리적 안정을 위한 필수 요소다.
적용 방법:
- 모든 중요 작업에는 ‘취소’ 또는 ‘수정’ 버튼을 제공
- AI의 결정을 사용자가 검토할 수 있는 ‘검토 모드’ 제공
- 사용자가 AI의 행동을 ‘허용’ 또는 ‘거부’할 수 있는 명시적 선택권
2. 투명성의 최소화 (Minimal Transparency)
너무 많은 정보는 오히려 사용자를 혼란스럽게 만든다.
투명성은 필요한 만큼만 제공해야 한다.
적용 방법:
- AI의 추론 과정을 3줄 이내로 요약
- 사용자가 ‘더 보기’를 클릭했을 때만 상세 정보 제공
- 시각적 아이콘이나 색상으로 신뢰 수준을 직관적으로 표현
3. 예측 가능한 불완전함 (Predictable Imperfection)
AI가 완벽할 필요는 없다. 오히려 의도적으로 작은 실수를 통해 사용자의 개입을 유도하는 것이 더 효과적이다.
적용 방법:
- AI 초안에 ‘의도적 오류’를 포함시켜 사용자가 수정하도록 유도
- 불완전한 결과물을 먼저 보여주고, 사용자의 피드백을 받아 개선
- 사용자가 ‘내가 더 낫다’는 느낌을 받을 수 있는 기회 제공
통합적 관점
이 세 가지 원칙은 서로 연결되어 있다.
통제권의 환상이 유지되려면 투명성이 최소화되어야 하고, 예측 가능한 불완전함이 이를 뒷받침한다.
궁극적 목표: 사용자가 AI를 ‘도구’가 아닌 ‘협력자’로 느끼게 하는 것.
협력 관계에서는 상대방의 모든 행동을 통제할 필요가 없고, 상대방이 완벽할 필요도 없다.