정의
은닉 마르코프 모델(HMM)은 관찰 가능한 시퀀스의 이면에 숨겨진 상태(state) 시퀀스가 존재한다는 가정 하에, 두 시퀀스 간의 확률적 관계를 모델링하는 생성적 확률 모델이다.
핵심 속성
- 상태 집합 (Q): N개의 이산적인 은닉 상태. (예: 날씨 상태 {HOT, COLD})
- 전이 확률 행렬 (A): , 각 상태 i에서 j로 이동할 확률. 행 합은 1.
- 방출 확률 행렬 (B): , 은닉 상태 j가 관측 o_t를 생성할 확률.
- 초기 확률 분포 (π): .
- 마르코프 가정: — 미래 상태는 직전 상태에만 의존.
- 출력 독립 가정: — 관측은 해당 상태에만 의존.
관계
- 20260515-markov-chain — 상위개념: 마르코프 연쇄에 은닉 상태와 방출 확률을 더해 확장
- forward-backward-algorithm — 하위개념: HMM 파라미터 학습을 위한 기대-최대화 알고리즘
- viterbi-algorithm — 동위개념: 최적 은닉 상태 시퀀스를 찾는 디코딩 알고리즘
- condition-random-field — 대조: HMM이 생성모델인 반면 CRF는 판별모델로, 출력 독립 가정을 완화함
인용
“A hidden Markov model (HMM) allows us to talk about both observed events (like words that we see in the input) and hidden events (like part-of-speech tags) that we think of as causal factors in our probabilistic model.”