Discrete HMM Training Algorithm for Incomplete Time Series Data

불완전 시계열 데이터를 위한 이산 HMM 학습 알고리듬

Abstract

Hidden Markov Model is one of the most successful and popular tools for modeling real world sequential data. Real world signals come in a variety of shapes and variabilities, among which temporal and spectral ones are the prime targets that the HMM aims at. A new problem that is gaining increasing attention is characterizing missing observations in incomplete data sequences. They are incomplete in that there are holes or omitted measurements. The standard HMM algorithms have been developed for complete data with a measurements at each regular point in time. This paper presents a modified algorithm for a discrete HMM that allows substantial amount of omissions in the input sequence. Basically it is a variant of Baum-Welch which explicitly considers the case of isolated or a number of omissions in succession. The algorithm has been tested on online handwriting samples expressed in direction codes. An extensive set of experiments show that the HMM so modeled are highly flexible showing a consistent and robust performance regardless of the amount of omissions.

1. 서 론

은닉 마르코프 모형은 순차 데이터 또는 시계열데이터의 모형으로 널리 활용되고 있으며 매우 폭넓게 활용되고 있고 시간이 갈수록 새로운 응용 사례가 나타나고 있다[1]. 1980년대 음성 인식에서 성공적으로 활용된 이후 다양한 패턴 인식 및 기계 학습 모형으로 응용 영역이 확대되어 왔다[2,3]. 최근 빅 데이터 붐을 타고 새로운 인기를 이어가고 있다.

오늘날 수많은 모바일 기기를 포함하여 다양한 센서로부터 들어오는 신호는 양은 많지만 개별 신호를 볼 때 누락되거나 은닉, 차폐 등으로 소실되는 경우가 많다[4]. 종종 그럼에도 불구하고 HMM으로 이러한 신호들을 모형화할 수 있어야 되는 경우가 많다. 누락 데이터에 대한 처리 문제는 이미 오랜 역사를 갖고 있다[5]. 음성인식에서도 오래 전부터 이와 같은 결측 데이터를 처리하기 위한 노력이 있어 왔다[4,5]. 음성의 경우 데이터 결손으로 인한 인식률의 급격한 저하는 참기가 어렵기 때문에 큰 주제거리가 되지는 않았지만 연구가 없지는 않았다[6]. 최근 GIS응용의 일환으로 결측이 잦은 동적 위치 추적 문제에 HMM을 활용하는 사례도 있으며 앞으로 유사 사례가 크게 늘어날 것으로 예상된다[4].

HMM의 이론에 따르면 그래프 모형의 하나인 HMM은 어떤 변수가 있건 없건 간에 항상 추론이 가능하다. 따라서 일부의 관측 신호가 없더라도 추론에는 특별한 영향을 미치지 않는다. 있어야 할 변수가 없을 때 관심 변수를 추정 평가할 때 기대되는 확률의 정확성, 성능이 영향을 받을 뿐이다. 본 연구에서는 EM 기반의 표준의 학습 알고리듬을 최소한으로 수정하여 불완전 데이터에 대한 추론과 학습하는 알고리듬을 제시하고자 한다. 제안 방법의 E 단계는 전진 및 후진 확률 계산과 몇 가지의 사후확률 변수의 계산 공식를 변경함으로써 문제를 해결하였다. 연속 모형에도 벡터 단위의 결손이라는 가정을 만족할 때 이산 HMM의 학습 및 추론 방법을 그대로 적용할 수 있다.

본 논문의 구성은 다음과 같다. 2장에서 본 논문의 배경 이론이 되는 HMM에 관한 간략한 소개를 한 다음, 3장에서 제안 모형의 추론 및 학습 알고리듬을 전개 한다. 그리고 4장에서는 제안한 방법으로 실험한 결과를 다양한 각도에서 단계별로, 그리고 체계적으로 평가한 결과를 제시하며 성능의 변화를 해석한다. 마지막 5장에서 결론을 맺는다.

 

2. 은닉 마르코프 모형 이론

2.1 은닉 마르코프 모형 (HMM)의 정의

일차 마르코프 체인에 출력 과정을 얹은 형식의 은닉 마르코프 모형(HMM)은 입력 신호의 다양한 변형, 잡음 등에 뛰어난 모형화 능력이 있는 통계적시계열 모형의 하나이다 [1/Rabiner+89]. 모형의 구조는 Fig. 1(a)와 같다. 마르코프 체인 { Xt }는 일련의 상태의 열로 정의하는 확률 과정인데 효율적 모형화를 위해 도입한 잠변수들이며 직접 관측되지 않는다. 그 대신 마르코프 체인의 확률 함수인 출력 과정 { Yt } 을 통해 간접적으로 드러낸다.

Fig. 1.Graphical model representation. (a) Hidden Markov model, (b) Hidden Markov model with missing observations.

순차 데이터 Y = Y1:T = y1y2...yT 가 관측 되었을때 HMM은 생성 확률을 다음과 같이 표현 한다.

여기서 X = X1:T = X1X2...XT 는 Y 를 생산하였을 가능성이 있는 임의의 마르코프 체인이다. 그런데 만약 관측 신호 중 t 번째의 신호 Yt 가 관측되지 않았다면 Fig. 1(b)와 같이 표현할 수 있다. 본 연구에서는 이때 변수 Yt 는 존재하며 그 값이 공(∅ 또는 널 null)이라고 두기로 한다. 그러면 불완전한 데이터의 경우에도 식 (1)을 그대로 적용할 수 있다. 다음 절에는 기존 학습 및 추론 알고리듬에서 달라지는 부분을 중심으로 기술하기로 한다. 이를 위해 그 전에 최소한의 HMM의 기초 내용을 소개하기로 한다.

HMM은 초기 상태 분포, 상태 천이 분포, 그리고 부호 출력 분포의 세 가지의 확률 모수로 기술할 수 있는 통계적 모형의 하나이다. λ = (π, A, B)로 표기한다. 유한한 N 개의 상태들의 집합을 S = {1, 2, ..., N }, 각 상태 i ∈ S 에서 유한한 종류의 기호 또는 신호 v ∈ V = {1, 2, ..., M } 를 만들어낸다고 하자. HMM의 세 가지 모수는 다음과 같이 정의 한다.

π = { πi : πi = Pr(X1 = i), ∀i ∈ S }, πi ≥ 0, .

A = { aij : aiij = Pr( Xt+1 = j|Xt = i ), ∀i,j ∈ S },

aij ≥ 0, .

B = { bi(v):Pr( Yt = v|Xt = i ), ∀i ∈ S , ∀v ∈ V },

bi(v) ≥ 0,

HMM은 일련의 관측 데이터를 만들어 내는 생성 모형이다. 관측 순차 데이터 Y = Y1:T = Y1 Y2 ... YT 를 출력할 확률(우도)는 식 (1)과 같다. 여기서 X 는 잠변수라고 하며 미지의 마르코프 체인 X = X1 X2 ... XT 을 나타낸다. Fig. 1(a)에 보인 HMM의 구조에 따르면 수평 및 수직 화살표로 표현되는 두 종류의 인과관계 Xt-1 → Xt 와 Xt → Yt 가 있다. 각각에는 일차 마르코프 가정과 조건부 독립 가정이 내포되어 있다.

 

3. 제안 모형과 추론 알고리듬

3.1 불완전 데이터를 위한 HMM

표준 HMM의 이론은 모두 기본적으로 완전한 관측열을 중심으로 전개되어 있다[1]. 그러나 본 논문에서 제안하는 모형의 환경에서는 출력이 누락된 경우도 종종 있다고 가정한다. 출력이 없는 경우 공백기호 ϕ 로 두고 출력 과정을 다음과 같이 정의할 수 있다.

여기서 ∅ = {ϕ}이다. 이것은 단지 편리를 위한 것이다. ∅는 공백 기호가 있는 집합이며 집합론에서 다루는 공집합과 구별하기 바란다. 즉 관측 기호의 유무에 따라

또는

여기서

P(Yt = ∅|Xt) = 1

와 같이 두 가지 경우로 구분하여 써야 하지만 확장된 출력의 집합 V ∪∅을 도입하면 기존의 HMM 기술 방식을 그대로 쓸 수 있다.

3.2 추론 알고리듬

HMM의 전진 확률 변수는 표준 HMM과 다르지 않다.

다만 관측 기호가 없는 경우에는 확률적 사건이 없으므로 다음과 같이 구분하면 된다.

모형의 평가 점수는 다음과 같다.

유사하게 후진 확률은

전진 확률과 후진 확률의 경계 조건은 식 (6)에 따르는 표준 HMM과 같다.

3.3 학습 알고리듬

HMM은 학습 알고리듬은 유명한 EM 알고리듬의 하나로써 추정(E)과 최대화(M)라는 두 과정의 반복으로 구성된다[9,10]. 추정의 E 단계에서는 잠변수에 관한 모든 사건을 추정 한다. 학습 초기에 임의로 지정한 모수를 이용하여 다음과 같은 사후 확률 변수를 추정한다. 가장 기본적인 특정 t 시각의 상태 i 의 추정 사후 확률은 표준 모형과 같다.

반면 t 시각 상태 i 에서 j 로 천이하는 사건의 추정확률은 관측 기호의 유무에 따라

또는

이다. 식 (6)을 이용하여 두 식을 결합하면 식 (9)로 통일할 수 있다. 마지막으로 t 시각 상태 i 에서 기호를 관측할 확률은 다음과 같다.

관측이 없었으면 존재할 가능성이 없으므로 확률은 0이 된다.

이제 최적화의 M 단계이다. 세 종류의 사후 확률변수를 모두 구하였으면 이전 단계의 임의적 모수보다 더 좋은 값을 구할 수 있다. 여기서 좋다는 것은 주어진 관측 데이터 Y 에 대한 모형 λ 의 우도(likelihood)가 더 크다는 것을 의미한다. EM 알고리듬으로 두 단계를 반복하면 매번 그 우도가 항상 증가한다는 것이 증명되어 있다. HMM의 세 모수의 새로운 값은 다음과 같다.

식 (14)의 k 는 정의구역이 V 인데 유의하기 바란다. 그리고 여기서 δa,b is Kronecker 델타 함수이다.

연속치를 출력하는 가우스 HMM의 경우에는 출력 모수 대신에 다음 공식을 사용하면 된다.

 

4. 실험 결과 및 고찰

4.1 실험 데이터

불완전 순차 데이터를 모형화하는 이산 HMM의 평가를 위하여 와콤 태블릿/전자펜 장치를 사용하였으며 총 216 표본의 숫자 필기를 수집하였다. 각 숫자별로 15∼25개의 표본을 획득하였다. 본 실험의 주목적은 다양한 비율로 손상된 시계열 데이터를 얼마나 잘 모형화 하며 성능의 변화가 어떤지를 살펴보는데 있다.

필기 데이터는 펜의 궤적을 작은 단위 선분으로 나누고 각각의 진행 방향으로 16 종류의 코드로 표현하였다. 원 입력 데이터는 손상이 없으므로 D(0)로 부르기로 한다. D(0)의 각 필기의 임의의 위치에 10%정도가 손상되어 기호가 사라진 데이터를 D(10)라고 한다. 비슷하여 20%∼50%가 손상된 데이터 집합을 차례로 D(20), ..., D(50)이라고 한다. D(0)의 깨끗한 원필기는 Fig. 2의 최상단의 숫자와 같다. 그림은 점진적으로 손상이 많은 D(10), D(20), ..., D(50)의 필기 예도 보여준다. D(0) 필기는 방향 코드를 그대로 그림으로 가시화한 것이지만 이하의 손상된 필기는 중간의 기호들이 사라졌기 때문에 Fig. 2와 같이 그릴 수 없다. 단지 참고를 위해 손상되지 않은 코드를 손상전의 위치에 그대로 그렸을 뿐이다. 순차 데이터로서는 10%, 20% 등의 비례적 손상이지만 필기의 모양은 크게 달라진다는 점을 이해하여야 한다. 따라서 이미 손상된 데이터로부터 모양을 정확하게 복구하는 것은 불가능하다.

Fig. 2.Samples from six data sets. From the top: D(0), D(10), D(20), D(30), D(40), D(50).

D(0)를 제외한 다른 손상 데이터는 학습 데이터와 시험 데이터를 별도로 생성하였다. 기본적으로 모두 D(0)에서 유래한 것이며 손상 비율도 같지만 손상 위치가 다른 모의 실험 데이터를 사용하였다.

4.2 교차 검증

HMM은 시계열 패턴 인식으로 널리 활용된다. 숫자 필기 인식을 위하여 교차 검증법을 적용하기로 한다. Fig. 2의 각의 데이터에서 90%로 훈련한 다음 나머지 10%로 평가한다. 각 데이터 별로 총 10 번의 검증 평가를 실시하였다. 모형은 일반적인 어고딕(ergodic) 모형과 선형적 순서를 표현하는 선형 사슬모양의 모형의 두 가지로 평가하였고 모두 상태수를 N = 7 로 하였다. 결과는 Table 1과 같다.

Table 1.Cross-validation results with two types of models (M(n)) from six data sets (D(n))

모든 데이터에 대해 선형 모형의 성능이 높다. 필기 신호의 특성상 선형적 특징이 엄격하게 적용되어야 하기 때문이라고 설명할 수 있다. 각 데이터로 학습된 모형은 비슷한 비율의 손상 데이터에 대해서 거의 유사한 수준의 성능을 보여준다. 이는 상당히 놀라운 발견이다. 손상으로 인하여 관측 데이터가 줄어들면 손상 비율에 비례하여 식별 능력이 줄어들 것이라고 기대하였지만 그 예상이 크게 빗나간 결과를 얻었다. Table 1은 각 경우에 대해 세 번의 평가를 하였고 성능의 중간 값만 보인 표이다. Fig. 3은 세번의 성능을 모두 보인 그래프이다. HMM의 모수를 임의로 초기화 하였기 때문에 매번 성능의 변동이 있지만 통계적으로 유의할 만한 추세를 보이지는 않는다.

Fig. 3.Results of cross validation tests with three repetitions for each case. (a) ergodic models, and (b) linear models.

4.3 다양한 시험 데이터에 대한 성능

만약 훈련 데이터와 같은 정도의 손상이 있는 동일한 시험 조건이 아니라면 어떨까? 실제 입력 데이터는 손상이 없거나 손상이 오히려 더 많은 상황이라면 성능의 변화는 어떤지 알아보기로 한다. 상태수는 여전히 모두 7로 두었다.

Fig. 4(a)는 어고딕 모형의 성능 그래프이다. 각 곡선은 특성 비율로 손상된 데이터로 훈련한 모형인데 수평축의 다양한 손상 데이터에 대해 변화는 있지만 크게 감소하는 추세를 보이지는 않는다. 즉 다양한 변화를 모두 수용하는 강건한 모형화 능력을 보여 준다. Fig. 4(b)는 선형 모형의 결과이다. 상대적으로 손상이 적은 데이터로 훈련된 모형은 시험 데이터의 손상이 클수록 성능이 떨어지는 경향을 읽을 수 있다. 하지만 오른 쪽으로 갈수록 모든 모형의 성능이 수렴하는 모습을 보여 준다. 저품질의 데이터로 훈련한 모형은 손상이 덜한 데이터에 대해서 성능이 높지 않지만 품질이 떨어질수록 성능이 비슷하거나 오히려 상승하는 양상이다.

Fig. 4.Test results on data sets with different rates of missing observations. Each curve represents a model and the test sets (horizontal axis) are separately prepared and thus differ from the training sets. (a) Ergodic models, (b) linear models.

4.4 모형 크기에 따른 성능 변화

지금까지는 상태수를 N = 7 로 고정하였지만 상태수의 변화에 따라 더 높은 성능을 올릴 수도 있다. 상태수가 커지만 모형의 복잡도가 커지기 때문에 과도한 학습(overfitting)을 하게 되고 일반화 성능이 떨어질 수 있다.

Fig. 5는 HMM의 상태수에 따라 성능이 변하는 추세를 분석한 결과를 도시한 것이다. Fig. 5(a)는 무손상의 원자료로 학습한 어고딕 모형의 성능 변화이다. 상태가 늘면 일관되게 성능이 향상됨을 알 수 있다. Fig. 5(b)는 20% 정도의 결손이 있는 데이터 D(20)로 훈련한 모형 M(20)의 성능 변화이다. 전체적으로 M(0)에 비하여 다소 저하되기는 하였지만 유사한 성능 변화의 추세를 보인다. Fig. 5(c)와 (d)는 선형 모형으로 유사한 실험을 한 결과이다. 어고딕 모형과 달리 N = 6, 9 및 N = 5, 8 에서 두 개의 정점을 갖는다. 어고딕 모형과 선형 모형 모두 N = 9 부근에서 정점을 찍고 이후 성능이 하락하는 경향을 보인다.

Fig. 5.Performance curve as a function the number of states N . (a) Ergodic model M(0) trained with D(0), (b) ergodic model M(20) using D(20), (c) linear model M(0) for D(0), and (d) linear model M(20) for D(20).

4.5 모형 크기와 데이터에 따른 성능 분석

마지막 실험에서는 모델의 크기(N)과 시험 데이터 손상 정도에 따라 모형의 성능 변화 추이를 살펴 본다. 특정 학습 데이터에 대한 HMM은 N 이 클수록 성능이 높지만 반면 시험 데이터의 손상이 심할수록 식별이 어려워 질 거라고 예상할 수 있다. Fig. 6은 그런 점을 확인하는 시험 결과를 나타낸 것이다. 각 픽셀의 밝기는 숫자 인식률을 나타낸다. 비슷한 인식률을 나타낸는 등고선을 보면 예상대로 N 이 클수록(윗 방향), 데이터의 손상이 적을수록(왼쪽 방향) 성능이 높은 경향을 보여준다. Fig. 6(a)와 (b)는 각각 D(0)와 D(20)으로 학습한 어고딕 모형의 결과이다. Fig. 6(c)와 (d)는 같은 데이터로 학습한 선형 모형의 결과이다. 후자의 경우 상태수가 각각 6과 9, 5와 8일 때 성능의 정점을 보여준다. 이와 같은 정점은 순차 데이터의 특징에 따른 결과이다. 데이터의 평균 길이와 패턴의 복잡도 등에 따라 결정된다.

Fig. 6.Model performance over varying model size (N ) and the degree of missing observations. (a) Ergodic model M(0)'s performance, (b) ergodic M(20)'s, (c) linear M(0)'s, and (d) linear M(20)'s.

Fig. 7은 유사한 시험을 모든 훈련 데이터 D(0), ..., D(50)으로 제작한 모형 M(0), ..., M(50) 모두의 성능 변화의 모습을 보인 것이다. 오른 쪽으로 갈수록 어두워지며(성능 저하) 모형간의 인식률 차이가 없이 균등해지는 현상을 보여준다. 어고딕 구조든 선형 구조든 같은 추세를 보여준다. 놀라운 점은 상태수가 크지 않아도, 그리고 시험 데이터의 손상 정도가 상당한 정도(대략 40%)까지는 성능의 저하가 크지 않다는 점이다.

Fig. 7.The full version of Fig. 6, about the model performance over varying model size (vertical axis) and the data quality (horizontal axis). (a) Ergodic models' performance, and (b) linear models' performance.

 

5. 결 론

본 논문에서는 순차적 관측 데이터에 손상이 있거나 관측 자체가 불완전한 경우에도 HMM을 응용할 수 있는 추론 및 학습 알고리듬을 제시하였다. 실험결과 어떤 상황에서 훈련 하였든 완전 또는 불완전데이터를 평가할 수 있음을 보여 주었다. 이때 성능의 저하가 크지 않다는 것을 확인할 수 있었다. 그성능 저하가 거의 데이터 손상 자체로 인한 영향이며 HMM의 모형화 능력은 상당한 손상 범위 내에서 살아있음을 확인할 수 있었다. 손상 외에 보편적으로 관측이 누락되는 현상은 오늘날의 다양한 빅 데이터에서 관찰된다. 향후 본 연구의 결과는 이와 같은 실제 데이터에 널리 활용할 수 있을 것이다.