Improvement of PM₁₀ Forecasting Performance using DNN and Secondary Data

DNN과 2차 데이터를 이용한 PM₁₀ 예보 성능 개선

Abstract

In this study, we propose a new $PM_{10}$ forecasting model for Seoul region using DNN(Deep Neural Network) and secondary data. The previous numerical and Julian forecast model have been developed using primary data such as weather and air quality measurements. These models give excellent results for accuracy and false alarms, but POD is not good for the daily life usage. To solve this problem, we develop four secondary factors composed with primary data, which reflect the correlations between primary factors and high $PM_{10}$ concentrations. The proposed 4 models are A(Anomaly), BT(Back trajectory), CB(Contribution), CS(Cosine similarity), and ALL(model using all 4 secondary data). Among them, model ALL shows the best performance in all indicators, especially the PODs are improved.

1. 서론

최근 국내 미세먼지 문제는 이미 그 심각성이 인식되어 전문가 그룹 뿐 아니라 일반 국민들의 관심도높아지고 있다. 특히 고농도 초미세먼지가 발생하는 경우는 3∼4일간 혹은 그 이상 지속되는 경향이 있고습도가 높은 경우에 생성속도가 가속되기 때문에 짙은 스모그 형태로 나타나고 있다[1].

미세먼지는 국민 건강에 직접적으로 영향을 미치기 때문에 예보의 중요성은 점점 커지고 있다. 이에환경부에서는 2014년 2월부터 미세먼지 예보를 전국적으로 시행중이나, 실제 시민이 느끼는 체감 오염도와 많은 차이를 보이고 있다. 미세먼지 예보가 국민건강보호를 위한 예방적 기능을 수행하기 위해서는 예보 성능의 개선이 시급하다.

현재 미세먼지 예보는 수치모델 결과를 중심으로 수행되고 있으나 수치예보는 배출량 및 기상자료 등으로 대표되는 입력 자료의 불확실성과 수치모델 자체가 복잡한 대기현상을 완전하게 반영하지 못하는 근본적인 한계를 가지고 있다.

본 연구에서는 이러한 한계를 극복하기 위해서 기상 및 대기질 측정 자료와 예보 자료, 이를 기반으로 하는 2차 데이터를 심층 신경망(DNN: DeppNeural Network)에 학습시켜 불완전한 수치모델(CASE 04)의 결과를 보정하고, 정확도를 향상시킬 수 있는 예보모델들을 개발했다.

Fig. 1. CMAQ air quality modeling system.

본 논문에서 개발한 예보 모델들의 성능 비교 대상인 CASE04는 CMAQ을 사용하여 PM10 예측 농도를 생성하는 수치예보 모델이다.CMAQ은 가스상, 입자상 대기오염물질을 통합하여 ‘ one-atmosphere ’평가를 할 수 있는 오일러리안 화학수송 모델로 기상모델링 자료, 배출량 모델링 자료, 광분해 모델 자료 등을 입력 자료로 대기 중 오염물질의 균질 및 비균질 화학반응, 이류 및 확산을 계산한다[1]. 현재 CMAQ은 U.S EPA(United States Environmental Protection Agency) 산하 CMAS(Community Mod-eling and Analysis System) 센터를 중심으로 꾸준히 개발 보완되고 있다.CASE04는 CMAQ 대기질 모델링 시스템에 기상 모델인 WRFv3.6.1과 아시아 배출량 자료인 MEIC(2010)과 REAS(2008), 국내 배출량 자료인 2011CAPSS를 입력하고, 자료동화를 적용하여 모델링하였다.

개발한 예보모델은 6가지로 크게 기상 및 대기질 측정 자료와 예보자료로 대표되는 1차 데이터를 학습 자료로 사용한 모델인 Julian과 1차 데이터와 이를 기반으로 생성한 아노말리, 역 궤적, 기여도, 코사인 유사도 등의 2차 데이터를 학습 자료로 사용한 모델인 A,BT,CB,CS,ALL이 있다. 개발한 예보모델들의 성능을 평가하기 위해서 동일한 평가기간에 대해서 수치모델인 CASE04와 상호 비교했다.

미세먼지를 비롯한 대기 오염물질을 예보하는데인공신경망의 성능은 이미 입증되어 관련 연구들이 진행되고 있다. 관련 연구로는 인공신경망에 날짜 데이터(month, weekly day, julianday), 대기질 데이터, 지형 데이터와 기상 측정 및 예보 데이터를 입력하여 PM10과 PM2.5의 예보와 성능을 평가 분석한 연구[2-10],RNN(RecurrentNeuralNetwork)을 이용하여 O3 및 PM10,PM2.5의 농도를 예측한 연구[11-12], RBF(Redial Based Function)를 이용하여 PM10의 농도를 예측한 연구[13]가 있다. 그 밖에 시계열대기질 자료의 결측치를 처리하기 위해서 DRNN(Deep Recurrent Neural Network)를 기반으로 시공간 예측 프레임워크를 제안한 연구[14],PM10 예보 성능의 향상을 위해서 민감도 분석을 사용하여 역모델 파라메타를 추정한 연구[15], 대기질 예보의 성능 향상을 위해서 커널 삼중대각 희소행렬을 이용해 고속으로 자료동화 수행한 연구[16] 등이 있다.

본 연구에서는 서울 권역을 대상으로 당일(D+0), 내일(D+1), 모레(D+2)의 PM10 예보를 위해서 심층 신경망을 기반으로 한 6가지 예보 모델을 개발했다.

제안한 연구는 다음과 같은 순서로 기술한다. 이어지는 2장에서는 예보에 사용한 입력인자와 심층 신경망의 네트워크 구조에 대해서 설명하고,3장에서는 각 예보모델들을 기술하며, 4장에서는 제안한 모델별 PM10 예보결과를 나타내고,5장에서 결론을 맺는다.

2. 입력인자와 네트워크 구조

2.1 입력인자

본 연구에서는 대기질, 기상 측정데이터와 예보 데이터로 대표되는 1차 데이터와 이를 기반으로 생성한 2차 데이터인 아노말리, 역 궤적, 기여도, 코사인 유사도를 심층신경망에 입력하여 서울 권역의 PM10 예보 값을 생성했다. 예보에 사용한 인자들은 선행연구[1]에서 생산된 자료로 ㈜애니텍의 AI 데이터베이스의 자료를 사용했으며,Table1과 Table 2에 구체적으로 기술했다.

아노말리는 동북아시아의 기상패턴을 분석하기

Table 1. Primary data

Table 2. Secondary data

아노말리는 동북아시아의 기상패턴을 분석하기

위해서 WRF 예보 자료를 활용하여 고도별로  temperature, geopotential height, relative humidity, U, V, W 변수에 대해서 생성된 2차 데이터이다. 그 중본 연구에서 사용한 변수를 Table 2에 제시했다. 역 궤적은 우리나라에서 발생하는 미세먼지 사례를 남풍류, 짧은 기류, 북서풍류, 서풍류의 5 가지 군집으로 분류한 패턴으로 Fig.2에 나타냈다.

Fig. 2. Back trajectory pattern of Seoul region.

 

Fig. 3. Contribution region.

 

기여도는 Fig.3에 제시한 바와 같이 동아시아 권역을 총 20개의 지역으로 구분하여 각 권역에 해당하는 기여농도를 도출한 값으로 0에서 1사의 값으로 표현된다.

코사인 유사도는 고도별, 변수별 기상 데이터를 미세먼지 예측에 보다 용이한 형태로 변환하고자 수식 (1)에 의해 재생산한 값이다[18]. 코사인 유사도를 구하는 기준은 먼저, 고농도일의 평균 패턴들을계산하고 이를 기준 패턴으로 삼는다. 그리고, 기준패턴들과 예측하고자 하는 날짜들의 패턴들을 비교하여 얼마나 유사하였는지를 구하는 방법이다. 코사인 유사도 계산 결과 기준패턴과 유사할수록 1에 가까운 값을 정 반대되는 패턴일수록 -1에 가까운 값을 가지게 된다.

\(\cos \theta=\frac{\vec{A} \cdot \vec{B}}{A \backslash|B|}\)    (1)

2.2 네트워크

본 연구에서는 입력데이터의 종류 및 개수를 달리하는 6 개의 예보모델들을 제안했다. 제안한 예보 모델별로 네트워크 구조가 다소 상이하나 기본적으로는 1개의 입력층과 여러 개의 은닉층,1개의 출력층을 가지는 심층신경망으로 Fig.4에 이를 나타냈다. 제안한 예보모델들은 6시간 평균 데이터를 입력하여, 6시간 단위로 3일치(D+0,D+1,D+2) 예보를 수행하는 것이 목적으로 Fig.4에 제시한 시간 프레임에 따라 예보 값을 생성한다.Fig.4에 나타낸 하나의 T는 6시간 단위로 구성되어 있고, 이 중 T1∼ T5는 과거에 해당하는 구간,T6∼T15 예보구간에 해당한다.

입력층에는 과거 6시간(T5)의 측정 데이터들과 예보구간(T6∼ T15)의 예보 데이터들이 입력되고, 출력층에는 각 예보구간의 미세먼지 측정 값이 목표값으로 입력되어 학습이 진행된다. 학습 은 경사하강법에 의해 가중치 및 파라메타를 최적화 하는 과정으로 이때, 비용함수는 MSE(MeanSquareError), 활성화함수는 시그모이드를 사용했다.

3. 제안한 예보모델

3.1 예보모델의 개요

본 논문에서는 PM10의 3일(D+0,D+1,D+2) 예보를 수행하기 위해서 학습인자를 달리한 6개의 예보모델을 개발했다. 이 중 Julian 예보모델은 1차 데이터인 대기질 및 기상 측정 데이터와 예보 자료, 날짜데이터를 사용한 모델로 구체적인 학습인자는 Table 3에 제시했다.

Fig. 4. Time unit concept of forecast model.

Fig. 5. Proposed DNN architecture.

 

Table 3. Julian forecast model

날짜 데이터는 미세먼지의 농도와 높은 상관성을 갖는 기본적인 인자로 주어진 날짜를 어떻게 표현하느냐에 따라 미세먼지와의 상관성을 더 정확하게 표현할 수 있다.Julian 예보모델에서는 날짜를 제안한

줄리안 멤버십 함수(Fig.6)에 의해 12개의 인자로 표현된다. 줄리안 멤버십 함수는 시간의 연속성 및 미세먼지의 계절적 특성을 고려하여 날짜를 1월에서

12월을 대표하는 12개의 연속적인 인자로 나타낸다.

12개의 인자 중 2개만이 활성화되고, 나머지 10개의 인자는 0으로 설정하는데, 활성화되는 2개의 인자는 각각 주어진 날짜의 월(Month)과 인접 월(Adjacent_Month)이다. 예를 들어, 주어진 날짜가 4월 20일 이라면 제안한 줄리안 멤버십 함수에 의해서 인접 월(Adjacent_Month)은 5, 해당 월의 값(Month_value)는 0.8, 인접 월의 값(Adjacent_Month_value)는 0.2가 되어 날짜를 나타내는 12개 인자는 0,0,0,0.8, 0.2,0,0,0,0,0,0,0가 된다. 이 인자들의 의미는 주어진 날짜(4월 20일)가 4월에 해당되는 날짜이지만, 5월에 인접해있는 날짜이므로,4월에 해당하는 4번째 인자는 0.8,5월에 해당하는 5번째 인자는 0.2로 설정하여 날짜의 연속성 및 미세먼지의 계절적 추이를 표현한 것이다.

위에서 기술한 Julian 예보모델에 2차 데이터인 아노말리, 역 궤적, 기여도, 코사인 유사도를 학습 인자로 추가한 모델들의 개요를 Table4에 기술하고, 예보 모델별 네트워크 파라메타는 Table5에 제시했다. 

Table 4. Forecast models using 2 th data 

Table 5. Network parameter of forecast models 

A는 아노말리 변수 8개를 사용,BT는 역 궤적 인자5개를 사용,CB는 20개 권역의 기여도 20개를 사용, CS는 8개의 코사인 유사도 변수를 사용,ALL은 모든 2차 변수를 학습인자로 적용한 모델이다.

4. 실험 결과 및 고찰

4.1 성능평가 도구

제안한 예보 모델의 성능을 평가하기 위해서 U.S. EPA의 O3와 PM2.5의 모델링 정합도 분석을 위한 지침[17]을 참고했다. 이 지침의 통계항목 중 MBIAS(Mean Bias), NMB(Mormalized Mean Bias), IOA(Index Of Agreement)를 사용하고, R (Correlation Coefficient)을 분석도구로 추가했다. 각 통계 항목의 상세 수식은 식 (2)∼(5)에 기술했다.

\(\mathrm{MBIAS}=\frac{1}{\mathrm{N}} \sum_{1}^{\mathrm{N}}(\mathrm{Model}-\mathrm{Ots})\) (2)

\(\mathrm{NMB}=\frac{\sum_{1}(\mathrm{Model}-\mathrm{Oks})}{\sum_{1}^{\mathrm{N}} \mathrm{Obs}} \times 100\)     (3)

\(\mathrm{IOA}=1-\frac{\sum_{1}^{N}(\mathrm{Model}-\mathrm{O} \mathrm{ts})^{2}}{\sum_{1}^{N}(|\mathrm{Model}-\overline{\mathrm{Obs}}|-|\mathrm{Obs}-\overline{\mathrm{Obs}}|)^{2}}\)    (4)

\(\mathrm{R}=\frac{\sum(\mathrm{Model}-\overline{\mathrm{Model}}) \times(\mathrm{Ols}-\overline{\mathrm{Obs}})}{\sqrt{\sum(\mathrm{Model}-\mathrm{Model})^{2} \times \sum(\mathrm{Ols}-\mathrm{Obs})^{2}}}\)   (5)

또한, 현 미세먼지 예보가 지수 예보로 시행되기 때문에 적중률, 감지확률, 오경보율 등의 지수 평가도구를 사용했다. 적중률(Accuracy)는 전체 예보 성능을 평가하고, 감지확률(POD: Probability of De-tection)은 고농도 성능을 평가하며, 오경보율(FAR: False AlarmRate)는 잘못 예보된 고농도 비율을 분석하는 도구이다. 자세한 내용은 Fig.6에 기술했다.

통합 대기환경지수는 대기오염도에 따른 인체 영향 및 체감오염도를 고려하여 개발된 표현방식으로 좋음(1), 보통(2), 나쁨(3), 매우 나쁨(4)로 구분되며, PM10 지수구간 범위는 Table6에 나타냈다.

4.2 실험 결과

본 연구에서는 서울 권역의 3일(D+0, D+1, D+2) PM10 예보를 위해서 Julian, A, BT, CB, CS, ALL예보모델을 개발했다. 실험에 사용된 데이터는 서울권역의 2015년∼2018년 기간의 6시간 평균 데이터로 2015년 01월 01일에서 2017년 12월 31일까지는 학습에 사용하고 2018년 데이터는 평가에 사용했다.

Table7에 2차 데이터를 활용한 5개의 예보모델과 비교 대상인 수치모델 CASE04의 예보 결과를 나타냈다. 

Fig. 6. Julian membership function.

 

Fig. 7. Items and methods for evaluating the performance of the forecast model.

Table 6. Integrated Air Quality Index of PM10

기존모델인 CASE04와 5개의 예보모델의 동등한 비교를 위해서 예보 결과를 같은 행에 기술했는데, 세 번째 열인 DNN에는 개발한 각 예보모델의 결과를 표기하고, 네 번째 열인 CASE04에는 수치모델 CASE04의 예보 결과를 나타냈다.Table7의 각셀 안에는 2줄의 수치가 표기 되어 있는데, 첫 번째 줄은 Fig.7에 제시한 성능 평가 도구에 의해 백분율로 표기된 예보 결과이고, 두 번째 줄의 수치는 전체 패턴수와 예보 모델의 평가결과에 의한 패턴 수를 나타낸 것이다. 예를 들어,A 모델과 CASE04의 D+0예보 결과를 기술한 두 번째 행을 보면 A의 Accuracy는 전체 평가 패턴 346개 중에 286개를 적중해서 83

%, 동일한 평가 패턴에 대한 CASE04의 결과는 346개의 평가 패턴 중에 251개를 적중해서 73%의 지수적중률을 갖는다는 의미이다. 각 모델별로 동일한 평가 기간의 자료를 대상으로 평가했음에도평가 패턴 수의 차이가 나는 것은 일부 인자의 결측으로 인해해당 평가 패턴을 사용하지 못했기 때문이다. POD 

Table 7. PM10 prediction results of model using secondary data (unit: %)

의 경우도 Accuracy와 마찬가지로 전체 고농도 평가패턴 수에 대해 각 예보모델이 적중한 고농도 패턴의 수와 백분율을 기술했다.FAR은 ‘/’를 기준으로 왼쪽수치가 예보 결과 고농도로 평가한 패턴 중 실제 측정은 저농도인 패턴의 개수이고, 오른쪽 수치가 예보결과 고농도로 평가된 패턴의 수이므로 각 예보모델별로 수치가 상이할 수 있다.

제안한 A,BT,CB,CS 예보모델들과 기존 모델인 CASE 04의 결과를 비교해보면 지수적중률과 오경보율은 전반적으로 제안한 예보 모델들이 우수하나, D+1과 D+2의 감지확률의 성능이 떨어지는 경향을 보인다. 이에 반해 모든 2차 데이터를 학습에 사용한 All 모델은 모든 성능 평가 지표에 있어서 CASE 04보다 우수하다.

Table8에는 1차 데이터를 사용한 예보모델 중 가장 좋은 성능을 보인 Julian 모델과 2차 데이터를 사용한 모델 중 가장 좋은 성능을 보인 All 모델, 기존 수치 모델인 CASE04를 상호 비교한 결과를 기술했다. Julian 예보모델은 지수적중률과 오경보율은 우수하나 감지확률이 D+1 이상의 구간에서 50% 이하로 성능이 떨어진다. 이를 개선하기 위해서 2차 데이터를 학습인자로 추가한 모델 중 베스트 모델인 ALL 

Table 8. Comparison of PM10 prediction results of existing model and All 

모델은 지수적중률, 감지확률, 오경보율 모두 수치모델인 CASE04보다 우수하고, 지수적중률은 83%(D+0), 82%(D+1), 79%(D+2)로 전 예보구간 좋은 성능을 보인다. 오경보율은 13%(D+0), 13%(D+1), 26%(D+2)로 모든 예보구간에서 30% 이하로 우수하고, 감지확률은 73%(D+0),72(D+1)57%(D+2)로 D+2예보 성능이 떨어지나, 예보에 있어서 가장 중요한 구간인D+1의 성능이 우수하다.

Table 9. Statistical evaluation result of ALL (Seoul region)

Table9에는 개발된 예보모델 중 가장 좋은 성능을 보이는 ALL 모델의 통계평가 결과를 나타냈고, Fig. 8에는 ALL 모델과 수치모델인 CASE04의 시계열, Fig. 9에는 ALL 모델과 CASE04의 산포도를 제시했다. Fig. 9에서 (a),(c),(e)의 가로축은 ALL 예보모델, (b), (d), (f)의 가로축은 CASE04 수치 모델, 세로축은 PM10 측정값을 나타낸다. 제안한 ALL 모델과 수치모델인 CASE04를 산포도와 시계열 그래프상에서 비교해 보면 CASE04에서 과 평가(overpre-diction)된 패턴들이 ALL 모델에서는 상당부분 감소한 것을 확인할 수 있다. 이것은 ALL 모델이 수치모델의 문제점인 감지확률과 오경보율이 같이 상승하는 문제를 개선하여 감지확률이 향상되면서도 오경보율은 감소되는 신뢰도 높은 고농도 예보 결과를 보이는 것을 알 수 있다.

5. 결론

본 논문에서는 서울 권역 PM10의 3일 예보(D+0, D+1, D+2)를 위해서 6가지 예보모델을 개발했다. 먼저 1차 데이터를 사용한 Julian 예보모델이 그 중 하나이다. Julian 예보모델은 지수적중률과 오경보율은 우수했으나,D+1 이상의 감지확률은 성능이 떨어졌다. 이점을 개선하기 위해 Julian 예보모델에 고농도와 상관성을 반영하여 생성한 아노말리, 역궤적, 기여도, 코사인 유사도 등의 2차 데이터들을 추가한 예보모델인 A,BT,CB,CS,ALL을 개발했다. 그 중 ALL 모델이 지수적중률 83%(D+0), 82%(D+1), 79%(D+2)이고, 감지확률이 73%(D+0), 72%(D+1), 57%(D+2)이며, 오경보율은 13%(D+0),13%(D+1),26%

Fig. 8. Time series for ALL and CASE04 (Seoul region).

Table 9. Statistical evaluation result of ALL (Seoul re-gion)

(D+2)로 가장 우수한 결과를 보였다. 이는 학습에 추가한 2차 데이터들이 고농도와의 상관성을 잘 반영한 결과로 고농도의 미세먼지가 장기간 정체되는 현재의 미세먼지의 추이를 볼 때, 고농도 예보에 적합한 모델임을 알 수 있다.

향후 미세먼지 예보의 성능을 더욱 향상시키기 위한 연구로 예보에 동아시아 광역 데이터를 사용하는 방안과 오버피팅(overfitting) 문제를 개선하기 위한 연구가 필요할 것으로 보인다.