Derivation of Inherent Optical Properties Based on Deep Neural Network

심층신경망 기반의 해수 고유광특성 도출

Abstract

In coastal waters, phytoplankton,suspended particulate matter, and dissolved organic matter intricately and nonlinearly alter the reflectivity of seawater. Neural network technology, which has been rapidly advancing recently, offers the advantage of effectively representing complex nonlinear relationships. In previous studies, a three-stage neural network was constructed to extract the inherent optical properties of each component. However, this study proposes an algorithm that directly employs a deep neural network. The dataset used in this study consists of synthetic data provided by the International Ocean Color Coordination Group, with the input data comprising above-surface remote-sensing reflectance at nine different wavelengths. We derived inherent optical properties using this dataset based on a deep neural network. To evaluate performance, we compared it with a quasi-analytical algorithm and analyzed the impact of log transformation on the performance of the deep neural network algorithm in relation to data distribution. As a result, we found that the deep neural network algorithm accurately estimated the inherent optical properties except for the absorption coefficient of suspended particulate matter (R² greater than or equal to 0.9) and successfully separated the sum of the absorption coefficient of suspended particulate matter and dissolved organic matter into the absorption coefficient of suspended particulate matter and dissolved organic matter, respectively. We also observed that the algorithm, when directly applied without log transformation of the data, showed little difference in performance. To effectively apply the findings of this study to ocean color data processing, further research is needed to perform learning using field data and additional datasets from various marine regions, compare and analyze empirical and semi-analytical methods, and appropriately assess the strengths and weaknesses of each algorithm.

연안 해역에서 식물성플랑크톤, 부유입자, 용존유기물은 복합적이고 비선형적으로 해수반사도를 변화시킨다. 최근 빠르게 발전하는 신경망 기술은 복잡한 비선형 관계를 효과적으로 처리할 수 있는 장점이 있다. 기존 연구에서는 성분별 고유광특성을 도출하기 위하여 세 단계의 신경망을 구성하였으나 본 연구에서는 심층신경망을 직접 적용하는 알고리즘을 제안하였다. 본 연구에서 활용한 데이터세트는 국제해색조정그룹에서 제공하는 합성데이터를 활용하였으며, 입력데이터는 9개의 파장의 원격반사도를 입력하였다. 이를 통해 해수 고유광특성을 심층신경망을 기반으로 도출하였다. 성능을 평가하기 위해 준분석 알고리즘(quasi-analytical algorithm)과 비교하였으며, 데이터 분포에 따른 로그 변환 여부가 심층신경망 알고리즘의 성능에 영향을 미치는 정도를 비교 분석하였다. 그 결과, 준분석 알고리즘보다 심층신경망 알고리즘을 활용하면 부유입자에 대한 흡광계수를 제외한 고유광특성을 정확하게 추정할 수 있으며(R² 0.9 이상), 부유입자와 용존유기물의 흡광계수를 부유입자와 용존유기물 흡광계수로 각각 분리할 수 있었다. 그리고 심층신경망을 직접적으로 적용하는 알고리즘은 데이터의 로그 변환을 하지 않아도 성능 차이가 거의 없음을 파악할 수 있었다. 이 연구 결과를 해색 자료 처리에 실제 적용하기 위해서는 다양한 해역의 현장자료 및 추가적인 데이터 세트를 활용한 학습을 진행하여, 경험적 및 반분석적 방법과 비교 분석하고 알고리즘 간 장단점을 적절히 파악하는 연구가 필요하다.

1. 서론

원격탐사 분야에서 해수(또는 담수)의 광학특성은 고유광특성(inherent optical property, IOP)과 외형적광특성(apparent optical property, AOP)으로 구분된다(Preisendorfer, 1976; Mobley, 1994; Ahn et al., 2009). IOP는 해수 자체와 구성성분에 의한 광의 흡수와 산란의 크기를 나타낸 인자로서, 외부의 광학적 상황에 관계없이 해수 구성성분이 가지고 있는 고유한 광특성을 나타내는 값이다(Ahn et al., 2022). IOP는 위성자료와 물의 구성성분을 연결하는 중요한 변수로 현장 관측이나 실험실 분석을 통하여 얻을 수 있으며 알고리즘 개발 및 위성 자료 검증에 사용된다(Ahn et al., 2022).

해색 알고리즘 관점에서 전통적으로 해수는 제1형수(Case-I water)와 기타 제2형수(Case-II water)로 구분한다(Morel and Prieur, 1977). Case-I water는 맑은 해수를 말하며 해수의 광특성이 식물성플랑크톤(phytoplankton) 및 유기성 쇄설물 등에 의해서 결정되며, 대양(open sea)에서 잘 나타난다. Case-II water의 IOP는 식물성플랑크톤 외에도 유기 또는 무기 부유입자(suspended particulate matter, SPM), 용존 유기물(dissolved organic matter, DOM)의 영향을 받아 결정되며, 주로 연안해역(coastal water)에서 나타난다(Gordon and Morel, 1983; Park et al., 2021). Case-I water에서 IOP의 구성요소는 간단한 경험적 알고리즘(empirical algorithm)을 통해 얻을 수 있다(Morel and Prieur, 1977; Lee et al., 1998; O’Reilly et al., 1998). 하지만 Case-II water에서는 구성 요소가 독립적으로 달라질 수 있기 때문에, 경험적 알고리즘을 활용하여 구성요소를 도출한다면 불확실성이 증가한다(Ioannou et al., 2011; Ioannou et al., 2013). 따라서 일반적으로 경험적 알고리즘은 해수의 특성이 균일한 지역에서 활용해야 하며, 해수 특성이 크게 변하는 해수에 적용하기에는 부적합하다(Le et al., 2013). 반면 Case-II water에서는 반분석적 알고리즘(semi-analytical ocean-colorinversion algorithm, SAA)을 활용하여 IOP의 구성요소를 도출한다(Roesler and Perry, 1995; Carder, et al., 1999; Maritorena, et al., 2002; Werdell, et al., 2013). SAA는 경험적 알고리즘에 비해 다른 지리적 특징이나 해수유형에 덜 민감하지만, IOP의 스펙트럼 형태에 대한 가정과 복사선 전달식(radiative transfer equation, RTE) 모델에 의존한다(Ioannou et al., 2011; Ioannou et al., 2013). 그러므로 SAA를 활용하더라도 IOP의 구성요소의 정확한 도출은 쉽지 않다.

이런 단점을 해결하기 위해 인공 신경망(neural networks, NN)을 활용하여 IOP를 도출하는 연구가 수행되고 있다(Doerffer et al., 2002; Ioannou et al., 2011; Ioannou et al., 2013; Pathak et al., 2021). 최근 들어 SAA의 복잡성과 물리적 모델의 한계로 인해 경험적 데이터 기반 모델인 NN이 향상된 결과를 도출하는 방안으로 제안된다(Ioannou et al., 2013; Mograne et al., 2019). NN 기반의 접근 방식은 광학과 IOP 구성요소 간의 의존성 비선형성을 효과적으로 처리할 수 있다는 장점이 있다. 따라서 본 연구에서는 기존의 경험적, 반분석적 알고리즘과 달리 NN을 기반으로 IOP를 도출하는 연구를 수행하고자 한다. NN을 활용한 선행연구(Ioannou et al., 2011; Ioannou et al., 2013; Pathak et al., 2021)와 마찬가지로 본 연구에서도 IOP를 탐색하기 위해 여러 파장에서 측정한 원격반사도(remote-sensing reflectance, R_rs) 값을 input 데이터로 활용하였다. 본 연구에서는 선행연구(Doerffer et al., 2002; Ioannou et al., 2011; Ioannou et al., 2013; Pathak et al., 2021)보다 향상된 성능의 결과를 도출하기 위해 심층신경망(deep neural networks, DNN)을 활용하였다. 또한 데이터의 분포에 따른 정규성을 높이기 위한 전처리 과정 중 하나인 로그 변환(log-transformation)이 DNN 알고리즘에 영향을 미치는 정도를 파악하기 위해 로그변환 유무에 따른 DNN 알고리즘을 비교 분석해보았다. 그리고 제안된 알고리즘의 성능 확인을 위해 Lee (2006, 2014)의 준분석 알고리즘(quasi-anlaytical algorithm, QAA)과 비교하고자 한다.

2. 해수 고유광특성

2.1. 해수 고유광특성과 원격반사도의 관계

일반적으로 해양위성자료에서 IOP를 도출하기 위해서는 R_rs 값으로 역추정(inversion)하여 계산한다. IOP에 해당하는 변수는 흡광계수(absorption coefficient, a), 산란계수(scattering coefficient, b), 감쇠계수(attenuation coefficient, c)그리고 역산란계수(backscattering coefficient, b_b)가 있다(Table 1). IOP의 기본 특성은 여러 성분이 섞여 있는 경우 세부 성분끼리 분리와 가감이 가능하다(Ahn et al., 2022). 감쇠계수는 흡광계수와 산란계수의 합으로 계산되며, 식(1)과 같다. 흡광계수는 식(2)와 같이 해수(w), 식물성플랑크톤(ph), 부유입자(dm), 용존유기물(g) 등의 해수 구성성분의 고유한 계수 값으로 분리된다.

Table 1. Coefficient list

c = a + b       (1)

a = a_w + a_ph + a_dm + a_g       (2)

여기서, a_dm과 a_g를 합친 계수를 a_dg, a_ph와 a_dm을 합친 계수를 입자(particulates, p)에 의한 흡광계수(a_p)로 나타내고, a_p와 a_g를 합친 계수를 a_pg라고 한다. 이를 정리한 내용은 식(3–5)와 같다.

a_dg = a_dm + a_g       (3)

a_p = a_ph + a_dm       (4)

a_pg = a_p + a_g       (5)

그리고 b_b는 p에 의한 계수와 w에 의한 계수의 합으로 구성되며, 식(6)과 같다.

b_b = b_bp + b_bw       (6)

이와 같은 IOP의 구성요소 중 a와 b_b는 R_rs를 역추정하여 계산할 수 있는 변수이다. R_rs의 초기 모델인 Morel(1988) 모델은 해수면 위 R_rs와 수면 아래 r_rs의 관계식으로 출발하며, 식(7)과 같이 Lee et al. (2002)의 근사식으로 많이 사용된다. r_rs와 IOP와의 관계식은 식(8)과 같다(Gordon et al., 1988). 식(8)에서 Lee et al. (2002)의 연구에서는 g₁및 g₂를 각각 0.084, 0.17로 제안하여 사용하고 있다.

\(\begin{aligned}R_{r s}=\frac{0.52 r_{r s}}{1-1.7 r_{r s}}\end{aligned}\)       (7)

r_rs= g₁ u + g₂ u       (8)

여기서, u는 식(9)와 같이 a와 b_b로 표현될 수 있다.

\(\begin{aligned}u=\frac{b_{b}}{a+b_{b}}\end{aligned}\)       (9)

이와 같이 R_rs는 IOP의 a 및 b_b와 관련이 있다. 하지만 식(3)과 같이 a_dg를 a_dm과 a_g로 분리하는 것은 물질의 유사한 흡수 스펙트럼 특징으로 인해 매우 어렵다(Ioannou et al., 2013). a_dm과 a_g의 광학 특징으로 인한 차이점은 다음과 같다. a_g의 경우, 용해된 구성 요소가 미미한 산란자인 반면, a_dm의 입자는 일반적으로 해수에서 산란에 상당히 영향을 미치기 때문에 산란 특성에서 차이가 있다. 하지만 a_dg에서 a_dm과 a_g로 분리하는 것은 상당히 이점이 있다. a_g를 분리할 경우, 용존 유기 탄소를 더욱 잘 추정할 수 있게 되고(Mannino et al., 2008), a_dm은 SPM과 매우 밀접한 관련이 있으며, 비 식물성 플랑크톤 입자의 농도와도 깊은 관련이 있다(Babin et al., 2003). a_dg를 a_dm과 a_g으로 분리하기 위해 Gould et al. (2002)의 연구에서는 총 흡광계수에서 유색 용존 유기물(colored dissolved organic matter, CDOM) 성분을 추정하였다. 또한, Dong et al. (2013)의 연구에서는 a_g를 도출하기 위해 443 nm의 파장에서 a와 b_b를 조합하는 방법도 제안되었다.

따라서 본 연구에서는 443 nm의 파장에서 a_pg, b_b, a_ph 및 a_dg를 도출하는 DNN 알고리즘을 구축하고, a_dg를 a_dm과 a_g로 효과적으로 분리하는 DNN 알고리즘을 제안한다.

2.2. 해색위성 알고리즘

해색원격탐사(ocean color remote sensing) 기술은 위성으로부터 관측된 측정값으로 AOP 정보를 추출하고 다시 해수중의 물질정보를 분석해내는 기술이다(Ahn et al., 2022). 즉, 해수색 변화 정보를 원격으로 수집하고 식물 플랑크톤, 부유물, 용존 유기물 등의 수중 물질정보를 정량적으로 탐지하는 기술이다. 측정된 해수광신호로부터 수중 물질정보를 알아내기 위해 사용하는 알고리즘을 해색위성 알고리즘(ocean color inversion algorithm)이라고 하며, 해색위성 알고리즘은 크게 경험적 알고리즘, 반분석적 알고리즘으로 구분된다(Sathyendranath, 2000). 그리고 최근 경험적 알고리즘 기반의 NN 알고리즘이 있다(Ioannou et al., 2011; Ioannou et al., 2013; Pathak et al., 2021).

서론에서 설명한 바와 같이, 각각의 알고리즘은 장단점이 있으며 해수의 특성에 맞게 활용하여야 한다. Table 2는 경험적, 반분석적 그리고 NN 알고리즘의 장단점을 정리한 표이다(Sathyendranath, 2000; Lee, 2006). 경험적 알고리즘의 경우, 간단하고 쉽게 도출할 수 있으며 짧은 계산시간과 안정적인 결과를 얻을 수 있는 장점이 있다. 하지만 지역 및 계절의 영향과 같은 해수 성분 구성의 변화에 민감하며, 체계적인 민감도 분석이 어렵다는 단점이 있다. 반분석적 알고리즘은 알려진 광학 특성을 활용하여 이론적인 모델과 결합하며, 특정한 Case-II water에서 결과가 정확하게 나타나는 장점이 있다. 반면, 제한된 수의 매개변수 및 변수로만 구현되며 RTE 모델에 의존한다. NN을 활용한 알고리즘의 경우에는 대용량의 위성자료를 활용한 분석이 가능하며 실시간 처리에 유리하다. 그리고 정교한 모델을 만들 수 있으며, IOP 구성 요소 간의 비선형성을 효과적으로 처리할 수 있다. 하지만 알고리즘을 구현하는데 시간이 소요되며, 많은 경험이 바탕이 되어야 정교한 모델을 만들 수 있다. 또한 결과가 도출되는 과정을 알 수 없다는 단점이 있다.

Table 2. Characteristics of each ocean color inversion algorithm

3. 연구방법

본 연구의 flowchart는 Fig. 1과 같다. 본 연구에서는 국제해색조정그룹(International Ocean Colour Coordinating Group, IOCCG) Report 5의 합성(synthetic) 데이터 세트를 활용하였다(Lee, 2006). 이후 데이터 세트를 Train 데이터와 Test 데이터로 분리하였다. Input 데이터는 각 파장별 R_rs데이터이며, 전처리 과정으로 로그 변환을 하였다. 그리고 데이터를 정규화하여 알고리즘에 입력하였다. 본 연구는 443 nm의 IOP 인자를 결과로 도출하여야 하므로, 기존 IOCCG 데이터에서 보간을 완료하여 각각의 IOP 인자를 output 데이터로 지정하였다. 이후 DNN 모델을 통해 훈련시키고 성능을 평가하였다.

Fig. 1. Flowchart of this study method.

3.1. 데이터 세트

본 연구에서 활용한 IOCCG Report 5의 합성 데이터 세트는 현장 측정을 기반으로 생성된 IOP를 포함하여, Hydrolight (Mobley, 1995) 수치코드에 의해서 시뮬레이션 되었다. 본 데이터 세트는 1,000개의 지점에 대한 IOP 및 AOP 데이터로서, 태양이 천정에서 30°의 각도에 있는 지점에서 측정한 500개의 데이터와 60°의 각도에 있는 500개의 데이터로 구성되어있다. 합성 데이터 세트는 실제 해양에서 발생하는 모든 변동성을 반영하지 않을 수 있지만, 시뮬레이션에 사용된 모델 및 매개 변수가 광범위한 현장 측정을 기반으로 하므로 실제 해양에서 발생하는 변동성을 어느 정도 포함한 데이터 세트라고 할 수 있다(Lee, 2006; Pathak et al., 2021). 연구에서 활용한 IOCCG Report 5의 합성데이터는 픽셀 단위의 데이터로서 분광파장 범위는 400 nm에서 800 nm까지 10 nm 단위로 제공되며, 주로 대양해역에서 나타나는 특징이 반영되어 있다. 또한 Park and Ruddick (2005)의 연구 결과에 따르면 R_rs에 미치는 태양각(또는 관측각)의 영향은 약 10% 이하이고, 전 파장대에 유사한 변화를 주는 것으로 분석되었다. 따라서 이러한 변동성을 포함하는 알고리즘을 개발하기 위해, 1,000개의 합성 데이터 세트를 태양각 및 관측각에 따라 구분하지 않고 활용하였다. 본 연구에서는 DNN 모델의 적용을 위해 Train 데이터와 Test 데이터를 8대 2의 비율로 분리하였다.

본 연구의 input 데이터 세트는 각 파장별 R_rs 데이터로, R_rs 데이터의 스펙트럼은 Fig. 2와 같다. Fig. 2(a)는 전체 데이터의 스펙트럼을 나타내며, Fig. 2(b–f)는 스펙트럼 분포를 자세히 확인하기 위해 데이터의 나열 순서에 따라 200개씩 구분하여 표기하였다. Input 데이터는 410 nm, 440 nm, 490 nm, 510 nm, 550 nm, 620 nm, 670 nm, 680 nm, 710 nm 파장을 활용하였다. Output 데이터는 IOCCG Report 5의 합성 데이터 세트에서 443 nm의 파장으로 보간된 a_ph, a_g, a_dm 및 b_b데이터를 사용하였다. 그리고 식(3–5)에 따라 a_pg, a_dg 및 b_bp값을 계산하였다. 본 연구에 사용한 input 및 output 데이터의 기술통계량은 Table 3, 4와 같다.

Fig. 2. The spectrums of R_rs (dash line) and averaged R_rs (blue line): (a) entire R_rs dataset (1000 points) and (b–f) dataset categorized by 200 points.

Table 3. Descriptive statistics of input data in this study

Table 4. Descriptive statistics of output data in this study

3.2. 데이터 전처리

데이터 전처리는 데이터를 모델에 적용하기 적합한 형태로 변환하는 과정이며, 모델의 성능을 향상시키고 정확한 분석 결과를 얻기 위해 필수적인 과정이다(Lee et al., 2020). Table 2와 같이 본 연구의 input 데이터는 단위가 작고 표준화가 되어 있지 않기 때문에 DNN 모델의 성능과 분석 결과에 영향을 미칠 수 있다. 그리고 Fig. 3과 같이 본 논문에서 활용하는 데이터의 histogram은 로 그 정규분포형태로 치우쳐져 있다. 따라서 본 연구의 input 데이터는 정규성을 높이고 분석 결과에서 정확한 값을 얻기 위해 로그 변환하였다.

Fig. 3. Histogram of (a) input and (b) output data.

그리고 데이터의 단위를 표준화해야 할 필요가 있다. 다차원의 데이터는 데이터 단위의 차이로 인해 발생할 수 있는 오류가 분석 결과에 반영되지 않도록 정규화가 필요하다(Lee et al., 2020). 이러한 전처리 과정을 데이터 스케일링(scaling)이라고 한다. 본 연구에서는 평균을 제거하고 표준편차로 조정한 standard scaling 방법을 통해 input 데이터를 scaling 하였다.

3.3. 해수 고유광특성 도출 모델

전처리가 완료된 합성 데이터 세트를 기반으로 본 연구에서는 Fig. 4와 같은 알고리즘(algorithm 1: 3-level structure based on empirical algorithm)을 통해 IOP를 도출하고자 한다. 본 알고리즘은 선행연구(Ioannou et al., 2013; Pathak et al., 2021)에서도 활용되었던 구조로서, 합성 데이터 세트 내 9개 파장의 R_rs 데이터로부터 3개의 DNN 모델을 통해 각각의 IOP 요소(443 nm)를 도출하게 된다. 첫 번째 DNN 모델(DNN 1)을 통해, a_pg와 b_bp를 도출한다. 두 번째 DNN 모델(DNN 2)은 a_ph와 a_dg의 비율인 R(a_ph/a_dg)을 생성한다. DNN 1과 2 모델을 통해 생성된 정보를 활용하여 식(10, 11)에서 a_ph와 a_dg를 도출한다.

Fig. 4. Algorithm 1 (3-level structure based on empirical algorithm) structure deriving the inherent optical property; relating to the previous study.

\(\begin{aligned}a_{p h}(443)=\frac{a_{p g}(443)}{1+\frac{1}{R\left(a_{p h} / a_{d g}\right)}}\end{aligned}\)       (10)

a_dg(443) = a_pg(443) – a_ph(443)       (11)

세 번째 DNN 모델은 a_dm과 a_g의 비율인 R(a_dm/a_g)를 생성하고, 이를 활용하여 a_dm, a_g 정보를 분석적으로 얻을 수 있다. a_dm 및 a_g 정보는 식(12, 13)을 통해 계산된다.

\(\begin{aligned}a_{d m}(443)=\frac{a_{d g}(443)}{1+\frac{1}{R\left(a_{d m} / a_{g}\right)}}\end{aligned}\)      (12)

a_g(443) = a_dg(443) – a_dm(443)       (13)

선행연구에서 활용되었던 구조와 달리 R(aph/a_dg)와 R(adm/a_g)를 생성하는 단계를 거치지 않고 IOP를 바로 도출하는 방안(algorithm 2: structure that directly applies deep neural network)도 제안하고자 한다. IOP를 생성하는 두 번째 알고리즘의 구조는 Fig. 5와 같으며, 첫 번째 알고리즘과 구조적인 차이점은 IOP를 DNN을 통해 직접적으로 생성하는 것이다. 이는 NN의 특징인 구성요소 간의 의존성 비선형성을 효과적으로 처리할 수 있다는 장점을 바탕으로 기존의 선행연구에서 활용하던 구조와 다른 알고리즘을 제안한다.

Fig. 5. Algorithm 2 (structure that directly applies deep neural network) structure; direct deriving the inherent optical property.

3.4. 심층신경망 알고리즘

본 연구는 DNN 알고리즘을 활용하여 IOP를 도출하였다. 인공신경망은 입출력층 사이에 데이터의 학습을 수행하기 위한 여러 개의 은닉층을 가진다(Islam and Murasw, 2001). 각각의 층은 입력된 데이터들을 처리하기 위한 노드로 구성되어 있으며, 노드는 활성화 함수를 이용하여 다른 노드로부터 오는 입력을 처리한다. 일반적으로 DNN은 은닉층의 개수가 2개 이상일 때를 기준으로 한다(Kim et al., 2019).

활성화 함수는 전달받은 노드의 입력을 출력할 때 일정 기준에 따라 출력 값을 변화시키는 함수이다(Sagar et al., 2020). 활성화 함수가 선형으로 표현된다면 각각의 노드에서의 계산은 선형적으로만 변하기 때문에 비선형 문제를 해결하는데 어려움이 있다(Kim et al., 2022). 따라서 활성화 함수로 비선형 함수가 주로 쓰이며, 대표적인 비선형 활성화 함수로는 Sigmoid, Hyperbolic Tangent(Tanh), Rectified Linear Unit (Relu) 함수 등이 존재한다. Sigmoid, Tanh 함수는 입력값의 결과를 0~1 그리고 –1~1 사이의 비선형 형태로 표현할 수 있지만, 기울기 소멸문제가 발생하여 층이 깊은 DNN에서 사용에 한계가 있다(Han and Kang, 2021). 이와 같은 문제를 해결하기 위해 입력이 0 이상이면 입력을 그대로 출력하고, 0 미만이면 0을 출력하는 Relu 함수가 등장하였고, Sigmoid, Tanh 함수가 가지는 기울기 소멸 문제를 해결하였다(Jin et al., 2020; Yifan et al., 2020). 따라서 본 연구에서는 Relu를 DNN의 활성화 함수로 사용하였다.

인공신경망은 모델이 예측한 출력과 실제 데이터간의 오차를 최소화하는 방향으로 학습이 진행된다(Gad et al., 2020). 이 때 오차를 수식화하여 모델의 성능을 판단하는 것이 손실함수이며, 손실함수의 값을 최소화하기 위해 최적화 기법을 사용한다(Kim and Choi, 2021; Ramirez-Vergara et al., 2023). 손실함수로는 Mean Square Error (MSE), Root Mean Square Error (RMSE), binary crossentropy, categorical crossentropy 등이 존재한다. MSE, RMSE는 인공신경망 모델이 예측한 출력과 실제 데이터가 연속 값인 회귀 문제에서 널리 사용되며(Kaneko, 2017; Lau et al., 2019), binary crossentropy는 이진 분류, 그리고 categorical crossentropy는 다중 분류 문제를 학습할 때 사용된다. 본 연구는 분류 문제를 학습하는 것이 아니므로 손실함수는 MSE를 적용하였다.

최적화 기법으로는 경사 하강법, Momentum, root mean square propatation (RMSProp), adaptive moment estimation (Adam) 등이 존재한다. 경사 하강법은 1차 미분계수를 이용하여 손실함수의 최소값을 찾아가는 방법이며(Ko and Ko, 2021), Momentum은 이전의 미분계수를 현재 미분계수에 일부 반영하여 학습속도 뿐만 아니라 local minimum에 빠지는 현상을 개선시킨 기법이다(Xiang et al., 2007). RMSProp는 지수이동평균을 이용하여 각각의 매개변수에 맞춰서 학습률을 줄여가는 방식으로 학습을 보다 적응적으로 할 수 있다(Naseer et al., 2022). Adam은 Momentum과 RMSProp의 장점을 결합한 기법이다(Şen and Özlurt, 2020). 따라서 최적화 기법은 비교적 최신 기법인 Adam을 사용하여 모델을 구축하였다. 그리고 학습하고자 하는 데이터를 DNN에 최적화하기 위해 사용된 최적화 기법은 오차 역전파 알고리즘을 통해 적용된다(Chung et al., 2001).

본 연구에서 활용한 DNN 모델의 구조의 예시는 Fig. 6과 같다. 410 nm, 440 nm, 490 nm, 510 nm, 550 nm, 620 nm, 670 nm, 680 nm, 710 nm에 해당하는 9개 파장의 R_rs 데이터를 input 데이터로 설계하였다. 본 연구의 DNN 모델은 hidden Layer는 3개 이상, node 수가 30개 초과로 설정되었을 때 계산 시간이 오래 걸리는 것 대비 정확도 개선이 미비하였다. 따라서 hidden Layer는 2개이며, 각각 30개의 nodes로 설정하였다. Output 데이터는 443 nm의 파장을 기준으로 하였으며, algorithm 1의 구조에서 모델 1의 경우 a_pg와 b_bp를 output 데이터로, 모델 2는 R(a_ph/a_dg), 모델 3은 R(a_dm/a_g)이다. Algorithm 2의 경우, 각각의 DNN 모델에서 IOP를 직접 도출하는 구조이다.

Fig. 6. Deep neural network model in this study: (a) model 1 in algorithm 1 and 2, (b–c) model 2 and 3 in algorithm 1, and (d–e) model 2 and 3 in algorithm 2.

4. 연구 결과

본 연구 방법에 따라 실험을 수행하였다. 데이터 시각화 및 알고리즘의 프로그래밍 구현은 Python 3.7.16 및 Keras 2.11.0을 활용하였다. 먼저 input 및 output 데이터의 전처리를 완료하였으며, 알고리즘 구조에 따라 실험을 수행하고 각 모델의 성능을 평가하였다. 또한 데이터의 분포에 따른 정규성을 높이기 위해 수행하였던 전처리 과정인 로그 변환이 DNN 알고리즘에 영향을 미치는 지 파악하기 위해 로그 변환을 하지 않은 데이터를 입력한 각 알고리즘의 성능도 평가 및 비교하였다.

4.1. 데이터 전처리 결과

본 연구의 input 데이터는 IOCCG Report 5의 합성 데이터 세트 내의 410 nm, 440 nm, 490 nm, 510 nm, 550 nm, 620 nm, 670 nm, 710 nm 파장에 해당하는 각 1,000개의 R_rs 데이터를 활용하였다. 해당 R_rs 데이터는 8대 2의 비율로 Train 및 Test 데이터로 분리하였다. 데이터 분포의 유사성을 위해 임의로 분리하는 것이 아닌, 5개의 데이터마다 하나의 지점을 분리하여 Train 데이터 800개, Test 데이터 200개로 구분하였다. 이후 Train 및 Test 데이터를 로그 변환하였다. 그리고 단위를 표준화하기 위해 데이터 스케일링을 수행하였다.

Output 데이터의 경우, IOCCG Report 5의 410 nm와 420 nm에 해당하는 합성 데이터 세트에서 443 nm의 파장으로 보간한 a_ph, a_g, a_dm 및 b_b 데이터와 식(3–5)에 따라 계산된 a_pg, a_dg 및 b_bp 데이터를 활용하였다. Input 데이터와 마찬가지로, 5개의 데이터마다 하나의 지점을 분리하여 8대 2의 비율로 분리하였다. 그리고 로그 변환을 수행한 후, 스케일링을 완료하여 분석에 활용하였다.

4.2. 알고리즘 적용 결과

선행연구(Ioannou et al., 2013; Pathak et al., 2021)에서 구현되었던 algorithm 1에 따른 IOP의 도출 결과는 Fig. 7과 같다. Algorithm 1의 DNN 1 모델은 100 epoch, DNN 2는 200 epoch, DNN 3은 100 epoch 이후 정확도가 수렴되었다. 검증데이터는 훈련 데이터의 부족으로 overfitting의 한계가 있지만 훈련 데이터로 검증을 진행하였다. DNN 1 모델을 통해 직접적으로 도출된 a_pg와 b_bp는 R²가 각각 0.997, 0.991로 분석되었으며, RMSE는 각각 0.031, 0.003이다. DNN 2 모델로 분석된 R(a_ph/a_dg)와 DNN 1모델로 검색한 a_pg와 b_bp을 식(10, 11)으로 계산하여 a_ph 및 a_dg를 도출하였다. 그 결과, R²가 각각 0.986, 0.996이며, 오차는 0.014, 0.033으로 분석되었다. DNN 3 모델로 얻은 R(a_dm/a_g)와 a_ph 및 a_dg를 바탕으로 식(12, 13)을 활용하여 얻은 a_dm 및 a_g의 결과는 R²가 각각 0.507, –0.144, RMSE가 각각 0.055, 0.483으로 비교적 낮은 성능을 보였다. 이는 a_dm 및 ag의 결과가 R²가 각각 0.52, 0.97로 분석된 Pathak et al. (2021)의 선행연구 결과와 차이를 보였다.

Fig. 7. Derivation result of the inherent optical properties in algorithm 1: (a) a_pg, (b) b_bp, (c) a_ph, (d) a_dg, (e) a_dm, and (f) a_g.​​​​​​​

본 연구에서 제안한 algorithm 2에 따른 결과는 Fig. 8과 같다. Algorithm 2의 DNN 모델들은 150 epoch 이후 정확도가 수렴되었으며, 검증데이터는 훈련 데이터로 검증을 진행하였다. a_pg와 b_bp을 직접적으로 검색하는 DNN 1 모델은 결과가 같으므로, Fig. 8에서는 a_ph, a_dg, a_dm 및 a_g의 분석 결과만 나타내었다. 본 알고리즘은 DNN 2 모델을 통해 a_ph 및 a_dg, DNN 3 모델을 통해 a_dm 및 a_g를 직접적으로 도출하는 구조이다. 그 결과, a_ph와 a_dg의 경우, R²가 각각 0.993, 0.994으로 분석되고 RMSE는 각각 0.01, 0.038로서, algorithm 1과 비슷한 성능으로 검색되었다. DNN 3 모델로 분석된 a_dm와 a_g는 R²가 각각 0.539, 0.965, RMSE가 각각 0.053, 0.084로 분석되었다. 이는 algorithm 1과 비교하였을 때, a_dm을 도출하는 성능은 큰 차이가 없지만 a_g를 분석한 성능은 유의미하게 상승하였음을 알 수 있다. 또한 본 결과는 Pathak et al.(2021)의 선행연구 결과(R² : 0.52, 0.97)와 비슷한 성능으로 분석되었다.

Fig. 8. Derivation result of the inherent optical properties in algorithm 2: (a) a_ph, (b) a_dg, (c) a_dm, and (d) a_g.​​​​​​​

추가로 본 연구에서는 로그 변환을 하지 않고 스케일링을 완료한 데이터를 입력하였을 때, 각 알고리즘의 성능을 평가하고자 하였다. 로그 변환을 하지 않고 algorithm 1의 구조로 실험한 결과는 Fig. 9와 같다. DNN 1 모델을 통해 분석한 a_pg와 b_bp는 R²가 각각 0.995, 0.996으로, RMSE는 각각 0.042, 0.002으로 분석되었다. DNN 2모델을 적용한 결과는 R²가 각각 0.918, 0.987이며, RMSE는 0.034, 0.057으로 분석되었다. DNN 3 모델로 도출한 a_dm 및 a_g의 결과는 R²가 각각 0.207, –0.291, RMSE가 각각 0.070, 0.513으로 로그 변환을 수행하여 얻은 결과보다도 낮은 성능을 보였다.

Fig. 9. Derivation result of the inherent optical properties in algorithm 1 without log transformation: (a) a_pg, (b) b_bp, (c) a_ph, (d) a_dg, (e) a_dm, and (f) a_{g​​​​​​​}

Fig. 10은 로그 변환을 하지 않고 algorithm 2의 구조로 실험한 결과이다. DNN 1 모델은 결과가 같으므로 DNN 2와 3으로 실험한 결과만 나타내었다. 그 결과, DNN 2로 분석한 a_ph와 a_dg의 경우, R²가 각각 0.987, 0.991, RMSE는 각각 0.014, 0.048로 분석되었다. DNN 3 모델을 적용한 a_dm와 a_g는 R²가 각각 0.603, 0.968, RMSE가 각각 0.05, 0.081로 도출되어 이전 알고리즘에 의한 결과보다 성능이 상승하였다.

Fig. 10. Derivation result of the inherent optical properties in algorithm 1 without log transformation: (a) a_ph, (b) a_dg, (c) a_dm, and (d) a_{g​​​​​​​}.

4.3. 알고리즘 성능 비교

Table 5는 대표적인 IOP 도출 방법인 QAA를 활용한 결과와 본 연구의 알고리즘으로 분석한 결과의 성능을 비교하였다. Table 5의 구성은 본 연구에서 활용한 IOCCGReport 5합성데이터세트가발표된당시의QAA(Lee, 2006)와 가장 최근에 발표된 QAA (Lee, 2014)를 활용하여 IOP를 도출한 결과의 R² 및 RMSE를 포함한다.비교 대상 데이터는 본 연구의 test 데이터이다. 그리고 선행연구(Ioannou et al., 2013; Pathak et al., 2021)에서 제안한 구조로 구현된 algorithm 1과 DNN만으로 구성된 algorithm 2, 그리고 각각의 데이터를 log transformation 하지 않은 알고리즘의 IOP 도출결과의 R² 및 RMSE이다.

Table 5. Comparison of QAA with our methods based on R² score and RMSE​​​​​​​

Table 5에 따르면 a_pg와 b_bp의 경우, DNN으로 직접 도출한 algorithm 1과 2 (a_pg=0.997, b_bp=0.991) 및 로그 변환을 하지 않은 알고리즘(a_pg=0.995, b_bp=0.996)이 R²가 0.99 이상의 비교적 높은 성능으로 분석되었다. 반면 QAA(2006)은 a_pg=0.958, b_bp=0.969, QAA (2014)는 a_pg=0.924, b_bp=0.968로 분석되어 DNN을 활용한 결과보다 성능이 낮았지만, 모두 0.92 이상의 R² 결과값을 나타내고 있다. a_ph와 a_dg의 경우, algorithm 1은 각각 0.986, 0996, algorithm 2는 각각 0.993, 0.994로서 다른 알고리즘보다 비교적 높은 성능으로 나타났다. 데이터의 로그 변환을 하지 않은 algorithm 1은 각각 0.918, 0987, algorithm 2는 각각 0.987, 0.991로 분석되어 로그 변환을 한 데이터세트를 활용한 알고리즘보다는 성능이 비교적 낮지만, R²가 0.91 이상으로 유의미한 결과를 얻을 수 있었다. 하지만 QAA를 통해 도출한 a_ph는 R²가 각각 0.606, 0.472로 DNN을 활용한 알고리즘에 비해 현저히 낮은 성능으로 분석되었으며, a_dg도 각각 0.879, 0.909로 분석되었다. 그리고 QAA의 특성상 a_dm 및 a_g를 구분해내지는 못하였지만, DNN을 활용한 알고리즘은 구분할 수 있었다. 먼저 algorithm 1의 경우, DNN을 활용한 결과물과 함께 경험적인 IOP 계산 방법이 더해져 분석한 a_dm의 R²는 0.507의 결과로 도출되었으나 a_g는 –0.114로 계산을 하지 못하였다. 하지만 algorithm 2는 a_dm의 경우 R²가 0.539로 algorithm 1의 결과와 비슷한 성능으로 분석되었으며, a_g는 0.965로 algorithm 1의 결과에 비해 매우 향상된 성능을 얻을 수 있었다. 로그 변환을 하지 않은 algorithm 1의 a_dm 및 a_g는 각각 0.207, -0.291로 성능이 매우 낮은 수치로 분석되었지만, algorithm 2의 경우에는 0.603, 0.968로서 본 연구에서 활용한 알고리즘 중 가장 좋은 성능으로 도출되었다.

5. 토론

본 연구에서 제안된 algorithm 1과 algorithm 2 및 데이터의 로그 변환을 하지 않은 상태의 algorithm 1 및 2 모두 QAA 알고리즘에 비해 좋은 성능으로 분석되었다. 이는 데이터의 패턴을 통해 IOP 구성요소 간의 비선형성을 효과적으로 처리할 수 있는 DNN이회귀 기반의 QAA 알고리즘 보다 IOCCG Report 5 합성데이터세트 내에서 효과적으로 적용된 것으로 판단된다. 그리고 QAA (2006)가 최근 발표된 QAA (2014)보다 a_dg를 제외한 IOP 요소들의 도출 정확도가 조금 더 높았다. 그 이유는 IOCCG Report 5가 발표될 당시의 QAA (2006) 알고리즘이 본 연구에서 사용한 합성데이터세트와 조금 더 밀접한 영향을 미친 것으로 보인다.

IOP 구성요소 도출에도 다음과 같은 특징이 있다. a_pg와 b_bp의 경우, QAA 기반의 알고리즘도 R²가 0.92 이상의 유의미한 결과로 도출되었으나, DNN 기반의 알고리즘들은 0.99 이상의 높은 R² 수치로 분석되었다. 이는 QAA 및 DNN 기반 모델 모두 a_pg와 b_bp의 탐색은 높은 정확도로 이루어진다고 볼 수 있으며, 특히 DNN 기반 알고리즘 활용 시, 0.99 이상의 높은 R²로 도출할 수 있다. a_dg의 경우, QAA는 0.87 이상, DNN 기반 모델은 0.98 이상의 R²로 분석되었다. 특히 algorithm 1과 2에서 0.99 이상의 정확도로 분석되어 데이터의 로그 변환을 하지 않고 DNN 모델에 적용하였을 때, 가장 높은 성능으로 도출할 수 있었다. 반면 a_ph는 QAA를 활용하였을 때 현저히 낮은 성능으로 도출되었다. 이는 Lee (2006)의 연구에서도 다른 IOP 요소들보다 낮은 성능으로 분석되는 것을 확인할 수 있으며, 여러 요소들이 각각 계산되어 차감되는 QAA의 a_ph 계산 방법(a_ph(λ) = a(λ) – a_dg(λ) – a_w(443))으로 인한 영향으로 판단된다. 하지만 algorithm 1과 2에서는 0.98 이상의 높은 성능을, 로그 변환을 하지 않은 algorithm 1과 2에서도 0.91의 성능으로 분석되어 DNN 모델을 활용하는 것이 a_ph 계산 방법으로 유용하다고 할 수 있다.

경험적, 반분석적 IOP 도출 모델은 해당 지역 해수의 산란 및 흡광에 대한 정확한 스펙트럼에 대한 지식이 필요하기 때문에 연안과 같은 특정 해역에서 높은 정확도의 IOP를 도출하지 못하는 경우가 많다. 또한 경험적, 반분석적 모델은 a_dm 및 a_g를 분리할 수 없다. 따라서 DNN 기반의 모델과 같은 비모수적 접근 방식이 특정 해역에서는 더 유용할 수 있으며, 높은 정확도는 아니지만 a_dm 및 a_g를 분리해 낼 수 있었다. 하지만 기존 선행연구(Ioannou et al., 2011; Ioannou et al., 2013; Pathak et al., 2021)에서 제안한 NN 기반의 알고리즘 구조(algorithm 1)에 따른 a_dm 및 a_g 계산은 부정확하며, DNN 모델로 직접 a_dm 및 a_g를 탐색하는 것(algorithm 2)이 비교적 높은 정확도로 도출할 수 있다. 본 연구에서는 a_g가 0.96 이상의 R²로 분석되고, a_dm은 0.60 이하의 낮은 정확도를 가지는 것으로 분석되었으나, 이는 본 연구에서 활용한 합성데이터세트 내에서 a_g의 수치(0.0–2.0)가 a_dm (0.0–0.3) 보다 높은 해역이기 때문인 것으로 보인다.

그리고 본 연구에서 활용한 데이터세트의 구조는 로그정규분포를 따른다. 따라서 전처리 과정 중 로그 변환을 포함하였는지 여부와 데이터의 편향성이나 값의 분포범위를 고려할 때, algorithm 1은 로그 변환을 수행하지 않은 경우보다 미세하게 높은 성능을 가지는 것으로 분석되었다. 하지만 DNN 모델로 직접적으로 IOP를 도출한 algorithm 2의 경우는 로그 변환을 하지 않은 경우와 성능이 비슷한 결과로 분석되었다. 따라서 신경망 기반의 모델을 적용할 때에는 데이터를 로그 변환하는 전처리과정의 영향이 크지 않음을 알 수 있다.

본 연구는 다음과 같은 한계점을 가진다. 먼저, 특정 패턴으로 만들어진 합성 데이터세트를 활용하였기 때문에 데이터의 패턴으로 출력변수를 도출하는 DNN 모델이 본 연구에서는 유리할 수 있다. 하지만 다른 해역이나 현장에서 측정한 데이터를 바탕으로 분석할 시에는 DNN 모델의 성능이 높다고 단정할 수 없다. 따라서 경험적, 반분석적, 신경망 기반 알고리즘의 장단점을 파악하고 적절히 활용하여 IOP를 도출할 필요가 있다. 그리고 DNN 기반 알고리즘은 결과가 도출되는 중간 과정을 알 수 없기 때문에 초기 데이터에 대한 해석과 결과 분석이 더욱 중요하다.

6. 결론 및 향후 연구

본 연구는 9개 파장의 R_rs 데이터로부터 DNN을 기반으로 IOP를 도출하는 알고리즘을 제안하였다. 특히 본 연구는 선행연구(Ioannou et al., 2011; Ioannou et al., 2013; Pathak et al., 2021)에서 제안한 NN 기반의 알고리즘 구조를 DNN으로 발전시키고 활성화 함수, 최적화 기법 등을 조정하여 알고리즘의 성능을 향상시키고자 하였다. 그리고 3단계로 구분되어 IOP를 계산하는 기존 알고리즘 구조와 달리 DNN을 직접적으로 적용하여 IOP를 도출하는 새로운 알고리즘을 제시하였다. 본 연구에서 제안된 알고리즘의 성능을 QAA와 비교하고, 데이터에 로그 변환을 하지 않고 DNN을 활용한 알고리즘에 적용한 결과도 비교하였다. 그 결과, DNN 기반의 알고리즘을 활용할 때, a_dm을 제외한 나머지 IOP 요소를 높은 정확도로 도출할 수 있었으며, DNN 모델로 직접 IOP를 도출할 경우에는 로그 변환을 하지 않아도 성능차이가 거의 없음을 파악할 수 있었다.

하지만 본 연구에서 제시한 알고리즘의 일반화 기능을 검증하기 위한 추가 실험을 수행해야 한다. 특히 다양한 지역(해역)의 IOP 분석을 위해 추가적인 데이터 세트를 활용한 학습을 진행할 필요가 있다. 그리고 다시 경험적, 반분석적 방식과 비교 분석하여 알고리즘간 장단점을 재분석해야 한다. 또한 현장 자료를 활용하여 우리나라 연안 해역의 특징에 맞는 알고리즘을 개발 및 검증할 필요가 있다.