• Title/Summary/Keyword: tanh

Search Result 33, Processing Time 0.025 seconds

A study on activation functions of Artificial Neural Network model suitable for prediction of the groundwater level in the mid-mountainous area of eastern Jeju island (제주도 동부 중산간지역 지하수위 예측에 적합한 인공신경망 모델의 활성화함수 연구)

  • Mun-Ju Shin;Jeong-Hun Kim;Su-Yeon Kang;Jeong-Han Lee;Kyung Goo Kang
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2023.05a
    • /
    • pp.520-520
    • /
    • 2023
  • 제주도 동부 중산간 지역은 화산암으로 구성된 지하지질로 인해 지하수위의 변동폭이 크고 변동양상이 복잡하여 인공신경망(Artificial Neural Network, ANN) 모델 등을 활용한 지하수위의 예측이 어렵다. ANN에 적용되는 활성화함수에 따라 지하수의 예측성능은 달라질 수 있으므로 활성화함수의 비교분석 후 적절한 활성화함수의 사용이 반드시 필요하다. 본 연구에서는 5개 활성화함수(sigmoid, hyperbolic tangent(tanh), Rectified Linear Unit(ReLU), Leaky Rectified Linear Unit(Leaky ReLU), Exponential Linear Unit(ELU))를 제주도 동부 중산간지역에 위치한 2개 지하수 관정에 대해 비교분석하여 최적 활성화함수 도출을 목표로 한다. 또한 최적 활성화함수를 활용한 ANN의 적용성을 평가하기 위해 최근 널리 사용되고 있는 순환신경망 모델인 Long Short-Term Memory(LSTM) 모델과 비교분석 하였다. 그 결과, 2개 관정 중 지하수위 변동폭이 상대적으로 큰 관정은 ELU 함수, 상대적으로 작은 관정은 Leaky ReLU 함수가 지하수위 예측에 적절하였다. 예측성능이 가장 낮은 활성화함수는 sigmoid 함수로 나타나 첨두 및 최저 지하수위 예측 시 사용을 지양해야 할 것으로 판단된다. 도출된 최적 활성화함수를 사용한 ANN-ELU 모델 및 ANN-Leaky ReLU 모델을 LSTM 모델과 비교분석한 결과 대등한 지하수위 예측성능을 나타내었다. 이것은 feed-forward 방식인 ANN 모델을 사용하더라도 적절한 활성화함수를 사용하면 최신 순환신경망과 대등한 결과를 도출하여 활용 가능성이 충분히 있다는 것을 의미한다. 마지막으로 LSTM 모델은 가장 적절한 예측성능을 나타내어 다양한 인공지능 모델의 예측성능 비교를 위한 기준이 되는 참고모델로 활용 가능하다. 본 연구에서 제시한 방법은 지하수위 예측과 더불어 하천수위 예측 등 다양한 시계열예측 및 분석연구에 유용하게 사용될 수 있다.

  • PDF

Study on blending radar and numerical rainfall prediction to improve hydroelectric dam inflow forecasts accuracy (발전용 댐 유입량 예측 정확도 향상을 위한 레이더와 수치예보 예측강우 병합기법 연구)

  • Seong Sim Yoon;Hongjoon Shin
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2023.05a
    • /
    • pp.112-112
    • /
    • 2023
  • 발전용댐의 댐 유입량 예측 및 운영을 위해서 (주)한국수력원자력에서는 수자원통합 운영시스템(Water resources Integrated System, WIOS)을 운영 중에 있다. 해당 시스템에서는 댐 유입량을 예측하기 위해서 기상청 수치예보모델 중 하나인 국지예보모델(Local Data Assimilation and Prediction System, LDAPS)의 예측강우를 수문모형의 입력자료로 활용하고 있으며, 레이더 기반의 초단시간 강우예측 기법을 자체 개발 중에 있다. 기상청 국지예보모델은 강우의 on/off에 대한 정확도는 90%를 상회할 만큼 높으나 정량적인 강우량의 정확도는 매우 낮고, 레이더 기반의 초단시간 예측 강우는 선행 1~2시간 예측에서는 정량적 정확도는 높으나, 그 이후 예측성능이 급격히 떨어지는 경향을 보인다. 따라서 댐 유입량의 정량적 예측 정확도를 확보하기 위해 초단시간 모델과 국지예보모델의 강우예측 결과를 병합(blending)하는 기법을 적용하여 초기 6시간 동안의 예측 성능을 향상시켜야 한다. 본 연구에서는 선행시간 0~6시간에 대해서 병합하는 기법들을 적용하고 평가하고자 한다. 기본적으로 병합은 초단시간 예측강우와 수치예보자료 간 가중치를 통해 수행된다. 일반적으로 초기 1시간 선행시간에서 레이더 기반 예측강우는 완벽한 예측자료(외삽 관측자료의 가중치는 1.0)로 가정하며, tanh 함수를 이용하여 선행시간의 증가에 따라 가중치를 감소시키면서, 6시간 선행시간에서는 수치예보 예측강우가 완벽한 예측자료라고 가정한다. 본 연구에서는 일반적인 병합 방법 외에 병합된 예측강우에 과거 관측강우와 예측강우의 평균편이를 적용하여 보정하는 방법, 사례별 변동성이 큰 병합된 예측강우 특성을 고려하여 병합 가중치를 신뢰도에 따라 가변시키는 방법을 적용하여 평가한다. 이를 통해 댐 유입량 예측에 최적이 되는 병합기법을 선정하고자 한다.

  • PDF

Comparative analysis of activation functions of artificial neural network for prediction of optimal groundwater level in the middle mountainous area of Pyoseon watershed in Jeju Island (제주도 표선유역 중산간지역의 최적 지하수위 예측을 위한 인공신경망의 활성화함수 비교분석)

  • Shin, Mun-Ju;Kim, Jin-Woo;Moon, Duk-Chul;Lee, Jeong-Han;Kang, Kyung Goo
    • Journal of Korea Water Resources Association
    • /
    • v.54 no.spc1
    • /
    • pp.1143-1154
    • /
    • 2021
  • The selection of activation function has a great influence on the groundwater level prediction performance of artificial neural network (ANN) model. In this study, five activation functions were applied to ANN model for two groundwater level observation wells in the middle mountainous area of the Pyoseon watershed in Jeju Island. The results of the prediction of the groundwater level were compared and analyzed, and the optimal activation function was derived. In addition, the results of LSTM model, which is a widely used recurrent neural network model, were compared and analyzed with the results of the ANN models with each activation function. As a result, ELU and Leaky ReLU functions were derived as the optimal activation functions for the prediction of the groundwater level for observation well with relatively large fluctuations in groundwater level and for observation well with relatively small fluctuations, respectively. On the other hand, sigmoid function had the lowest predictive performance among the five activation functions for training period, and produced inappropriate results in peak and lowest groundwater level prediction. The ANN-ELU and ANN-Leaky ReLU models showed groundwater level prediction performance comparable to that of the LSTM model, and thus had sufficient potential for application. The methods and results of this study can be usefully used in other studies.