• Title/Summary/Keyword: 학습 시간 예측 모델

Search Result 283, Processing Time 0.028 seconds

A ConvLSTM-based deep learning model with grid-weighting for predicting extreme precipitation events (극한 강수 이벤트 예측을 위한 격자별 가중치를 적용한 ConvLSTM 기반 딥러닝 모델)

  • Hyojeong Choi;Dongkyun Kim
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2023.05a
    • /
    • pp.207-207
    • /
    • 2023
  • 데이터 기반 강수 예측 모델은 극한 강수 이벤트의 크기를 과소 추정하는 경향이 있다. 이는 훈련 데이터에 극한 강수 이벤트보다 일반적인 강수 이벤트가 많이 포함되어 있기 때문이다. 본 연구는 이러한 딥러닝의 데이터 불균형 문제를 해소하고자 모델을 학습시킬 때 격자별 극한 강수에 더 큰 가중치를 주어 극한 강수 예측의 정확성을 높이는 방법을 제안한다. 딥러닝 모델 중 공간-시간 필드를 정확하게 예측할 수 있는 ConvLSTM 기반 강수 예측 모델을 활용하여 레이더 강수량을 예측하였다. 먼저, 훈련 기간 동안의 강수 이벤트의 누적 분포 함수 CDF(Cummulative distribution funcion)을 그린 후 극한 강수 이벤트와 일반적인 강수 이벤트의 분포를 확인하였다. 그다음, 적은 분포를 가진 극한 강수 이벤트의 더 큰 가중치를 두어 모델을 학습시켰다. 이 모델은 대한민국 중부 지역 (200km x 200km)의 5km-10분 해상도 레이더-계량기 복합 강수 필드에 대해 2009-2014년 기간 동안 훈련 되었고 2015-2016년 동안 모델의 훈련을 검증 하였고, 2017-2018년 동안 테스트 되었다. 다양한 가중치 함수를 기반으로 훈련 시킨 결과 최적화 가중치 함수 모델의 평균 NSE는 0.6 평균 RMSE는 0.00015 그리고 극한 강수 이벤트만 따로 추출한 평균 MAE는 6이다. 결과적으로 제안된 모델은 기존 방법에 비해 예측 성능을 향상 시켰으며, 격자별 가중치를 두었을 경우 일반적인 강수 이벤트 뿐만 아니라 극한 강수 이벤트의 예측의 정확도를 향상시켰다.

  • PDF

Web access prediction based on parallel deep learning

  • Togtokh, Gantur;Kim, Kyung-Chang
    • Journal of the Korea Society of Computer and Information
    • /
    • v.24 no.11
    • /
    • pp.51-59
    • /
    • 2019
  • Due to the exponential growth of access information on the web, the need for predicting web users' next access has increased. Various models such as markov models, deep neural networks, support vector machines, and fuzzy inference models were proposed to handle web access prediction. For deep learning based on neural network models, training time on large-scale web usage data is very huge. To address this problem, deep neural network models are trained on cluster of computers in parallel. In this paper, we investigated impact of several important spark parameters related to data partitions, shuffling, compression, and locality (basic spark parameters) for training Multi-Layer Perceptron model on Spark standalone cluster. Then based on the investigation, we tuned basic spark parameters for training Multi-Layer Perceptron model and used it for tuning Spark when training Multi-Layer Perceptron model for web access prediction. Through experiments, we showed the accuracy of web access prediction based on our proposed web access prediction model. In addition, we also showed performance improvement in training time based on our spark basic parameters tuning for training Multi-Layer Perceptron model over default spark parameters configuration.

Radar rainfall prediction based on deep learning considering temporal consistency (시간 연속성을 고려한 딥러닝 기반 레이더 강우예측)

  • Shin, Hongjoon;Yoon, Seongsim;Choi, Jaemin
    • Journal of Korea Water Resources Association
    • /
    • v.54 no.5
    • /
    • pp.301-309
    • /
    • 2021
  • In this study, we tried to improve the performance of the existing U-net-based deep learning rainfall prediction model, which can weaken the meaning of time series order. For this, ConvLSTM2D U-Net structure model considering temporal consistency of data was applied, and we evaluated accuracy of the ConvLSTM2D U-Net model using a RainNet model and an extrapolation-based advection model. In addition, we tried to improve the uncertainty in the model training process by performing learning not only with a single model but also with 10 ensemble models. The trained neural network rainfall prediction model was optimized to generate 10-minute advance prediction data using four consecutive data of the past 30 minutes from the present. The results of deep learning rainfall prediction models are difficult to identify schematically distinct differences, but with ConvLSTM2D U-Net, the magnitude of the prediction error is the smallest and the location of rainfall is relatively accurate. In particular, the ensemble ConvLSTM2D U-Net showed high CSI, low MAE, and a narrow error range, and predicted rainfall more accurately and stable prediction performance than other models. However, the prediction performance for a specific point was very low compared to the prediction performance for the entire area, and the deep learning rainfall prediction model also had limitations. Through this study, it was confirmed that the ConvLSTM2D U-Net neural network structure to account for the change of time could increase the prediction accuracy, but there is still a limitation of the convolution deep neural network model due to spatial smoothing in the strong rainfall region or detailed rainfall prediction.

A Study on the Typoon Prediction System Using the Evolving Neural network (진화신경망을 이용한 태풍 예측 시스템에 대한 연구)

  • Shin, Dae-Jin;Kang, Hwan-Il;Kim, Kab-Il
    • Proceedings of the KIEE Conference
    • /
    • 2001.11c
    • /
    • pp.446-449
    • /
    • 2001
  • 본 논문에서는 태풍의 진로와 세기를 ES_BLRNN을 이용해 예측하였다. 기존의 방법인 수치모델이나. CLIPER모델을 사용함에 있어서, 통계적 방법인 CLIPER모델은 예측성능면에서 수치모델보다 그 성능이 떨어지고, 반면에 수치모델의 성능은 CLIPER 모델에 비해 우수하나 슈퍼컴퓨터(Cray-2S, FUSITSU)를 이용하여야만 예보가 가능한 제약점을 가지고 있다. 또한 수치모델을 슈퍼컴퓨터로 계산할 경우 약 30분 정도가 소요되는 점을 감안할 때, ES_BLRNN은 이들의 단점을 보안할 수 있는 하나의 방편이라 생각된다. 게다가 ES_BLRNN의 경우 개인용 컴퓨터로도 충분히 사용 가능할 만큼 비용이 저렴하고, 681개의 태풍을 학습할 때 결리는 시간은 약 5분 정도이며, 146개의 태풍을 예측하는데 걸리는 시간은 약 3초 정도(Pentium MMX 200 Processor, RAM 64m, OS: RedHat LINUX 5.2. language ; ANSI-C)로써, 슈퍼컴퓨터나 CLIPER모델에 비해 훨씬 빠르게 결과를 볼 수 있다.

  • PDF

Prediction of Water Quality Factor for River Basin using RNN-LSTM Algorithm (RNN-LSTM 알고리즘을 이용한 하천의 수질인자 예측)

  • Lim, Hee Sung;An, Hyun Uk
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2020.06a
    • /
    • pp.219-219
    • /
    • 2020
  • 하천의 수질을 나타내는 환경지표 중 국가 TMS(Tele Monitoring system)의 수질측정망을 통해 관리되고 있는 지표로는 DO, BOD, COD, SS, TN, TP 등 여러 인자들이 있다. 이러한 수질인자는 하천의 자정작용에 있어 많은 영향을 나타내고 있다. 이를 활용한 경제적이고 합리적인 수질관리를 위해 하천의 자정작용을 활용하는 것이 중요하다. 생물학적 작용을 가장 효과적으로 활용하기 위해서는 수질오염 데이터에 기초한 수질예측을 채택하여 적절한 대책이 필요하다. 이를 위해서는 수질인자의 데이터를 측정하고 축적해 수질오염을 예측하는 것이 필수적인데, 실제적으로 수질인자의 일일 측정은 비용 관점에서 쉽게 접근할 수 없다. 본 연구에서는 시계열 학습으로 알려진 RNN-LSTM(Recurrent Neural Network-Long Term Memory) 알고리즘을 활용하여 기존에 측정된 수질인자의 데이터를 통해 시간당 및 일일 수질인자를 예측하려고 했다. 연구에 앞서, 기존에 시간단위로 측정된 수질인자 데이터의 이상 유무를 확인 후, 에러값은 제거하고 12시간 이하 데이터가 누락되었을 때는 선형 보간하여 데이터를 사용하고, 1일 데이터도 10일 이하 데이터가 누락되었을 때 선형 보간하여 데이터를 활용하여 수질인자를 예측하였다. 수질인자를 예측하기 위해 구글이 개발한 딥러닝 오픈소스 라이브러리인 텐서플로우를 활용하였고, 연구지역으로는 대한민국 부산에 위치한 온천천의 유역을 선정하였다. 수질인자 데이터 수집은 부산광역시에서 운영하는 보건환경정보 공개시스템의 자료를 활용하였다. 모델의 연구를 위해 하천의 수질인자, 기상자료 데이터를 입력자료로 활용하였다. 분석에서는 입력자료와, 반복횟수, 시계열의 길이 등을 조절해 수질 요인을 예측했고, 모델의 정확도도 분석하였다.

  • PDF

Prediction of Assistance Force for Opening/Closing of Automobile Door Using Support Vector Machine (서포트 벡터 머신을 이용한 차량도어의 개폐 보조력 예측)

  • Yang, Hac-Jin;Shin, Hyun-Chan;Kim, Seong-Kun
    • Journal of the Korea Academia-Industrial cooperation Society
    • /
    • v.17 no.5
    • /
    • pp.364-371
    • /
    • 2016
  • We developed a prediction model of assistance force for the opening/closing of an automobile door depending on the condition of the parking ground. The candidates of the learning models for the operating assistance force were compared to determine the proper force according to the slope and user's force, etc. The reduced experimental model was developed to obtain learning data for the estimation model. The learning algorithm was composed to predict the assistance force to incorporate real assistance force data. Among these algorithms, an Artificial Neural Network (ANN) and Support Vector Machine(SVM) were applied and the adaptability was compared between these models. The SVM provided more adaptability for the learning process of the door assistance force prediction. This paper proposes a system for determining the assistance force to control a door motor to compensate for the deviation of required door force in the slope condition, as needed in the plane condition.

A Study on Machine Learning Model for Predicting Uncollected Parameters in Indoor Environment Evaluation (실내 환경 평가 시 미확보 파라미터 예측을 위한 기계학습 모델에 대한 연구)

  • Jeong, Jin-Hyoung;Jo, Jae-Hyun;Kim, Seung-Hun;Bang, So-Hyeon;Lee, Sang-Sik
    • The Journal of Korea Institute of Information, Electronics, and Communication Technology
    • /
    • v.14 no.5
    • /
    • pp.413-420
    • /
    • 2021
  • This study is about a machine learning model for predicting insufficient parameters through other parameters when one of the collected parameters is insufficient. A regression model was created to predict time, temperature, humidity, CO2, and light quantity data through the machine learning regression analysis function in Matlab. In addition, the three models with the lowest RMSE values for each parameter were selected and verified. For verification, the predicted values were obtained by applying the test data to the prediction model derived from each parameter, and the correlation coefficient and error average between the measured values and the obtained predicted values were obtained and then compared.

Analysis of achievement predictive factors and predictive AI model development - Focused on blended math classes (학업성취도 예측 요인 분석 및 인공지능 예측 모델 개발 - 블렌디드 수학 수업을 중심으로)

  • Ahn, Doyeon;Lee, Kwang-Ho
    • The Mathematical Education
    • /
    • v.61 no.2
    • /
    • pp.257-271
    • /
    • 2022
  • As information and communication technologies are being developed so rapidly, education research is actively conducted to provide optimal learning for each student using big data and artificial intelligence technology. In this study, using the mathematics learning data of elementary school 5th to 6th graders conducting blended mathematics classes, we tried to find out what factors predict mathematics academic achievement and developed an artificial intelligence model that predicts mathematics academic performance using the results. Math learning propensity, LMS data, and evaluation results of 205 elementary school students had analyzed with a random forest model. Confidence, anxiety, interest, self-management, and confidence in math learning strategy were included as mathematics learning disposition. The progress rate, number of learning times, and learning time of the e-learning site were collected as LMS data. For evaluation data, results of diagnostic test and unit test were used. As a result of the analysis it was found that the mathematics learning strategy was the most important factor in predicting low-achieving students among mathematics learning propensities. The LMS training data had a negligible effect on the prediction. This study suggests that an AI model can predict low-achieving students with learning data generated in a blended math class. In addition, it is expected that the results of the analysis will provide specific information for teachers to evaluate and give feedback to students.

Word-level Korean-English Quality Estimation (단어 수준 한국어-영어 기계번역 품질 예측)

  • Eo, Sugyeong;Park, Chanjun;Seo, Jaehyung;Moon, Hyeonseok;Lim, Heuiseok
    • Annual Conference on Human and Language Technology
    • /
    • 2021.10a
    • /
    • pp.9-15
    • /
    • 2021
  • 기계번역 품질 예측 (Quality Estimation, QE)은 정답 문장에 대한 참조없이 소스 문장과 기계번역 결과를 통해 기계번역 결과에 대한 품질을 수준별 주석으로 나타내주는 태스크이며, 다양한 활용도가 있다는 점에서 꾸준히 연구가 수행되고 있다. 그러나 QE 모델 학습을 위한 데이터 구성 시 기계번역 결과에 대해 번역 전문가가 교정한 문장이 필요한데, 이를 제작하는 과정에서 상당한 인건비와 시간 비용이 발생하는 한계가 있다. 본 논문에서는 번역 전문가 없이 병렬 또는 단일 말뭉치와 기계번역기만을 활용하여 자동화된 방식으로 한국어-영어 합성 QE 데이터를 구축하며, 최초로 단어 수준의 한국어-영어 기계번역 결과 품질 예측 모델을 제작하였다. QE 모델 제작 시에는 Cross-lingual language model (XLM), XLM-RoBERTa (XLM-R), multilingual BART (mBART)와 같은 다언어모델들을 활용하여 비교 실험을 수행했다. 또한 기계번역 결과에 대한 품질 예측의 객관성을 검증하고자 구글, 아마존, 마이크로소프트, 시스트란의 번역기를 활용하여 모델 평가를 진행했다. 실험 결과 XLM-R을 활용하여 미세조정학습한 QE 모델이 가장 좋은 성능을 보였으며, 품질 예측의 객관성을 확보함으로써 QE의 다양한 장점들을 한국어-영어 기계번역에서도 활용할 수 있도록 했다.

  • PDF

Study on Water Stage Prediction by Artificial Neural Network and Genetic Algorithm (인공신경망과 유전자알고리즘을 이용한 수위예측에 관한 연구)

  • Yeo, Woon-Ki;Jee, Hong-Kee;Lee, Soon-Tak
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2010.05a
    • /
    • pp.1159-1163
    • /
    • 2010
  • 최근의 극심한 기상이변으로 인하여 발생되는 유출량의 예측에 관한 사항은 치수 이수는 물론 방재의 측면에서도 역시 매우 중요한 관심사로 부각되고 있다. 강우-유출 관계는 유역의 수많은 시 공간적 변수들에 의해 영향을 받기 때문에 매우 복잡하여 예측하기 힘든 요소이다. 과거에는 추계학적 예측모형이나 확정론적 예측모형 혹은 경험적 모형 등을 사용하여 유출량을 예측하였으나 최근에는 인공신경망과 퍼지모형 그리고 유전자 알고리즘과 같은 인공지능기반의 모형들이 많이 사용되고 있다. 하지만 유출량을 예측하고자 할 때 학습자료 및 검정자료로써 사용되는 유출량은 수위-유량 관계곡선식으로부터 구하는 경우가 대부분으로 이렇게 유도된 유출량의 경우 오차가 크기 때문에 그 신뢰성에 문제가 있을 것으로 판단된다. 따라서 본 논문에서는 선행우량 및 수위자료로부터 단시간 수위예측에 관해 연구하였다. 신경망은 과거자료의 입 출력 패턴에서 정보를 추출하여 지식으로 보유하고, 이를 근거로 새로운 상황에 대한 해답을 제시하도록 하는 인공지능분야의 학습기법으로 인간이 과거의 경험과 훈련으로 지식을 축적하듯이 시스템의 입 출력에 의하여 연결강도를 최적화함으로서 모형의 구조를 스스로 조직화하기 때문에 모형의 구조에 적합한 최적 매개변수를 추정할 수 있다. 따라서 정확한 예측이 어려운 하천수위를 과거의 자료로 부터 학습된 신경망의 수학적 알고리즘을 통해 유출량의 예측에 적용할 수 있을 것이다. 유전자 알고리즘은 적자생존의 생물학 원리에 바탕을 둔 최적화 기법중의 하나로 자연계의 생명체 중 환경에 잘 적응한 개체가 좀 더 많은 자손을 남길 수 있다는 자연선택 과정과 유전자의 변화를 통해서 좋은 방향으로 발전해 나간다는 자연 진화의 과정인 자연계의 유전자 메커니즘에 바탕을 둔 탐색 알고리즘이다. 즉, 자연계의 유전과 진화 메커니즘을 공학적으로 모델화함으로써 잠재적인 해의 후보들을 모아 군집을 형성한 뒤 서로간의 교배 혹은 변이를 통해서 최적 해를 찾는 계산 모델이다. 따라서 본 연구에서는 인공신경망의 가중치를 유전자 알고리즘에 의해 최적화시킨후 오류역전파알고리즘에 의해 신경망의 학습을 진행하는 모형으로 감천유역의 선산수위표지점의 수위를 1시간~6시간까지 예측하였다.

  • PDF