• Information and Communications Magazine
• /
• v.33 no.10
• /
• pp.40-48
• /
• 2016

본고에서는 최근 활발하게 연구되고 있는 심층 학습에 대하여 알아본다. 기계 학습 분야 중 하나인 심층 학습은 인공 신경망의 한 형태인 심층 신경망을 통해 구현된다. 심층 신경망은 기존 다층 신경망의 구조와 거의 유사한 학습 구조를 가지지만, 학습 과정에서 발생하는 부정확한 학습 문제를 해결함으로써 최근의 성공을 이끌어낼 수 있었다. 본고에서는 다층 신경망이 가지고 있던 문제점들을 심층 신경망에서 어떻게 극복하였는지 심층 신경망의 발전 과정을 통해 알아보고, 기계 학습의 기본개념을 바탕으로 이를 설명하여 비전문가들의 이해를 돕고자 하였다.

• Proceedings of the Korean Society of Precision Engineering Conference
• /
• 1996.04a
• /
• pp.536-540
• /
• 1996

경험과 학습을 바탕으로 새로운 상황에 대처하는 인간의 신경계에서의 신경세포들의 상호작용을 규명하는 일은 많은 과학자들을 매료시켜 왔다. 이와 함께, 생물학적인 신경계를 닮은 인공적인 신경망을 구축하여 감지하고, 인식하고, 구별하고, 판단하는 일에 이용하고자 하는 노력도 끊임없이 진행되어 왔다. 인공 신경망의 구성은 전적으로 많은 경우의 수에 대한 테스트에 의존하게 되는 데, 이 경우 시간도 대단히 많이 소요 될 뿐더러 체계적으로 가장 좋아 보이는 신경망 모델에 도달하였는 지도 확실치 않다. 따라서 , 본 논문에서는 실험계획법을 다층 퍼셉트론 신경망의구조설계에 적용하여 적은 실험횟수로 적합한 신경망 모델을 구성할 수 있음을 검증하고, 실제사례에 적용하여 그 유용성을 제시하고자 한다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2017.01a
• /
• pp.19-20
• /
• 2017

인공지능이 사회적으로 대두되면서 많은 양의 관련 연구가 시작되고 있다. 본 논문에서는 다층 퍼셉트론 신경망에서 역전파 학습의 진행 과정을 시각화 하는 것을 목표로 하고 있다. 다층 퍼셉트론 신경망은 학습의 진행 과정과 그 방식은 잘 알려져 있으나 각 신경의 값이 어떻게 변화되어 가는 지는 눈에 보이지 않는다. 이러한 과정에 대해 시각화를 통해 값이 변하는 과정을 눈으로 쉽게 관찰할 수 있도록 하는 것이 이 논문의 목표이다. 본 연구결과는 향후 다층 퍼셉트론 신경망을 기반으로 하는 다른 모델의 시각화에 대한 기초자료로 활용될 수 있을 것이다.

• KSCE Journal of Civil and Environmental Engineering Research
• /
• v.29 no.3C
• /
• pp.115-125
• /
• 2009

The preconsolidation pressure has been commonly determined by oedometer test. However, it can also be determined by insitu test, such as piezocone test with theoretical and(or) empirical correlations. Recently, Neural Network (NN) theory was applied and some models were proposed to estimate the preconsolidation pressure or OCR. It was already found that NN model can come over the site dependency and prediction accuracy is greatly improved when compared with present theoretical and empirical models. However, since the optimization process of synaptic weights of NN model is dependent on the initial synaptic weights, NN models which are trained with different initial weights can't avoid the variability on prediction result for new database even though they have same structure and use same transfer function. In this study, Committee Neural Network (CNN) model is proposed to improve the initial weight dependency of multi-layered neural network model on the prediction of preconsolidation pressure of soft clay from piezocone test result. Prediction results of CNN model are compared with those of conventional empirical and theoretical models and multi-layered neural network model, which has the optimized structure. It was found that even though the NN model has the optimized structure for given training data set, it still has the initial weight dependency, while the proposed CNN model can improve the initial weight dependency of the NN model and provide a consistent and precise inference result than existing NN models.

• Journal of Digital Contents Society
• /
• v.18 no.5
• /
• pp.969-976
• /
• 2017

This paper proposes the learning method of an artificial neural network and a convolutional neural network using the WFSO algorithm developed as an optimization algorithm. Since the optimization algorithm searches based on a number of candidate solutions, it has a drawback in that it is generally slow, but it rarely falls into the local optimal solution and it is easy to parallelize. In addition, the artificial neural networks with non-differentiable activation functions can be trained and the structure and weights can be optimized at the same time. In this paper, we describe how to apply WFSO algorithm to artificial neural network learning and compare its performances with error back-propagation algorithm in multilayer artificial neural networks and convolutional neural networks.

• Journal of the Korean GEO-environmental Society
• /
• v.13 no.8
• /
• pp.25-33
• /
• 2012

Although it is important to reflect the accurate information of the ground condition in the tunnel design, the analysis and design are conducted by limited information because it is very difficult to consider various geographies and geotechnical conditions. When the tunnel is under construction, examination of accurate safety and prediction of behavior are overcome the limits of predicting behavior by Artificial Neural Network in this study. First, construct the suitable structure after the data of field was made sure by the multi-layer back propagation, then apply with algorithm. Employ the result of measured data from database, and consider the influence factor of tunnel, like supporting pattern, RMR, Q, the types of rock, excavation length, excavation shape, excavation over, to carry out the reliable analysis through field applicability of Artificial Neural Network. After studying, using the ANN model to predict the shearing displacement, convergence displacement, underground displacement, Rock bolt output follow the excavation over of tunnel construction field, then determine the field applicability with ANN through field measured value and comparison analysis when tunnel is being constructed.

• The KIPS Transactions:PartB
• /
• v.13B no.6 s.109
• /
• pp.615-624
• /
• 2006

The objective of this paper is to implement parallel multi-layer ANN(Artificial Neural Network) simulator based on the mobile agent system which is executed in parallel in the virtual parallel distributed computing environment. The Multi-Layer Neural Network is classified by training session, training data layer, node, md weight in the parallelization-level. In this study, We have developed and evaluated the simulator with which it is feasible to parallel the ANN in the training session and training data parallelization because these have relatively few network traffic. In this results, we have verified that the performance of parallelization is high about 3.3 times in the training session and training data. The great significance of this paper is that the performance of ANN's execution on virtual parallel computer is similar to that of ANN's execution on existing super-computer. Therefore, we think that the virtual parallel computer can be considerably helpful in developing the neural network because it decreases the training time which needs extra-time.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2009.05a
• /
• pp.179-183
• /
• 2009

본 연구에서는 GCM 기후변화 전망 시나리오를 이용하여 유역단위의 기후변화를 추정하였다. 원시 GCM 시나리오를 지역화 시키기 위해서 인공신경망 모형을 사용하였다. GCM에서 모의되는 강수플럭스, 해면기압, 지표면 근처에서의 일 평균온도, 지표면으로부터 발생하는 잠열플럭스 등과 같은 22개의 변수는 인공신경망의 잠재적 예측인자로 사용되었으며, AWS에서 관측된 강수량과 온도는 예측변수로 사용되었다. 원시 GCM 데이터는 CCCma(Canadian Centre for Climate Modeling and Analysis)에서 제공되는 CGCM3.1/T63 20C3M 시나리오를 사용하였으며, 인공신경망 학습과정에서 사용된 기준시나리오(reference scenario)자료의 기간은 1997년부터 2000년까지의 데이터를 사용하였다. 인공신경망을 학습을 통하여 결정된 각 층사이의 가중치를 이용하여 이산화탄소 배출농도를 가정하여 생성된 CGCM3.1/T63 SRES B1 기후변화시나리오(project scenario)를 인공신경망의 입력값으로 하여 미래의 기온과 강수변화를 전망하였다. 신경망의 학습효과를 높이기 위하여 기온과 강수에 대한 평균 및 누적기간을 각각 일단위와 월단위로 설정하였다. 본 연구에서 사용된 인공신경망은 3층 퍼셉트론(다층 퍼셉트론)을 사용하였으며, 학습방법으로는 역전파알고리즘(back-propagation algorithm)을 이용하였다. 민감도분석을 통하여 선택된 예측인자는 소양강댐유역(1011, 1012소유역)에서의 인공신경망 예측인자로 활용되었으며, 2001년부터 2100년까지의 일 평균온도와 일 강수량의 변화경향을 추정하였다. 1011유역, 1012유역에서는 여름철의 온도변화경향이 겨울철에 비하여 높게 나타났다. 일 평균온도의 통계분석 결과 평균예측오차가 가장 적게 나타나는 지역은 1001유역으로 -0.08로 평균예측오차가 가장 적게 나타났으며, 인공신경망기법을 이용하여 스케일 상세화된 일 평균온도와 관측된 일 평균온도가 얼마나 잘 일치하는지를 확인할 수 있는 1012유역에서 CORR이 0.74로 가장 높게 나타났다.

• Journal of Navigation and Port Research
• /
• v.35 no.1
• /
• pp.83-91
• /
• 2011

The accuracy of forecasting is remarkably important to reduce total cost or to increase customer services, so it has been studied by many researchers. In this paper, the artificial neural network (ANN), one of the most popular nonlinear forecasting methods, is compared with autoregressive integrated moving average(ARIMA) model through performing a prediction of container traffic. It uses a hybrid methodology that combines both the linear ARIAM and the nonlinear ANN model to improve forecasting performance. Also, it compares the methodology with other models in performance for prediction. In designing network structure, this work specially applies the genetic algorithm which is known as the effectively optimal algorithm in the huge and complex sample space. It includes the time delayed neural network (TDNN) as well as multi-layer perceptron (MLP) which is the most popular neural network model. Experimental results indicate that both ANN and Hybrid models outperform ARIMA model.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2008.05a
• /
• pp.1027-1031
• /
• 2008

본 연구는 한반도 영역을 대상으로 2001년 7, 8월과 2002년 6월로 홍수기를 대상으로 RDAPS 모형, AWS, 상층기상관측(upper-air sounding)의 자료를 이용하였다. 또한 수치예보자료를 범주적 예측확률로 변환하고 인공신경망기법(ANN)을 이용하여 강수발생확률의 예측정확성을 향상시키는데 있다. 신경망의 예측인자로 사용된 대기변수는 500/ 750/ 1000hpa에서의 지위고도, 500-1000hpa에서의 층후(thickness), 500hpa에서의 X와 Y의 바람성분, 750hpa에서의 X와 Y의 바람성분, 표면풍속, 500/ 750hpa/ 표면에서의 온도, 평균해면기압, 3시간 누적 강수, AWS관측소에서 관측된 RDAPS모형 실행전의 6시간과 12시간동안의 누적강수, 가강수량, 상대습도이며, 예측변수로는 강수발생확률로 선택하였다. 강우는 다양한 대기변수들의 비선형 조합으로 발생되기 때문에 예측인자와 예측변수 사이의 복잡한 비선형성을 고려하는데 유용한 인공신경망을 사용하였다. 신경망의 구조는 전방향 다층퍼셉트론으로 구성하였으며 역전파알고리즘을 학습방법으로 사용하였다. 강수예측성과의 질을 평가하기 위해서 $2{\times}2$ 분할표를 이용하여 Hit rate, Threat score, Probability of detection, Kuipers Skill Score를 사용하였으며, 신경망 학습후의 강수발생확률은 학습전의 강수발생확률에 비하여 한반도영역에서 평균적으로 Kuipers Skill Score가 0.2231에서 0.4293로 92.39% 상승하였다.