• Proceedings of the Korea Information Processing Society Conference
• /
• 2018.10a
• /
• pp.916-919
• /
• 2018

심층신경망 모델은 우수한 성능을 갖고 있음에도 불구하고 모델이 어떤 판단 과정을 통해 결론을 내렸는지 파악하기 어렵다. 그에 따라 판단에 대한 근거가 중요한 분야에서는 심층신경망 모델을 적용한 실제 사례를 찾기 어렵다. 인공신경망 모델을 해석하기 어렵다는 문제를 해결하기 위해 내부 구조를 이용하여 규칙을 추출하는 decompositional 접근법이 제안되었으나 기존의 연구는 대부분 은닉층이 1개인 다층 퍼셉트론 모델에서 규칙을 생성하는 것을 가정하고 있다. 오늘날 사용하는 심층신경망 모델은 일반적으로 여러 은닉층을 가지고 있기 때문에 기존의 접근법을 그대로 적용할 경우 규칙 불확실성에 따라 잘못된 규칙을 추출하는 문제가 발생한다. 본 논문은 decompositional 접근법에 존재하는 규칙 불확실성 문제를 완화하고 깊이가 깊은 심층신경망 모델에 규칙을 추출하는 방법을 제안한다. 제안한 접근법은 실제 활성화 값을 통해 지식을 추출하며, 이를 통해 규칙 불확실성 문제를 완화할 수 있었다.

• Proceedings of the KIEE Conference
• /
• 1999.07g
• /
• pp.2977-2979
• /
• 1999

본 논문에서는 MEBP(Modified Error Back-Propagation) 학습 규칙을 간단한 비선형 회로를 이용하여 구현하였다. 인공 신경 회로망(ANNs : Artificial Neural Networks)은 많은 수의 뉴런을 필요하기 때문에 표준 CMOS 기술을 이용하는 간단한 비선형 시냅스(synapse) 회로는 인공 신경 회로망 구현에 적합하다. 학습회로는 비선형 시냅스 회로. 시그모이드(sigmoid) 회로. 그리고 선형 곱셈기로 구성되어 있다. 학습 회로의 출력은 각 입력 패턴에 따라 유일한 값으로 결정되어진다. 제안한 학술회로를 $2{\times}2{\times}1$과 $2{\times}3{\times}1$ 다층 feedforward 신경 회로망 모델에 적용하였다. MEBP 하드웨어 구현은 HSPICE 회로 시뮬레이터를 이용하여 검증하였다. 제안한 학술 회로는 on-chip 학습회로를 포함한 대규모 신경회로망 구현에 매우 적합하리라 예상된다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2017.04a
• /
• pp.873-876
• /
• 2017

최근 정보검색의 효율성을 위해 데이터를 분석하여 해당 데이터를 가장 잘 나타내는 연관단어를 추출 및 추천하는 연구가 활발히 이루어지고 있다. 현재 관련 연구들은 출현 빈도수를 사용하는 방법이나 LDA와 같은 기계학습 기법을 활용해 데이터를 분석하여 연관단어를 생성하는 방법을 제안하고 있다. 기계학습 기법은 결과 값을 찾는데 사용되는 특징들을 전문가가 직접 설계해야 하며 좋은 결과를 내는 적절한 특징을 찾을 때까지 많은 시간이 필요하다. 또한, 파라미터들을 직접 설정해야 하므로 많은 시간과 노력을 필요로 한다는 단점을 지닌다. 이러한 기계학습 기법의 단점을 극복하기 위해 인공신경망을 다층구조로 배치하여 데이터를 분석하는 딥러닝이 최근 각광받고 있다. 본 논문에서는 기존 기계학습 기법을 사용하는 연관단어 추출연구의 한계점을 극복하기 위해 딥러닝을 활용한다. 먼저, 인공신경망 기반 단어 벡터 생성기인 Word2Vec를 사용하여 다양한 텍스트 데이터들을 학습하고 룩업 테이블을 생성한다. 그 후, 생성된 룩업 테이블을 바탕으로 인공신경망의 한 종류인 합성곱 신경망을 활용하여 사용자가 입력한 주제어와 관련된 최근 뉴스데이터를 분석한 후, 주제별 최신 연관단어를 추출하는 시스템을 제안한다. 또한 제안한 시스템을 통해 생성된 연관단어의 정확률을 측정하여 성능을 평가하였다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2016.05a
• /
• pp.86-86
• /
• 2016

본 연구는 가뭄 예측에 대한 오차를 알고리즘과 결합하여 다층 퍼셉트론 (Multi-layer Perceptron, MLP) 네트워크 구조를 인공신경망 모형에 적용하고, 표준강수지수(Standard Precipitation Index, SPI)를 입 력 및 출력 변수로 구성하여 가뭄예측을 시도하였다. 예측모델을 평가하기 위해 기상청 산하의 59개 관측소에 대한 1980년부터 2015년까지의 기상자료를 적용하였으며, 수립된 자료를 활용하여 한반도 전역의 가뭄에 대한 시공간적인 분석을 수행하였다. 단기가뭄 예측성능을 평가하기 위해 2000년에서 2015년까지 16년간의 모의결과를 ROC 분석을 통하여 시공간적 단기가뭄 예측성능을 평가하고 혼동행렬(Conversion Matrix) 구성에 대한 조건적 확률의 다각적 검토를 통해 모델 예측에 대한 정확성(Accuracy), 신뢰성(Precision) 등 다양한 예측성능에 대한 평가를 수행하고 2016년 가뭄전망을 제시하고자 한다.

• The Journal of Engineering Geology
• /
• v.28 no.4
• /
• pp.583-592
• /
• 2018

Recently, concern has arisen regarding the lowering of groundwater levels in the hinterland caused by the development of high-capacity radial collector wells in riverbank filtration areas. In this study, groundwater levels are estimated using Modflow software in relation to the water volume pumped by the radial collector well in Anseongcheon Stream. Using the water volume data, an artificial neural network (ANN) model is developed to determine the amount of water that can be withdrawn while minimizing the reduction of groundwater level. We estimate that increasing the pumping rate of the horizontal well HW-6, which is drilled parallel to the stream direction, is necessary to minimize the reduction of groundwater levels in wells OW-7 and OB-11. We also note that the number of input data and the classification of training and test data affect the results of the ANN model. This type of approach, which supplements ANN modeling with observed data, should contribute to the future groundwater management of hinterland areas.

• Journal of Intelligence and Information Systems
• /
• v.10 no.1
• /
• pp.109-123
• /
• 2004

Corporate financial distress and bankruptcy prediction is one of the major application areas of artificial neural networks (ANNs) in finance and management. ANNs have showed high prediction performance in this area, but sometimes are confronted with inconsistent and unpredictable performance for noisy data. In addition, it may not be possible to train ANN or the training task cannot be effectively carried out without data reduction when the amount of data is so large because training the large data set needs much processing time and additional costs of collecting data. Instance selection is one of popular methods for dimensionality reduction and is directly related to data reduction. Although some researchers have addressed the need for instance selection in instance-based learning algorithms, there is little research on instance selection for ANN. This study proposes a genetic algorithm (GA) approach to instance selection in ANN for bankruptcy prediction. In this study, we use ANN supported by the GA to optimize the connection weights between layers and select relevant instances. It is expected that the globally evolved weights mitigate the well-known limitations of gradient descent algorithm of backpropagation algorithm. In addition, genetically selected instances will shorten the learning time and enhance prediction performance. This study will compare the proposed model with other major data mining techniques. Experimental results show that the GA approach is a promising method for instance selection in ANN.

• Journal of the Korean Geotechnical Society
• /
• v.21 no.8
• /
• pp.73-84
• /
• 2005

A three layered neural network model was developed using back propagation algorithm to estimate the UU undrained shear strength of Korean soft soil based on the database of actual undrained shear strengths and piezocone measurements compiled from 8 sites over the Korea. The developed model was validated by comparing model predictions with measured values about new piezocone data, which were not previously employed during development of model. Performance of the neural network model was also compared with conventional empirical methods. It was found that the number of neuron in hidden layer is different for the different combination of transfer functions of neural network models. However, all piezocone neural network models are successful in inferring a complex relationship between piezocone measurements and the undrained shear strength of Korean soft soils, which give relatively high coefficients of determination ranging from 0.69 to 0.72. Since neural network model has been generalized by self-learning from database of piezocone measurements and undrained shear strength over the various sites, the developed neural network models give more precise and generally reliable undrained shear strengths than empirical approaches which still need site specific calibration.

• Journal of Korean Society of Transportation
• /
• v.20 no.1
• /
• pp.131-139
• /
• 2002

This study introduces a developed artificial neural networks(ANN) model as a more efficient and reliable prediction model in operating speed Prediction with the 85th percentile horizontal curve of two-way rural highway in the aspect of evaluating highway design consistency. On the assumption that the speed is decided by highway geometry features, total 30 survey sites were selected. Data include currie radius, curve length, intersection angle, sight distance, lane width, and lane of those sites and were used as input layer data of the ANN. The optimized model structure was drawn by number of unit of hidden layer, learning coefficient, momentum coefficient, and change in learning frequency in multi-layer a ANN model. To verify learning Performance of ANN, 30 survey sites were selected while data in obtained from the 20 cites were used as learning data and those from the remaining 10 sites were used as predictive data. As a result of statistical verification, the model D of 4 types of ANN was evaluated as the most similar model to the actual operating speed value: R2 was 85% and %RMSE was 0.0204.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2018.10a
• /
• pp.715-718
• /
• 2018

최근 다층의 인공신경망 모델이 수많은 분야에 대한 해결 방안으로 제시되고 있으며 2015년 Mnih이 고안한 DQN(Deep Q Network)는 Atari game에서 인간 수준의 성능을 보여주며 많은 이들에게 놀라움을 자아냈다. 본 논문에서는 Atari DQN Model을 실내 자율주행 모바일 로봇에 적용하여 신경망 모델이 최단 경로를 추종하며 장애물 회피를 위한 행동을 학습시키기 위해 로봇이 가지는 상태 정보들을 84*84 Mat로 가공하였고 15가지의 행동을 정의하였다. 또한 Virtual world에서 신경망 모델이 실제와 유사한 현재 상태를 입력받아 가장 최적의 정책을 학습하고 Real World에 적용하는 방법을 연구하였다.

• Journal of Korea Water Resources Association
• /
• v.46 no.12
• /
• pp.1249-1263
• /
• 2013

In order to minimize the damages caused by long-term drought, appropriate drought management plans of the basin should be established with the drought forecasting technology. Further, in order to build reasonable adaptive measurement for future drought, the duration and severity of drought must be predicted quantitatively in advance. Thus, this study, attempts to forecast drought in Korea by using an Artificial Neural Network Model, and drought index, which are the representative statistical approach most frequently used for hydrological time series forecasting. SPI (Standardized Precipitation Index) for major weather stations in Korea, estimated using observed historical precipitation, was used as input variables to the MLP (Multi Layer Perceptron) Neural Network model. Data set from 1976 to 2000 was selected as the training period for the parameter calibration and data from 2001 to 2010 was set as the validation period for the drought forecast. The optimal model for drought forecast determined by training process was applied to drought forecast using SPI (3), SPI (6) and SPI (12) over different forecasting lead time (1 to 6 months). Drought forecast with SPI (3) shows good result only in case of 1 month forecast lead time, SPI (6) shows good accordance with observed data for 1-3 months forecast lead time and SPI (12) shows relatively good results in case of up to 1~5 months forecast lead time. The analysis of this study shows that SPI (3) can be used for only 1-month short-term drought forecast. SPI (6) and SPI (12) have advantage over long-term drought forecast for 3~5 months lead time.