• The Korean Journal of Applied Statistics
• /
• v.32 no.6
• /
• pp.899-908
• /
• 2019

Massive in-depth neural networks with numerous parameters are powerful machine learning methods, but they have overfitting problems due to the excessive flexibility of the models. Dropout is one methods to overcome the problem of oversized neural networks. It is also an effective method that randomly drops input and hidden nodes from the neural network during training. Every sample is fed to a thinned network from an exponential number of different networks. In this study, instead of feeding one sample for each thinned network, two or more samples are used in fitting for one thinned network known as a Hybrid Dropout. Simulation results using real data show that the new method improves the stability of estimates and reduces the minimum error for the verification data.

• Journal of the Korean GEO-environmental Society
• /
• v.3 no.4
• /
• pp.11-17
• /
• 2002

The purpose of this study is the prediction of pollutant loads into Seomjin river watershed using neural networks model. The pollutant loads into river watershed depend upon the water quantity of inflow from the upstream as well as the water quality of the inflow into the river. For the estimation of pollutants into river, a neural networks model which has the features of multi-layered structure and parallel multi-connections is used. The used water quality parameters are BOD, COD and SS into Seomjin river. The results of calibration are satisfactory, and proved the availability of a proposed neural networks model to estimate short-term water quality pollutants into river system.

• Journal of the Korean Geotechnical Society
• /
• v.19 no.6
• /
• pp.343-350
• /
• 2003

The range of applications of artificial neural networks(Am) in many branches of geotechnical engineering is growing rapidly. This study was undertaken to develop an analysis model representing ultrasonically enhanced soil flushing by the use of ANN. Input data for the model-development were obtained by laboratory study, and used for training and verification. Analyses involved various ranges of momentum, loaming rate, activation function, hidden layer, and nodes. Results of the analyses were used to obtain the optimum conditions for establishing and verifying the model. The coefficient of correlation between the measured and the predicted data using the developed model was relatively high. It shows potential application of ANN to ultrasonically enhanced soil flushing which is not easy to build up a mathematical model.

• Journal of the Korean Institute of Telematics and Electronics
• /
• v.26 no.5
• /
• pp.85-91
• /
• 1989

In this paper, we propose a neural net system for speech recognition, which is composed of two neural networks. Firstly the self-supervised BP(Back Propagation) network generates the distributed concept corresponding to the activity pattern in the hidden units. And then the self-organizing neural network forms a concept map which directly displays the similarity relations between concepts. By doing the above, the difficulty in learning the conventional BP network is solved and the weak side of BP falling into a pattern matcher is gone, while the strong point of generating the various internal representations is used. And we have obtained the concept map which is more orderly than the Kohonen's SOFM. The proposed neural net system needs not any special preprocessing and has a self-learning ability.

• Journal of the Korean Institute of Intelligent Systems
• /
• v.9 no.5
• /
• pp.490-495
• /
• 1999

In this paper. a learning method VoD-EBP for neural networks is proposed, which learn patterns by error back propagation. Based on Voronoi diagram, the method initializes the weights of the neural networks systematically, wh~ch results in faster learning speed and alleviated local optimum problem. The method also shows better the reliability of the design of neural network because proper number of hidden nodes are determined from the analysis of Voronoi diagram. For testing the performance, this paper shows the results of solving the XOR problem and the parity problem. The results were showed faster learning speed than ordinary error back propagation algorithm. In solving the problem, local optimum problems have not been observed.

• Journal of KIISE:Software and Applications
• /
• v.31 no.5
• /
• pp.537-542
• /
• 2004

Multi-Layer Perceptron network has been mainly applied to many practical problems because of its nonlinear mapping ability. However the generalization ability of MLP networks may be affected by the number of hidden nodes, the initial values of weights and the training errors. These factors, if improperly chosen, may result in poor generalization ability of MLP networks. It is important to identify these factors and their interaction in order to control effectively the generalization ability of MLP networks. In this paper, we have empirically identified the factors that affect the generalization ability of MLP networks, and compared their relative effects on the generalization performance for the conventional and visualized weight selecting methods using the controller box.

• Journal of the Institute of Convergence Signal Processing
• /
• v.5 no.2
• /
• pp.132-137
• /
• 2004

In this paper, the adaptive noise canceler using neural network with backpropagation is designed. The adaptive noise canceler using the least mean square algorithm has the large correlativity of the reference signal. The performance of the adaptive noise canceler shows the limitation when the information signal is relatively small to the noise. The system proposed in this paper plays an important role in denoising these signals. In addition, the experiments are carried out to analyze the effects of the number of hidden layers and nodes about the system. The performance of the proposed adaptive noise canceler is compared with that of the system which is used the least mean square algorithm.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2012.05a
• /
• pp.301-304
• /
• 2012

홍수예경보는 강우로 인하여 발생되는 홍수의 규모와 시간을 가능한 한 정확하고 빨리 예측하여 홍수에 대비할 수 있도록 유관기관 및 지역주민에게 사전에 홍수에 관한 정보 즉 예측되는 수위와 시간을 제공함으로써 홍수로부터의 피해를 최소화하는 것이다. 이와 같은 목적을 성공적으로 완수하기 위해서는 홍수시 급변하는 하천유량에 영향을 미치는 모든 수문학적 기상학적 자료를 신속 정확하게 수집할 수 있는 관측 시스템의 구축 뿐 아니라 이들 수집된 자료를 이용하여 실시간 홍수추적을 할 수 있는 효율적인 유출량 계산모형이 조화를 이룰 때 가능하다. 이에 본 연구에서는 중 소하천에서 홍수예경보를 위한 지능형 U-River 시스템의 실시간 모니터링 기술을 조사하고 하천수위를 이용한 예측시스템에 대해 연구하였다. 기존의 홍수예경보의 문제점을 해결하기 위해 간단한 입력자료만으로 홍수예측이 가능한 인공지능 기반의 신경망 모형을 이용 하였으며, 예측 모형의 효율성과 적용성을 높이기 위해 유사한 수문 사상을 가지는 상 하류간 입력 자료를 동시에 사용하였다. 또한 하천수위를 이용한 모델의 수행은 각 지점별 훈련성과를 토대로 최적의 은닉층 노드수를 선발하여 실시간 수위예측에 활용하였으며 수치적 기준을 적용하여 실측 수위와 모형에 의해 예측된 수위를 이용하여 평가하였다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2021.07a
• /
• pp.401-403
• /
• 2021

본 연구는 한국지능정보사회진흥원에서 제공한 2018년 스마트폰 과의존 실태조사에서 사용된 11개 변수와 스마트폰 과의존과의 관계를 탐색하고, 이를 통해 딥러닝 기반 스마트폰 과의존 분류 분석 모델을 개발하고자 시행되었다. 학습데이터셋은 전국 10,000개 가구내 만 3-69세 스마트폰 이용자 25,465명의 스마트폰 이용 형태 및 개인적 특성에 관한 데이터이다. 딥러닝은 심층신경망(DNN)을 설계하였으며, 은닉층(hidden layer)은 4개층으로 구성하였다. 입력한 데이터는 각각 200개, 150개, 100개, 50개, 2개 노드를 거치면서 최종 출력 정보인 스마트폰 과의존 분류율로 나타나는 모델이다. 이때 스마트폰 과의존 분류률을 높이기 위해 학습률(learning rate)과 같은 하이퍼 파라미터를 활용하여 세부조정하면서 가장 잘 학습하는 값을 찾아내었다. 연구결과, 학습횟수가 300번으로 학습율(learning.rate)이 0.01일때 훈련데이터에서 97.43%, 검증데이터에서 98.06%로 가장 높게 나타났다.

• Proceedings of the Korea Database Society Conference
• /
• 1999.06a
• /
• pp.415-421
• /
• 1999

Altman의 연구(1965, 1977)나 Beaver의 연구(1986)와 같은 전통적 예측모형은 분석자의 판단에 따른 예측도가 높은 재무비율을 선정하여 다변량판별분석(MDA： multiple discriminant analysis), 로지스틱회귀분석 등과 같은 통계기법을 주로 이용해 왔으나 1980년 후반부터 인공지능 기법인 귀납적 학습방법, 인공신경망모형, 유전모형 둥이 부실기업예측에 응용되기 시작했다. 최근 연구에서는 인공신경망을 활용한 변수 및 모형개발에 관한 보고가 있다. 그러나 지금까지의 연구가 주로 기업의 재무적 비율지표를 고려한 모형에 치중되었으며 정성적 자료인 비재무지표에 대한 검증과 선정이 자의적으로 이루어져온 경향이었다. 또한 너무 많은 입력변수를 사용할 경우 다중공선성 문제를 유발시킬 위험을 내포하고 있다. 본 연구에서는 부실기업예측모형을 수립하기 위하여 정량적 요인인 재무적 지표변수와 정성적요인인 비재무적 지표변수를 모두 고려하였다. 재무적 지표변수는 상관분석 및 요인분석들을 통하여 유의한 변수들을 도출하였으며 비재무적 지표변수는 조직생태학내에서의 조직군내 조직사멸과 관련된 생태적 과정에 대한 요인들 중 조직군 내적요인으로 조직의 연령, 조직의 규모, 조직의 산업밀도를 도출하여 4개의 실험집단으로 분류하여 비재무적 지표변수를 보완하였다. 인공신경망은 다층퍼셉트론(multi-layer perceptrons)과 역방향 학습(back-propagation )알고리듬으로 입력변수와 출력변수, 그리고 하나의 은닉층을 가지는 3층 퍼셉트론(three layer perceptron)을 사용하였으며 은닉충의 노드(node)수는 3개를 사용하였다. 입력변수로 안정성, 활동성, 수익성, 성장성을 나타내는 재무적 지표변수와 조직규모, 조직연령, 그 조직이 속한 산업의 밀도를 비재무적 지표변수로 산정하여 로지스틱회귀 분석과 인공신경망 기법으로 검증하였다. 로지스틱회귀분석 결과에서는 재무적 지표변수 모형의 전체적 예측적중률이 87.50%인 반면에 재무/비재무적 지표모형은 90.18%로서 비재무적 지표변수 사용에 대한 개선의 효과가 나타났다. 표본기업들을 훈련과 시험용으로 구분하여 분석한 결과는 전체적으로 재무/비재무적 지표를 고려한 인공신경망기법의 예측적중률이 높은 것으로 나타났다. 즉, 로지스틱회귀분석의 재무적 지표모형은 훈련, 시험용이 84.45%, 85.10%인 반면, 재무/비재무적 지표모형은 84.45%, 85.08%로서 거의 동일한 예측적중률을 가졌으나 인공신경망기법 분석에서는 재무적 지표모형이 92.23%, 85.10%인 반면, 재무/비재무적 지표모형에서는 91.12%, 88.06%로서 향상된 예측적 중률을 나타내었다.