• 실천공학교육논문지
• /
• 제13권2호
• /
• pp.233-242
• /
• 2021

본 논문에서는 비전공자들을 위한 교양과정으로, 기초 인공신경망 과목 커리큘럼을 설계하기 위해, 지도학습 인공신경망 매개변수 최적화 방법과 활성화함수에 대한 기초 교육 방법을 제안하였다. 이를 위해, 프로그래밍 없이, 매개 변수 최적화 해를 스프레드시트로 찾는 방법을 적용하였다. 본 교육 방법을 통해, 인공신경망 동작 및 구현의 기초 원리 교육에 집중할 수 있다. 그리고, 스프레드시트의 시각화된 데이터를 통해 비전공자들의 관심과 교육 효과를 높일 수 있다. 제안한 내용은 인공뉴런과 Sigmoid, ReLU 활성화 함수, 지도학습데이터의 생성, 지도학습 인공신경망 구성과 매개변수 최적화, 스프레드시트를 이용한 지도학습 인공신경망 구현 및 성능 분석 그리고 교육 만족도 분석으로 구성되었다. 본 논문에서는 Sigmoid 뉴런 인공신경망과 ReLU 뉴런 인공신경망에 대해 음수허용 매개변수 최적화를 고려하여, 인공신경망 매개변수 최적화에 대한 네가지 성능분석결과를 교육하는 방법을 제안하고 교육 만족도 분석을 실시하였다.

• 전기학회논문지
• /
• 제57권11호
• /
• pp.2095-2101
• /
• 2008

In this paper, we consider a performance improvement of neural network for predicting defect size of steam generator tube using early stopping. Usually, neural network is trained until MSE becomes less than a prescribed error goal. The smaller the error goal, the greater the prediction performance for the trained data. However, as the error goal is decreased, an over fitting is likely to start during supervised training of a neural network, which usually deteriorates the generalization performance. We propose that, for the prediction of an axisymmetric defect size, early stopping can be used to avoid the over-fitting. Through various experiments on the axisymmetric defect samples, we found that the difference bet ween the prediction error of neural network based on early stopping and that of ideal neural network is reasonably small. This indicates that the error goal used for neural network training for the prediction of defect size can be efficiently selected by early stopping.

• 제어로봇시스템학회:학술대회논문집
• /
• 제어로봇시스템학회 2005년도 ICCAS
• /
• pp.2521-2525
• /
• 2005

In this paper, we presented a predictive control technique, which is based on wavelet neural network (WNN), for the control of chaotic systems whose precise mathematical models are not available. The WNN is motivated by both the multilayer feedforward neural network definition and wavelet decomposition. The wavelet theory improves the convergence of neural network. In order to design predictive controller effectively, the WNN is used as the predictor whose parameters are tuned by error between the output of actual plant and the output of WNN. Also the training method for the finding a good WNN model is the Extended Kalman algorithm which updates network parameters to converge to the reference signal during a few iterations. The benefit of EKF training method is that the WNN model can have better accuracy for the unknown plant. Finally, through computer simulations, we confirmed the performance of the proposed control method.

• 지능정보연구
• /
• 제5권1호
• /
• pp.95-101
• /
• 1999

In this paper, a comparison between different methods to combine predictions from neural networks will be given. These methods are bagging, bumping, and balancing. Those are based on the analysis of the ensemble generalization error into an ambiguity term and a term incorporating generalization performances of individual networks. Neural Networks and AI machine learning models are prone to overfitting. A strategy to prevent a neural network from overfitting, is to stop training in early stage of the learning process. The complete data set is spilt up into a training set and a validation set. Training is stopped when the error on the validation set starts increasing. The stability of the networks is highly dependent on the division in training and validation set, and also on the random initial weights and the chosen minimization procedure. This causes early stopped networks to be rather unstable: a small change in the data or different initial conditions can produce large changes in the prediction. Therefore, it is advisable to apply the same procedure several times starting from different initial weights. This technique is often referred to as training ensembles of neural networks. In this paper, we presented a comparison of three statistical methods to prevent overfitting of neural network.

• 전자공학회논문지B
• /
• 제31B권1호
• /
• pp.88-98
• /
• 1994

A new neural network architecture called the Parallel. Self-Organizing Hierarchical Neural Network (PSHNN) is presented. The new architecture involves a number of stages in which each stage can be a particular neural network (SNN). The experiments performed in comparison to multi-layered network with backpropagation training and indicated the superiority of the new architecture in the sense of classification accuracy, training time,parallelism.

• 제어로봇시스템학회:학술대회논문집
• /
• 제어로봇시스템학회 1993년도 한국자동제어학술회의논문집(국내학술편); Seoul National University, Seoul; 20-22 Oct. 1993
• /
• pp.619-623
• /
• 1993

In this paper, a neural network is appled to design a lateral autopilot for airplanes. Linearized lateral dynamics is used in training the neural network controller and verifying the performance as well. To train the neural network, back propagation algorithm is used. In this training, no information about the dynamics to be controlled except sign and rough magnitude of control derivatives is needed. It is shown by computer simulations that the performance and stability margin are satisfactory.

• International Journal of Fuzzy Logic and Intelligent Systems
• /
• 제2권1호
• /
• pp.15-19
• /
• 2002

Automatic detection of interstitial lung disease using Neural Network is presented. The rounded opacities in the pneumoconiosis X-ray photo are picked up quickly by a back propagation (BP) neural network with several typical training patterns. The training patterns from 0.6 mm ${\O}$ to 4.0 mm ${\O}$ are made by simple circles. The total evaluation is done from the size and figure categorization. Mary simulation examples show that the proposed method gives much reliable result than traditional ones.

• 한국전산구조공학회:학술대회논문집
• /
• 한국전산구조공학회 2002년도 가을 학술발표회 논문집
• /
• pp.321-329
• /
• 2002

Artificial neural network has been used for damage assessment by many researchers, but there are still some barriers that must be overcome to improve its accuracy and efficiency. The major problems with the conventional neural network are the necessity of many training patterns for neural network teaming process and ambiguity in the relationship of neural network structure to the convergence of solution. In this paper, the PNN is used as a pattern classifier to detect the damages of the railway bridge using dynamic response. The comparison between the mode shape and the natural frequency of structure as training pattern is investigated for approriate selection of the training pattern in the damage detection of railway bridge using the PNN.

• 정보교육학회논문지
• /
• 제25권5호
• /
• pp.791-801
• /
• 2021

본 논문은 예비교사와 현직교사를 위한 인공지능 소양 교육으로 적용할 수 있는 교육 사례를 연구하였다. 이를 위해, 이미지를 인식하는 인공신경망의 동작 원리를 교육하는 사례를 제안하였다. 본 교육 사례는 인공신경망 동작 및 구현의 기초 원리 교육에 초점을 맞추어, 인공신경망 구현에 필요한 매개변수 최적화 해들을 스프레드시트로 찾는 방법을 적용하였다. 본 논문에서는 지도학습 방식의 인공신경망에 초점을 맞추었다. 첫 번째로, 인공신경망 원리 교육 사례로서 2종 이미지를 인식하는 인공신경망 교육 사례를 제안하였다. 두번째로 인공신경망 확장 교육 사례로서 3종 이미지를 인식하는 인공신경망 교육 사례를 제안하였다. 마지막으로 인공신경망 교육 사례를 분석한 결과와 교육 만족도 분석 결과를 제시하였다. 제안한 교육 사례를 통해, 인공신경망 동작 원리, 학습 데이터 작성 방법, 학습 데이터양에 따라 실행되는 매개변수 계산 회수 그리고 매개변수 최적화에 대해 학습할 수 있다. 예비교사와 현직교사에 대한 교육 만족도 조사 결과는 각 조사 항목에 대해 모두 70%이상 긍정적인 응답 결과를 나타내어, 높은 수업 적용 적합성을 나타내었다.

• 실천공학교육논문지
• /
• 제15권2호
• /
• pp.381-388
• /
• 2023

스프레드시트를 활용한 인공신경망 교육을 통해, 비전공자 학부생들은 인공신경망의 동작 원리을 이해하며 자신만의 인공신경망 SW를 개발할 수 있다. 여기서, 인공신경망의 동작 원리 교육은 훈련데이터의 생성과 정답 라벨의 할당부터 시작한다. 이후, 인공 뉴런의 발화 및 활성화 함수, 입력층과 은닉층 그리고 출력층의 매개변수들로부터 계산되는 출력값을 학습한다. 마지막으로, 최초 정의된 각 훈련데이터의 정답 라벨과 인공신경망이 계산한 출력값 간 오차를 계산하는 과정을 학습하고 오차제곱의 총합을 최소화하는 입력층과 은닉층 그리고 출력층의 매개변수들이 계산되는 과정을 학습한다. 스프레드시트를 활용한 인공신경망 동작 원리 교육을 비전공자 학부생 대상으로 실시하였다. 그리고 이미지 훈련데이터와 기초 인공신경망 개발 결과를 수집하였다. 본 논문에서는 12화소 크기의 소용량 이미지로 두 가지 훈련데이터와 해당 인공신경망 SW를 수집한 결과를 분석하고, 수집한 훈련데이터를 Orange 머신러닝 모델 학습 및 분석 도구에 활용하는 방법과 실행 결과를 제시하였다.