• 제목/요약/키워드: the number of units in a hidden layer

검색결과 16건 처리시간 0.022초

은닉노드의 특징 값을 기반으로 한 최적신경망 구조의 BPN성능분석 (Performance Analysis of Optimal Neural Network structural BPN based on character value of Hidden node)

  • 강경아;이기준;정채영
    • 한국컴퓨터정보학회논문지
    • /
    • 제5권2호
    • /
    • pp.30-36
    • /
    • 2000
  • 은닉노드는 주어진 문제에서 입력패턴(input pattern)들의 특징을 구분해주는 중요한 역할을 한다. 이 때문에 최적의 은닉노드 수로 구성된 신경망 구조가 성능에 가장 큰 영향을 주는 요인으로 중요성이 대두되고 있다. 그러나 역전파(back-propagation) 학습 알고리즘을 기반으로 하여 은닉노드 수를 결정하는데는 문제점이 있다. 은닉노드 수가 너무 적게 지정되면 주어진 입력패턴을 충분히 구분할 수 없게 되어 완전한 학습이 이루어지지 않는 반면, 너무 많이 지정하면 불필요한 연산의 실행과 기억장소의 낭비로 과적응(overfitting)이 일어나 일반성이 떨어져 인식률이 낮아지기 때문이다. 따라서 본 논문에서는 백 프로퍼게이션 알고리즘을 이용하여 학습을 수행하는 다층 신경망의 학습오차 감소와 수렴율 개선을 위하여 신경망을 구성하는 매개변수를 가지고 은닉노드의 특징 값을 구하고, 그 값은 은닉노드를 제거(pruning)하기 위한 평가치로 사용된다. 구해진 특징 값 중 최대 값과 최소 값을 갖는 노드를 감소(pruning)대상에서 제외하고 나머지 은닉노드 특징 값의 평균과 각 은닉노드의 특징 값을 비교하여 평균보다 작은 특징 값을 갖는 은닉노드를 pruning시키므로서 다층 신경망의 최적 구조를 결정하여 신경망의 학습 속도를 개선하고자 한다.

  • PDF

인공팔 제어를 위한 근전신호의 신경회로망을 이용한 기능분석 (Functional Classification of Myoelectric Signals Using Neural Network for a Artificial Arm Control Strategy)

  • 손재현;홍성우;남문현
    • 대한전기학회논문지
    • /
    • 제43권6호
    • /
    • pp.1027-1035
    • /
    • 1994
  • This paper aims to make an artificial arm control strategy. For this, we propose a new feature extraction method and design artificial neural network for the functional classification of myoelectric signal(MES). We first transform the two channel myoelectric signals (MES) for biceps and triceps into frequency domain using fast Fourier transform (FFT). And features were obtained by comparing the magnitudes of ensemble spectrum data and used as inputs to the three-layer neural network for the learning. By changing the number of units in hidden layer of neural network we observed the improvement of classification performance. To observe the effeciency of the proposed scheme we performed experiments for classification of six arm functions to the three subjects. And we obtained on average 94[%] the ratio of classification.

신경회로망을 이용한 음성인식과 그 학습 (Speech Recognition and Its Learning by Neural Networks)

  • 이권현
    • 한국통신학회논문지
    • /
    • 제16권4호
    • /
    • pp.350-357
    • /
    • 1991
  • 본 논문에서는 전화번호 서비스시 사용되고 있는 영(zero)에서 일까지의 2종류의 숫자음(한글발음의 셈수와 한자발음의 읽음수) 22개에 대하여 신경회로망을 이용한 음성인식 실험의 결과와 학습과정에서 나타난 제 현상에 관해 논하였다. 신경회로망은 입력단과 출력단만을 갖는 2단구조와 한 개의 은익단을 갖는 3단구조의 회로망으로 은익단의 뉴론(Neuron) 수를 11, 12 및 44개로 가변해 가면서 BP(Back-Propagation) 알고리즘에 의하여 학습하였고 학습과정에서는 학습팩터(Learning factor), 학습방법(예로써 Random or Cycle), 모멘텀(Momentum)등을 조정해 가면서 최적의 학습과정을 찾고자 하였다. 실험결과 2단구조에 의한 화자독립의 경우 최고 96%의 인식율을 나타냈고 학습과정이 너무 많을 경우 오히려 인식율이 낮아졌으며 이 현상은 3단구조의 회로망에서 더욱 두드러지게 나타났다.

  • PDF

시그마파이 신경 트리의 진화적 학습 및 이의 분류 예측에의 응용 (Evolutionary Learning of Sigma-Pi Neural Trees and Its Application to classification and Prediction)

  • 장병탁
    • 한국지능시스템학회논문지
    • /
    • 제6권2호
    • /
    • pp.13-21
    • /
    • 1996
  • 하이오더 신경망에 대한 필요성과 유용성에 대해서는 신경망 연구의 초기부터 잘 알려져 있다. 그러나 오더가 늘어남에 따라 항의 수가 급격히 증가하는 문제로 인하여 이러한 망을 설계하고 학습하는데 많은 어려움이 있었다. 본 논문에서는 문제에 적합한 하이오더 신경망 모델을 효율적으로 구성하기 위한 진화적 학습 방법을 제시한다. 이 방법에서는 시그마유닛과 파이유닛을 융합한 신경트리 표현을 사용한다. 또한 MDL기반의 적합도 분류 및 예측 문제에 있어서 제시된 방법의 유용성을 검증한다.

  • PDF

사출성형공정에서 데이터의 불균형 해소를 위한 담금질모사 (Simulated Annealing for Overcoming Data Imbalance in Mold Injection Process)

  • 이동주
    • 산업경영시스템학회지
    • /
    • 제45권4호
    • /
    • pp.233-239
    • /
    • 2022
  • The injection molding process is a process in which thermoplastic resin is heated and made into a fluid state, injected under pressure into the cavity of a mold, and then cooled in the mold to produce a product identical to the shape of the cavity of the mold. It is a process that enables mass production and complex shapes, and various factors such as resin temperature, mold temperature, injection speed, and pressure affect product quality. In the data collected at the manufacturing site, there is a lot of data related to good products, but there is little data related to defective products, resulting in serious data imbalance. In order to efficiently solve this data imbalance, undersampling, oversampling, and composite sampling are usally applied. In this study, oversampling techniques such as random oversampling (ROS), minority class oversampling (SMOTE), ADASYN(Adaptive Synthetic Sampling), etc., which amplify data of the minority class by the majority class, and complex sampling using both undersampling and oversampling, are applied. For composite sampling, SMOTE+ENN and SMOTE+Tomek were used. Artificial neural network techniques is used to predict product quality. Especially, MLP and RNN are applied as artificial neural network techniques, and optimization of various parameters for MLP and RNN is required. In this study, we proposed an SA technique that optimizes the choice of the sampling method, the ratio of minority classes for sampling method, the batch size and the number of hidden layer units for parameters of MLP and RNN. The existing sampling methods and the proposed SA method were compared using accuracy, precision, recall, and F1 Score to prove the superiority of the proposed method.

시간처짐현상을 고려한 장거리구간 통행시간 예측 모형 개발 (Development of a Freeway Travel Time Forecasting Model for Long Distance Section with Due Regard to Time-lag)

  • 이의은;김정현
    • 대한교통학회지
    • /
    • 제20권4호
    • /
    • pp.51-61
    • /
    • 2002
  • 본 연구에서는 운전자 입장에서 원하는 고속도로 다구간의 통행시간을 예측하는 모형을 구축하였다. 현재 지점검지기를 통해 생성되는 예상통행시간 정보는 장거리 통행시 발생되는 시간처짐현상을 반영하지 못하고 있다. 이로 인하여 도로이용자들의 신뢰가 떨어져. 전체적인 ATIS의 효과를 거두지 못하고 있다. 따라서 본 연구에서는 시간처짐 현상과 영업소 지체를 반영한 고속도로 다구간의 통행시간예측을 위하여, 한국도로공사에서 운영중인 검지기의 교통량 자료와 TCS자료를 사용하였다. 또한 실제 시스템에의 적용을 위해 이상치가 섞여 있는 자료를 유지하였다. 예측에 사용된 모형은 3개의 입력유니트와 2개의 출력유니트를 가지는 선행신경망의 형태로 구성하였으며, 학습방법은 역전파법을 이용하였다. 또한 학습속도와 예측력에 영향을 주는 학습계수, 은닉층의 유니트수, 반복 횟수에 따라 12개의 대안을 구성하여 예측결과를 토대로 최적대안을 모형으로 채택하였다. 이러한 본 연구의 자료특성에 의해 원하는 구간까지의 통행시간을 구할 수가 있다.