• Title/Summary/Keyword: 오차 역전파

Search Result 128, Processing Time 0.028 seconds

Developed BackPropagation which solve the problem of Local maxima (Local maxima 를 해결하기 위해 개선된 오류역전파 알고리즘)

  • Seo, Won-Taek;Cho, Beom-Joon
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2001.10a
    • /
    • pp.605-608
    • /
    • 2001
  • 다층 신경망의 학습에 쓰이는 오류 역전파 학습은 매우 효과적이지만 학습 속도가 너무 느리고 최적의 은닉충의 뉴런의 수를 결정하는 해답은 아직 없는 실정이다. 또한 가끔은 국부 최소점(Local maxima)에 빠져 학습이 끝내 이루어지지 않는 경우가 있다. 이에 본 논문에서는 이러한 Local maxima 를 효과적으로 탈출 할 수 있는 방법에 대해서 연구해 보았다. 국부 최소점은 연결강도와 전체 오차 사이의 이차원 공간에서 표현할 수 있는데 본 알고리즘은 이러한 연결강도와 오차와의 관계를 인위적으로 변화시켜 결론적으로 Local maxima 를 탈출하게 하는 방법을 소개한다. 본 연구에서 사용된 방법은 네트웍이 학습중에 Local maxima 에 빠졌을 때 은닉층의 뉴런의 수를 추가하여 인위적으로 연결강도 평면의 위상을 변조시킨다. 또한 은닉충의 뉴런의 수를 동적으로 변화 시키면서 최적의 뉴런의 수를 결정할 수 있게 하였다. 위 알고리즘의 성능을 평가하기 위해서 XOR 문제와 $10{\times}8$ 영문폰트와 숫자의 학습에 적용하여 일반적인 역전파 학습과 비교 평가하였다.

  • PDF

Forecasting algorithm using an improved genetic algorithm based on backpropagation neural network model (개선된 유전자 역전파 신경망에 기반한 예측 알고리즘)

  • Yoon, YeoChang;Jo, Na Rae;Lee, Sung Duck
    • Journal of the Korean Data and Information Science Society
    • /
    • v.28 no.6
    • /
    • pp.1327-1336
    • /
    • 2017
  • In this study, the problems in the short term stock market forecasting are analyzed and the feasibility of the ARIMA method and the backpropagation neural network is discussed. Neural network and genetic algorithm in short term stock forecasting is also examined. Since the backpropagation algorithm often falls into the local minima trap, we optimized the backpropagation neural network and established a genetic algorithm based on backpropagation neural network for forecasting model in order to achieve high forecasting accuracy. The experiments adopted the korea composite stock price index series to make prediction and provided corresponding error analysis. The results show that the genetic algorithm based on backpropagation neural network model proposed in this study has a significant improvement in stock price index series forecasting accuracy.

The Performance Improvement of Backpropagation Algorithm using the Gain Variable of Activation Function (활성화 함수의 이득 가변화를 이용한 역전파 알고리즘의 성능개선)

  • Chung, Sung-Boo;Lee, Hyun-Kwan;Eom, Ki-Hwan
    • Journal of the Institute of Electronics Engineers of Korea CI
    • /
    • v.38 no.6
    • /
    • pp.26-37
    • /
    • 2001
  • In order to improve the several problems of the general backpropagation, we propose a method using a fuzzy logic system for automatic tuning of the activation function gain in the backpropagation. First, we researched that the changing of the gain of sigmoid function is equivalent to changing the learning rate, the weights, and the biases. The inputs of the fuzzy logic system were the sensitivity of error respect to the last layer and the mean sensitivity of error respect to the hidden layer, and the output was the gain of the sigmoid function. In order to verify the effectiveness of the proposed method, we performed simulations on the parity problem, function approximation, and pattern recognition. The results show that the proposed method has considerably improved the performance compared to the general backpropagation.

  • PDF

Ray backpropagation-based ship localization (음선 역전파 기반의 선박 위치 추정)

  • Cho, Seong-il;Byun, Gihoon;Byun, Sung-Hoon;Kim, J.S.
    • The Journal of the Acoustical Society of Korea
    • /
    • v.37 no.4
    • /
    • pp.196-205
    • /
    • 2018
  • This paper presents an algorithm for passive localization of a ship by applying the ray back-propagation technique to the ship radiation noise data. The previous method [S. H. Abadi, D. Rouseff and D. R. Dowling, J. Acoust. Soc. Am. 131, 2599-2610 (2012)] estimates the position of a sound source in the near-field environment with no array tilt by using the RBD (Ray-based Blind Deconvolution) and ray back-propagation techniques. However, when there exists an array tilt, the above method leads to a large position estimation error. In order to overcome the problem, this study proposes an algorithm that estimates the position of a sound source by correcting the array tilt using the RBD and ray back-propagation techniques. The proposed algorithm was verified by using the ship noise of SAVEX15 (Shallow-water Acoustic Variability EXperiment in 2015) experimental data.

Realization for FF-PID Controlling System with Backward Propagation Algorithm (역전파 알고리즘을 이용한 FF-PID 제어 시스템 구현)

  • Ryu, Jae-Hoon;Hur, Chang-Wu;Ryu, Kwang-Ryol
    • Proceedings of the Korean Institute of Information and Commucation Sciences Conference
    • /
    • 2007.06a
    • /
    • pp.171-174
    • /
    • 2007
  • A realization for FF-PID(Feed-Forward PID) controlling system with backward propagation algorithm and image pattern recognition is presented in this paper. The pattern recognition used backward propagation of nervous network is teaming. FF-PID is enhanced the response characteristic of moving image by using the controlling value which is output error for the target value of nervous system. In conclusion of experiment, the system is shown that the response is worked as 2.7sec that is enhanced round 15% in comparison with general difference image algorithm. The system is able to control a moving object with effect.

  • PDF

On the enhancement of the learning efficiency of the adaptive back propagation neural network using the generating and adding the hidden layer node (은닉층 노드의 생성추가를 이용한 적응 역전파 신경회로망의 학습능률 향상에 관한 연구)

  • Kim, Eun-Won;Hong, Bong-Wha
    • Journal of the Institute of Electronics Engineers of Korea TE
    • /
    • v.39 no.2
    • /
    • pp.66-75
    • /
    • 2002
  • This paper presents an adaptive back propagation algorithm that its able to enhancement for the learning efficiency with updating the learning parameter and varies the number of hidden layer node by the generated error, adaptively. This algorithm is expected to escaping from the local minimum and make the best environment for the convergence of the back propagation neural network. On the simulation tested this algorithm on three learning pattern. One was exclusive-OR learning and the another was 3-parity problem and 7${\times}$5 dot alphabetic font learning. In result that the probability of becoming trapped in local minimum was reduce. Furthermore, the neural network enhanced to learning efficient about 17.6%~64.7% for the existed back propagation. 

Learning of Neural Network Using Tabu Search Method with Random Moves (Random 탐색법과 조합된 Tabu 탐색법을 이용한 신경회로망의 학습)

  • 신광재;양보석;최원호
    • Proceedings of the Korean Society for Noise and Vibration Engineering Conference
    • /
    • 1994.10a
    • /
    • pp.121-125
    • /
    • 1994
  • 본 논문에서는 Hu에 의해 고안된 random 탐색법과 조합된 tabu 탐색법(radnom tabu 탐색법)을 결합계수를 구하는 학습 알고리즘으로 직접 사용하여 국소적 최적해에 수렴하는 것을 방지하고, 수렴정도를 개선하는 새로운 방법을 제안한다. 이 방법을 배타적 논리합 문제에 적용하여 역전파법 및 tabu 탐색법을 이용한 오차역전파법과 비교한다. 그리고, 각 파라메터가 오차함수의 수렴에 미치는 영향을 조사한다.

  • PDF

Speech Enhancement using the Neural Network Filter (신경망필터를 이용한 음질향상)

  • 김종우;공성곤
    • Proceedings of the Korean Institute of Intelligent Systems Conference
    • /
    • 2000.05a
    • /
    • pp.102-105
    • /
    • 2000
  • 본 논문에서는 잡음환경에서의 음성신호복원(Speech Enhancement) 시스템 구현을 목적으로 한다 이를 위한 적응필터로서 LMS(Least Mean Square)알고리즘 FIR필터를 제안한다. 또 정밀 필터로서 신경망 필터를 제안한다. 잡음환경에서의 음성신호 복원 시스템은 잡음에 의해 왜곡된 음성신호에서 잡음성분만을 제거함으로써 음성신호를 복원하는 시스템이다. 일반적으로 잡음은 시변특성과, 비선형적인 전달특성을 갖는다. 그러므로 파라미터가 고정된 필터로는 제어하기가 힘들다. 이러한 이유로 본 논문에서는 LMS알고리즘 적응필터를 적용한다. 신경망 필터는 오차 역전파 학습 알고리즘에 의해 오차를 최소화하는 방향으로 필터의 파라미터를 수정한다. 제안한 필터로 잡음환경에서의 음성신호복원 시스템을 구성하고, 실험을 통해 필터의 성능을 확인한다.

  • PDF

Minimizing in Tracking Error Using Neural Network for Free-ranging Automated Guided Vehicle (신경회로망을 이용한 자율주행 반송차의 경로추종오차의 최소화)

  • 정인철;곽윤근;김수현;이두용;김동규
    • Proceedings of the Korean Institute of Intelligent Systems Conference
    • /
    • 1998.10a
    • /
    • pp.330-340
    • /
    • 1998
  • 자율주행 반송차가 주어진 경로를 따라 주행 할 때 주행면의 불균일성과 같은 외란요인과 자율반송차 시스템 자체의 비선형성 등으로 인하여 원치 않는 경로추종오차가 발생하게 되는데 본 연구에서는 이러한 경로추종오차를 최소화하기 위해서 신경회로망을 이용한 경로추종 오차 보상방법을 제안한다. 본 방법에서는 신경회로망을 통하여 조향각 보상량을 제공하므로써 경로추종오차를 보상한다. 신경망은 다층 퍼셉트론을 채용하였으며 역전파 알고리즘의 최급강하규칙(Gradient descent rule)을 이용하여 학습을 수행하였다. 본 제안에서는 학습오차를 경로추종오차로부터 정의하므로써 경로추종오차가 최소화되록 신경회로망을 학습시켰다. 제안된 방법의 타당성은 다양한 경로에 대한 모의실험 및 실제 실험을 통하여 검증하였다.

  • PDF

Reliability Evaluation of STD-11 Cutting Surface on the Machined Condition using the Back-Propagation Neural Network (역전파 신경회로망을 이용한 가공조건에 따른 STD-11 절단면의 신뢰성 평가)

  • Kim Sun-Jin;Sung Back-Sub;Cho Gyu-Jae;Kim Ha-Sik;Ban Jae-Sam
    • Transactions of the Korean Society of Machine Tool Engineers
    • /
    • v.13 no.5
    • /
    • pp.7-15
    • /
    • 2004
  • The purpose of this study was to present the method to choose the optimum machining condition for the wire EDM. This was completed by examining the ever-changing quality of the material and by improving the function of the wire electric discharge machine. Precision metal mold products and the unmanned wire electric discharge machining system were used and then applied in industrial fields. This experiment uses the wire electric discharge machine with brass wire electrode of 0.25mm. To measure the precision of the machining surface, average values are obtained from 3 samples of measures of center-line average roughness by using a third dimension gauge and a stylus surface roughness gauge.