• 제목/요약/키워드: back-propagation method

검색결과 648건 처리시간 0.024초

제한 최소 자승오차법 (The Constrained Least Mean Square Error Method)

  • 나희승;박영진
    • 소음진동
    • /
    • 제4권1호
    • /
    • pp.59-69
    • /
    • 1994
  • A new LMS algorithm titled constrained LMS' is proposed for problems with constrained structure. The conventional LMS algorithm can not be used because it destroys the constrained structures of the weights or parameters. Proposed method uses error-back propagation, which is popular in training neural networks, for error minimization. The illustrative examplesare shown to demonstrate the applicability of the proposed algorithm.

  • PDF

신경회로망과 실험계획법을 이용한 칩형상 예측 (Prediction of Chip Forms using Neural Network and Experimental Design Method)

  • 한성종;최진필;이상조
    • 한국정밀공학회지
    • /
    • 제20권11호
    • /
    • pp.64-70
    • /
    • 2003
  • This paper suggests a systematic methodology to predict chip forms using the experimental design technique and the neural network. Significant factors determined with ANOVA analysis are used as input variables of the neural network back-propagation algorithm. It has been shown that cutting conditions and cutting tool shapes have distinct effects on the chip forms, so chip breaking. Cutting tools are represented using the Z-map method, which differs from existing methods using some chip breaker parameters. After training the neural network with selected input variables, chip forms are predicted and compared with original chip forms obtained from experiments under same input conditions, showing that chip forms are same at all conditions. To verify the suggested model, one tool not used in training the model is chosen and input to the model. Under various cutting conditions, predicted chip forms agree well with those obtained from cutting experiments. The suggested method could reduce the cost and time significantly in designing cutting tools as well as replacing the“trial-and-error”design method.

A Modified Error Function to Improve the Error Back-Propagation Algorithm for Multi-Layer Perceptrons

  • Oh, Sang-Hoon;Lee, Young-Jik
    • ETRI Journal
    • /
    • 제17권1호
    • /
    • pp.11-22
    • /
    • 1995
  • This paper proposes a modified error function to improve the error back-propagation (EBP) algorithm for multi-Layer perceptrons (MLPs) which suffers from slow learning speed. It can also suppress over-specialization for training patterns that occurs in an algorithm based on a cross-entropy cost function which markedly reduces learning time. In the similar way as the cross-entropy function, our new function accelerates the learning speed of the EBP algorithm by allowing the output node of the MLP to generate a strong error signal when the output node is far from the desired value. Moreover, it prevents the overspecialization of learning for training patterns by letting the output node, whose value is close to the desired value, generate a weak error signal. In a simulation study to classify handwritten digits in the CEDAR [1] database, the proposed method attained 100% correct classification for the training patterns after only 50 sweeps of learning, while the original EBP attained only 98.8% after 500 sweeps. Also, our method shows mean-squared error of 0.627 for the test patterns, which is superior to the error 0.667 in the cross-entropy method. These results demonstrate that our new method excels others in learning speed as well as in generalization.

  • PDF

신경망과 유한요소법을 이용한 단조품의 초기 소재 형상 결정 (Determination of Initial Billet Size using The Artificial Neural Networks and The Finite Element Method for a Forged Product)

  • 김동진;고대철;김병민;최재찬
    • 소성∙가공
    • /
    • 제4권3호
    • /
    • pp.214-221
    • /
    • 1995
  • In the paper, we have proposed a new method to determine the initial billet for the forged products using a function approximation in the neural network. The architecture of neural network is a three-layer neural network and the back propagation algorithm is employed to train the network. By utilizing the ability of function approximation of a neural network, an optimal billet is determined by applying the nonlinear mathematical relationship between the aspect ratios in the initial billet and the final products. The amount of incomplete filling in the die is measured by the rigid-plastic finite element method. The neural network is trained with the initial billet aspect ratios and those of the unfilled volumes. After learning, the system is able to predict the filling regions which are exactly the same or slightly different to the results of finite element simulation. This new method is applied to find the optimal billet size for the plane strain rib-web product in cold forging. This would reduce the number of finite element simulation for determining the optimal billet size of forging product, further it is usefully adapted to physical modeling for the forging design.

  • PDF

패리티 판별을 위한 유전자 알고리즘을 사용한 신경회로망의 학습법 (Learning method of a Neural Network using Genetic Algorithm for 3 Bit Parity Discrimination)

  • 최재승;김정화
    • 전자공학회논문지CI
    • /
    • 제44권2호
    • /
    • pp.11-18
    • /
    • 2007
  • 신경회로망의 학습에 널리 사용되고 있는 오차역전파 알고리즘은 최급하강법을 기초로 하고 있기 때문에 초기값에 따라서는 극소값에 떨어지거나, 신경회로망을 학습시킬 때 중간층 유닛수를 얼마로 설정하는 등의 문제점이 있다. 따라서 이러한 문제점을 해결하기 위하여, 본 논문에서는 3비트 패리티 판별을 위하여 신경회로망의 학습에 교차법, 돌연변이법에 새로운 기법을 도입한 개량형 유전적 알고리즘을 제안한다. 본 논문에서는 세대차이, 중간층 유닛수의 차이, 집단의 개체수의 차이에 대하여 실험을 실시하여, 본 방식이 학습 속도의 면에서 유효하다는 것을 나타낸다.

보로노이 공간분류를 이용한 오류 역전파 신경망의 설계방법 (A Design Method for Error Backpropagation neural networks using Voronoi Diagram)

  • 김홍기
    • 한국지능시스템학회논문지
    • /
    • 제9권5호
    • /
    • pp.490-495
    • /
    • 1999
  • 본 논문에서는 보로노이 다이아그램을 이용하여 오류 역전파 신경망의 초기값을 결정할수 있는 VoD_EBP를 제안하였다. VoD_EBP는 초기 연결 가중치와 임계값을 공학적 계산방법으로 결정함으로써 기존의 EBP에서 자주 발생하는 학습 마비 현상을 피할수 있고 초기부터 빠른 속도로 학습이 진행되므로 학습횟수를 단축시킬수 있다, 또한 VoD_EBP는 은닉층의 노드 수를 보로노이 다각형으로 구분된 클러스터들의 개수로 정할 수있어 신경망 설계에 신뢰성을 향상시켰다. 제시된 VoD_EBP의 효율성을 입증하기 위해 간단한 실험으로 2차원 입력벡터를 갖는 XOR 문제와 3차원 패리티 코드 검출 문제에 대하여 적용하여 보았다. 그 결과 임의의 초기값으로 설정하였던 EBP보다 훨씬 빠르게 학습이 종료되었고, 지역 최소치에 빠져 학습이 진행되지 못하는 현상이 발생하지 않았다.

  • PDF

상태궤환과 신경망을 이용한 BLDD Motor의 간단한 강인 위치 제어 알고리즘 (Simple Robust Digital Position Control Algorithm of BLDD Motor using Neural Network with State Feedback)

  • 고종선;안태천
    • 전력전자학회논문지
    • /
    • 제3권3호
    • /
    • pp.214-221
    • /
    • 1998
  • 직접 구동용 브러시 없는 직류전동기(BRUSHLESS direct drive motor : BLDD motor)의 강인한 위치제어를 위해 신경망을 사용하여 접근하는 새로운 제어방식이 소개된다. 전향 신경망이 추가된 선형 2차 제어기는 AC서보의 객체지향 방법을 사용함으로서 대략적으로 선형화 되어지는 강인한 BLDD 모터 시스템을 얻기 위해 사용된다. 구동 상태의 온-라인 위상에서 학습되는 이 신경망은 전향신호와 오차 역 전파법(Back-Propagation Method)에 의해 구성된다. 총 노드의 수가 8개이기 때문에 이 시스템은 일반적인 마이크로 프로세서에 의해 쉽게 실현될 수 있다. 일반적인 작동중, 입출력 응답은 표본화되어지고 가중치는 매개변수 또는 부하 토크의 능한 변이를 적용하기 위해 각 표본주기에서 오차 역 전파법에 의해 학습된다. 그리고, 상태공간에서 시스템 분석은 상태 궤환 이득을 얻기 위해 체계적으로 실행했다. 또한, 강인성은 전반적인 시스템응답에 영향력을 주지 않고 얻어진다.

  • PDF

음선 역전파 기반의 선박 위치 추정 (Ray backpropagation-based ship localization)

  • 조성일;변기훈;변성훈;김재수
    • 한국음향학회지
    • /
    • 제37권4호
    • /
    • pp.196-205
    • /
    • 2018
  • 본 논문은 선박소음 데이터에 음선 역전파 기법을 적용하여 수동 선박 위치 추정 알고리듬을 제시한다. 기존의 방법 [S. H. Abadi, D. Rouseff and D. R. Dowling, J. Acoust. Soc. Am. 131, 2599-2610 (2012)]은 음선 기반 블라인드 디컨벌루션 및 음선 역전파 기법을 활용하여 배열의 기울기가 없는 근거리 환경에서 음원의 위치를 추정하였다. 하지만 위 방법은 배열의 기울기에 따른 위치 추정 오차가 크게 발생한다는 단점이 존재한다. 이를 극복하기 위해 본 논문에서는 음선 기반 블라인드 디컨벌루션 및 음선 역전파 기법을 사용하되, 배열의 기울기를 보정하여 음원의 위치를 추정할 수 있는 알고리듬을 제안한다. 제안된 알고리듬의 성능은 SAVEX15(Shallow-water Acoustic Variability EXperiment in 2015)해상 실험의 선박소음 데이터를 이용하여 검증하였다.

SAF를 위한 자동계획기법 구현 사례 (Case of Implementation of Automatic Planning for SAF)

  • 김정윤;최대회;이상진;정성훈
    • 한국시뮬레이션학회논문지
    • /
    • 제23권4호
    • /
    • pp.171-180
    • /
    • 2014
  • 본 연구는 모의개체로 하여금 동적행위연결을 통한 목적지향 행위계획을 수행토록 하는 기법의 구현사례로서 재계획기법을 소개한다. 기존의 행위처리기법, 특히 Semi-Automated Forces (SAF)에서는 모의 초기에 주어진 정해진 계획을 단순히 수행하는 수준에서 크게 벗어나지 않는다. 따라서 인간의 판단 같은 예측불허 상황이 발생하는 (Human in the loop) 모의에서 기존 기법은 상황대처에 미흡하다. 또한 그러한 기법은 돌발상황 대응을 위한 광범위한 경우의 수를 고려하다보면 행위조합 폭증 문제를 겪을 수 있으며, 그러한 조합이 상황에 부합하지 않을 수 있다. 재계획기법은 역전파(back-propagation)를 활용, 목표달성을 위해 필요한 행위들을 검색, 연계하는 자동계획기법 구현사례이다. 이 기법은 행위에 태그(pre/post-conditions)를 부여, 동적으로 행위들을 연결한다. 본 논문은 기법의 실효성 입증을 위해 국방분야의 연구과제에 적용된 성과를 소개한다.

다층퍼셉트론의 은닉노드 근사화를 이용한 개선된 오류역전파 학습 (Modified Error Back Propagation Algorithm using the Approximating of the Hidden Nodes in Multi-Layer Perceptron)

  • 곽영태;이영직;권오석
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제28권9호
    • /
    • pp.603-611
    • /
    • 2001
  • 본 논문은 학습 속도가 계층별 학습처럼 빠르며, 일반화 성능이 우수한 학습 방법을 제안한다. 제안한 방법은 최소 제곡법을 통해 구한 은닉층의 목표값을 이용하여 은닉층의 가중치를 조정하는 방법으로, 은닉층 경사 벡터의 크기가 작아 학습이 지연되는 것을 막을 수 있다. 필기체 숫자인식 문제를 대상으로 실험한 결과, 제안한 방법의 학습 속도는 오류역전파 학습과 수정된 오차 함수의 학습보다 빠르고, Ooyen의 방법과 계층별 학습과는 비슷했다. 또한, 일반화 성능은 은닉노드의 수에 관련없이 가장 좋은 결과를 얻었다. 결국, 제안한 방법은 계층별 학습의 학습 속도와 오류역전파 학습과 수정된 오차 함수의 일반화 성능을 장점으로 가지고 있음을 확인하였다.

  • PDF