• 제목/요약/키워드: Error Backpropagation Learning Algorithm

검색결과 60건 처리시간 0.028초

도립진자 시스템의 뉴로-퍼지 제어에 관한 연구 (A Study on the Neuro-Fuzzy Control for an Inverted Pendulum System)

  • 소명옥;류길수
    • Journal of Advanced Marine Engineering and Technology
    • /
    • 제20권4호
    • /
    • pp.11-19
    • /
    • 1996
  • Recently, fuzzy and neural network techniques have been successfully applied to control of complex and ill-defined system in a wide variety of areas, such as robot, water purification, automatic train operation system and automatic container crane operation system, etc. In this paper, we present a neuro-fuzzy controller which unifies both fuzzy logic and multi-layered feedforward neural networks. Fuzzy logic provides a means for converting linguistic control knowledge into control actions. On the other hand, feedforward neural networks provide salient features, such as learning and parallelism. In the proposed neuro-fuzzy controller, the parameters of membership functions in the antecedent part of fuzzy inference rules are identified by using the error backpropagation algorithm as a learning rule, while the coefficients of the linear combination of input variables in the consequent part are determined by using the least square estimation method. Finally, the effectiveness of the proposed controller is verified through computer simulation of an inverted pendulum system.

  • PDF

신경회로망을 이용한 복합재료 원통쉘의 하중특성 추론에 관한 연구 (A Study on the Prediction of the Loaded Location of the Composite Laminated Shell by Using Neural Networks)

  • 명창문;이영신;류충현
    • Composites Research
    • /
    • 제14권5호
    • /
    • pp.26-37
    • /
    • 2001
  • 본 연구에서는 복합재료 원통쉘의 구조해석을 통하여 구해진 원통쉘 경사면의 10등분 등간격 9지점의 변형율을 신경회로망의 입력패턴으로 활용하여 원통쉘에 가해진 중격하중 특성을 동시에 추론하였다. 적용된 신경회로망은 Momentum Backpropagation 알고리즘이며, 모멘텀 계수 및 학습율이 학습도에 따라 가변적으로 조정될 수 있도록 프로그램을 개발 적용하였다 Backpropagation 신경회로망의 은닉층은 1층에서 3층까지 별도 프로그램을 개발하여 충격하중 특성추론 학습을 시도하였다. 개발된 신경회로망 프로그램을 적용하여 원통쉘의 충격하중 특성추론 정확도는 1%이내로 학습에 성공하였다. 본 연구 결과 신경회로망을 이용한 복합재료 원통쉘의 충격하중 특성을 추론할 수 있는 역문제 해석이 가능해졌다.

  • PDF

다층 신경회로망과 가우시안 포텐샬 함수 네트워크의 구조적 결합을 이용한 효율적인 학습 방법 (Efficient Learning Algorithm using Structural Hybrid of Multilayer Neural Networks and Gaussian Potential Function Networks)

  • 박상봉;박래정;박철훈
    • 한국통신학회논문지
    • /
    • 제19권12호
    • /
    • pp.2418-2425
    • /
    • 1994
  • 기울기를 따라가는 방식(gradient descent method)에 바탕을 둔 오류 역전파(EBP : Error Back Propagation) 방법이 가장 널리 사용되는 신경회로망의 학습 방법에서 문제가 되는 지역 최소값(local minima), 느린 학습 시간, 신경망 구조(structure), 그리고 초기의 연결 강도(interconnection weight) 등을 기존의 다층 신경 회로망에 지역적인 학습 능력을 가진 가우시안 포텔샵 네트워크(GPFN : Gaussian Potential Function Networks)를 병렬적으로 부가하여 해결함으로써 지역화된 오류 학습 패턴들이 나타내는 문제에 대하여 학습 성능을 향상시킬 수 잇는 새로운 학습 방법을 제시한다. 함수 근사화 문제에서 기존의 EBP 학습 방법과의 비교 실험으로 제안된 학습 방법이 보다 개선된 일반화 능력과 빠른 학습 속도를 가짐을 보여 그 효율성을 입증한다.

  • PDF

패턴분류에서 학습방법 개선 (Improvement of learning method in pattern classification)

  • 김명찬;최종호
    • 제어로봇시스템학회논문지
    • /
    • 제3권6호
    • /
    • pp.594-601
    • /
    • 1997
  • A new algorithm is proposed for training the multilayer perceptrion(MLP) in pattern classification problems to accelerate the learning speed. It is shown that the sigmoid activation function of the output node can have deterimental effect on the performance of learning. To overcome this detrimental effect and to use the information fully in supervised learning, an objective function for binary modes is proposed. This objective function is composed with two new output activation functions which are selectively used depending on desired values of training patterns. The effect of the objective function is analyzed and a training algorithm is proposed based on this. Its performance is tested in several examples. Simulation results show that the performance of the proposed method is better than that of the conventional error back propagation (EBP) method.

  • PDF

CPU 기반의 딥러닝 컨볼루션 신경망을 이용한 이륜 차량 번호판 인식 알고리즘 (Twowheeled Motor Vehicle License Plate Recognition Algorithm using CPU based Deep Learning Convolutional Neural Network)

  • 김진호
    • 디지털산업정보학회논문지
    • /
    • 제19권4호
    • /
    • pp.127-136
    • /
    • 2023
  • Many research results on the traffic enforcement of illegal driving of twowheeled motor vehicles using license plate recognition are introduced. Deep learning convolutional neural networks can be used for character and word recognition of license plates because of better generalization capability compared to traditional Backpropagation neural networks. In the plates of twowheeled motor vehicles, the interdependent government and city words are included. If we implement the mutually independent word recognizers using error correction rules for two word recognition results, efficient license plate recognition results can be derived. The CPU based convolutional neural network without library under real time processing has an advantage of low cost real application compared to GPU based convolutional neural network with library. In this paper twowheeled motor vehicle license plate recognition algorithm is introduced using CPU based deep-learning convolutional neural network. The experimental results show that the proposed plate recognizer has 96.2% success rate for outdoor twowheeled motor vehicle images in real time.

오류 역전도 알고리즘의 학습속도 향상기법 (An Enhancement of Learning Speed of the Error - Backpropagation Algorithm)

  • 심범식;정의용;윤충화;강경식
    • 한국정보처리학회논문지
    • /
    • 제4권7호
    • /
    • pp.1759-1769
    • /
    • 1997
  • 다층신경회로망의 학습방법인 오류역전도 알고리즘은 연관기억장치, 음성인식, 패턴인식, 로보틱스등과 같은 다양한 응용분야에 널리 사용되고 있다. 그럼에도 불구하고 계속 많은 논문들이 역전도 알고리즘에 대해 발표되고 있는 실정이다. 이러한 연구 동향의 주된 이유는, 뉴런 갯수와 학습 패턴의 갯수가 큰 경우에 역전도 알고리즘의 학습속도가 상당히 느리다는 사실때문이다. 본 연구에서는 가변학습율, 가변모멘텀율, 그리고 시그모이드 함수의 가변기울기를 이용한 새로운 학습속도 가속기법을 개발하였다. 학습이 수행되는 도중에, 이러한 파라메터들은 전체 오류의 변화량에 따라 연속적으로 조정되며, 제안된 기법은 기존의 역전도 알고리즘에 비해 획기적으로 학습시간을 단축시키는 결과를 보였다. 제안된 기법의 효율성을 입증하기 위하여, 처음에는 난수발생기로 생성한 이진 데이터를 이용하여 에포크(epoch) 횟수를 비교할 때 훌륭한 속도 향상을 보였으며, 또한, 기계학습(machine learning)의 벤치마크 학습자료로 많이 사용되는 이진 Monk's data, 4, 5, 6, 7비트 패리티 검사 문제와 실수 Iris data에도 적용하였다.

  • PDF

신경 회로망을 이용한 유연한 축을 갖는 5절 링크 로봇 메니퓰레이터의 모델링 (Modeling of a 5-Bar Linkage Robot Manipulator with Joint Flexibility Using Neural Network)

  • 이성범;김상우;오세영;이상훈
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 2000년도 제15차 학술회의논문집
    • /
    • pp.431-431
    • /
    • 2000
  • The modeling of 5-bar linkage robot manipulator dynamics by means of a mathematical and neural architecture is presented. Such a model is applicable to the design of a feedforward controller or adjustment of controller parameters. The inverse model consists of two parts: a mathematical part and a compensation part. In the mathematical part, the subsystems of a 5-bar linkage robot manipulator are constructed by applying Kawato's Feedback-Error-Learning method, and trained by given training data. In the compensation part, MLP backpropagation algorithm is used to compensate the unmodeled dynamics. The forward model is realized from the inverse model using the inverse of inertia matrix and the compensation torque is decoupled in the input torque of the forward model. This scheme can use tile mathematical knowledge of the robot manipulator and analogize the robot characteristics. It is shown that the model is reasonable to be used for design and initial gain tuning of a controller.

  • PDF

대표 패턴을 사용한 가변 기울기 역전도 알고리즘의 점진적 학습방법 (The Incremental Learning Method of Variable Slope Backpropagation Algorithm Using Representative Pattern)

  • 심범식;윤충화
    • 한국컴퓨터정보학회논문지
    • /
    • 제3권1호
    • /
    • pp.95-112
    • /
    • 1998
  • 역전도 알고리즘은 연관 기억장치, 음성 인식, 패턴인식, 로보틱스등 여러 응용 분야에 다양하게 사용되고 있다. 그러나 새로운 학습 패턴을 추가적으로 학습시키려면 이전에학습했던 모든 패턴과 추가되는 패턴을 갖고 처음부터 새로운 학습을 수행하여야 한다. 이는 패턴의 개수가 점차 늘어날수록 학습에 소요되는 시간이 기하 급수적으로 길어지는 결과를 초래하게 된다. 따라서 주기적으로 다량의 데이터를 추가로 학습을 할 경우에 이러한 점진적 학습은 반드시 해결해야 할 문제점으로 간주된다. 본 논문에서는 기존의 신경망 구조는 그대로 유지하면서 대표 패턴을 추출해 추가 학습을 수행하는 방법을 제안하고 제안된 기법의 효율성을 위해 기계 학습 분야의 벤치마크로 많이 사용되는 Monk's data와 Iris data에 적용해 보았다.

  • PDF

유전 알고리즘을 이용한 퍼지신경망의 시계열 예측에 관한 연구 (A Study on the Prediction of the Nonlinear Chaotic Time Series Using Genetic Algorithm based Fuzzy Neural Network)

  • 박인규
    • 한국인터넷방송통신학회논문지
    • /
    • 제11권4호
    • /
    • pp.91-97
    • /
    • 2011
  • 본 논문에서는 Mackey-Glass시계열의 예측에서 유전자알고리즘을 이용하는 구조적인 동정과 뉴로퍼지에 의한 파라미터 동정의 학습방법과 하이브리드 시스템을 제안하였다. 본 방법은 두 가지로 구성되었다. 하나는 입력공간에 대한 분할을 통하여 유전 알고리즘을 이용하여 퍼지 규칙베이스를 구축하고 다른 하나는 이 규칙베이스를 토대로 기울기 최하강법을 이용하여 제어규칙의 변수에 대한 파라미터 동정이다. 제안된 방법을 성능을 검증하기 위하여 입력의 패턴을 시간간격에 따라서 x(t-3), x(t-6)과 x(t-9)의 세 가지로 구성하였다. 많은 시뮬레이션을 통하여 유전알고리즘에 의한 구조적인 동정으로 인하여 학습초기에 오차가 작은 것을 알 수 있었다. 표2에서와 같이 성능을 확인 할 수 있었다.

활성화 함수의 이득 가변화를 이용한 역전파 알고리즘의 성능개선 (The Performance Improvement of Backpropagation Algorithm using the Gain Variable of Activation Function)

  • 정성부;이현관;엄기환
    • 전자공학회논문지CI
    • /
    • 제38권6호
    • /
    • pp.26-37
    • /
    • 2001
  • 일반적인 역전파 알고리즘의 여러 가지 문제점들을 개선하기 위하여 활성화 함수의 이득을 퍼지 로직 시스템을 이용하여 자동 조절하는 방식을 제안하였다. 퍼지 로직 시스템을 구성하기 위하여 먼저 활성화 함수의 이득의 변화가 학습율, 연결강도 바이어스 등의 변화와 등가인 관계를 조사하였다 퍼지 로직 시스템의 입력은 마지막층에 대한 오차의 감도와 은닉층에 대한 오차의 평균 감도를 사용하였고, 출력은 활성화 함수의 이득을 사용하였다. 제안한 방식과 일반적인 역전파 알고리즘을 패리티 문제, 함수 근사화 문제 및 패턴 인식 문제등에 대하여 시뮬레이션하여 비교 검토한 결과 수렴비, 평균 학습 반복수, 정말도 및 새로운 입력 에 대한 원하는 오차 범위의 출력을 얻는 등의 성능이 개선됨을 알았다.

  • PDF