Neuro-Fuzzy Controller Based on Reinforcement Learning

강화 학습에 기반한 뉴로-퍼지 제어기

  • 박영철 (중앙대학교 전자전기공학부) ;
  • 심귀보 (중앙대학교 전자전기공학부)
  • Published : 2000.10.01

Abstract

In this paper, we propose a new neuro-fuzzy controller based on reinforcement learning. The proposed system is composed of neuro-fuzzy controller which decides the behaviors of an agent, and dynamic recurrent neural networks(DRNNs) which criticise the result of the behaviors. Neuro-fuzzy controller is learned by reinforcement learning. Also, DRNNs are evolved by genetic algorithms and make internal reinforcement signal based on external reinforcement signal from environments and internal states. This output(internal reinforcement signal) is used as a teaching signal of neuro-fuzzy controller and keeps the controller on learning. The proposed system will be applied to controller optimization and adaptation with unknown environment. In order to verifY the effectiveness of the proposed system, it is applied to collision avoidance of an autonomous mobile robot on computer simulation.

본 논문에서는 강화학습에 기반한 새로운 뉴로-퍼지 제어기를 제안한다. 시스템은 개체의 행동을 결정하는 뉴로-퍼지 제어기와 그 행동을 평가하는 동적 귀환 신경회로망으로 구성된다. 뉴로-퍼지 제어기의 후건부 소속함수는 강화학습을 한다. 한편, 유전자 알고리즘을 통하여 진화하는 동적 귀환 신경회로망은 환경으로부터 받는 외부 강화신호와 로봇의 상태로부터 내부강화 신호를 만들어낸다. 이 출력(내부강화신호)은 뉴로-퍼지 제어기의 교사신호로 사용되어 제어기가 학습을 지속하도록 만든다. 제안한 시스템은 미지의 환경에서 제어기의 최적화 및 적응에 사용할 수 있다. 제안한 알고리즘은 컴퓨터 시뮬레이션 상에서 자율 이동로봇의 장애물 회피에 적용하여 그 유효성을 확인한다.

Keywords

References

  1. The Handbook of Brain Theory and Neural Networks v.8 Reinforcement Learning A.G. Barto
  2. Neural Computation 1 Recurrent Back Propagation and the Dynamical Approach to Adaptive Neural Computation F.J. Pineda
  3. Proc. of Int. IROS 96 Behavior Coordination for a Mobile Robot Using Modular Reinforcement Learning E. Uchibe;M. Asada;K. Hosoda
  4. The Handbook of Brain Theory and Neural Networks v.4 Michael A. Aribs
  5. IEEE Trans. on Neural Networks v.3 no.5 Learning and Tuning Fuzzy Logic Controllers Through Reinforcements Hamid R. Berenij
  6. Neural Fuzzy Systems : A Neuro-Fuzzy Synergism to Intelligent Systems Chin Teng Lin;C.S. George Lee