DOI QR코드

DOI QR Code

A Hybrid RBF Network based on Fuzzy Dynamic Learning Rate Control

퍼지 동적 학습률 제어 기반 하이브리드 RBF 네트워크

  • 김광백 (신라대학교 컴퓨터공학과) ;
  • 박충식 (영동대학교 스마트IT학과)
  • Received : 2014.08.05
  • Accepted : 2014.08.19
  • Published : 2014.09.30

Abstract

The FCM based hybrid RBF network is a heterogeneous learning network model that applies FCM algorithm between input and middle layer and applies Max_Min algorithm between middle layer and output. The Max-Min neural network uses winner nodes of the middle layer as input but shows inefficient learning in performance when the input vector consists of too many patterns. To overcome this problem, we propose a dynamic learning rate control based on fuzzy logic. The proposed method first classifies accurate/inaccurate class with respect to the difference between target value and output value with threshold and then fuzzy membership function and fuzzy decision logic is designed to control the learning rate dynamically. We apply this proposed RBF network to the character recognition problem and the efficacy of the proposed method is verified in the experiment.

FCM 기반하이브리드 RBF 네트워크는 서로 다른 학습 구조가 결합된 혼합형 모델로서, 입력층과 중간층의 학습 구조는 FCM 알고리즘을 적용하고, 중간층과 출력층 사이의 학습 구조는 Max_Min 알고리즘을 적용한다. 입력층과 중간층의 학습시 입력 벡터와 중간층의 노드 중에서 중심과 입력 벡터간의 가장 가까운 노드를 승자 노드로 선택하여 출력층으로 전달한다. 그리고 중간층과 출력층 사이의 학습구조인 Max_Min 신경망은 중간층의 승자 뉴런이 입력벡터로 적용된다. 그러나 많은 패턴이 입력벡터로 제시될 경우에는 학습성능이 저하되는 단점이 있다. 따라서 본 논문에서는 중간층과 출력층의 학습 구조인 Max_Min 알고리즘의 학습 성능을 향상시키기 위해 퍼지 논리 시스템을 이용한 학습률 자동 조정 방법을 제안한다. 제안된 방법은 목표값과 출력값의 차이에 대한 절대값이 0.1보다 적거나 같으면 정확성으로 분류하고 크면 부정확성으로 분류한다. 정확성의 총 개수를 퍼지 제어 시스템에 적용하여 학습률을 동적으로 조정한다. 제안된 방법의 학습 및 인식 성능을 평가하기 위해 컨테이너에서 추출한 숫자, 영문 식별자를 인식 및 성능평가 실험에 적용한 결과, 제안된 방법이 문자 패턴 인식에 효과적임을 확인할 수 있었다.

Keywords

References

  1. D. K. Arun, Computer Vision and Fuzzy-Neural Systems, Prentice Hall PTR, 2001.
  2. D. Q Zhang, S. C. Chen, "Clustering Incomplete Data Using Kernel-Based Fuzzy C-means Algorithm," Neural Processing Letters, Vol.18, Issue 3, pp.155-162, 2003. https://doi.org/10.1023/B:NEPL.0000011135.19145.1b
  3. L. S. Hsu, et als, "Fuzzy Neural-Logic System", Proceedings of IJCNN, Vol.1, pp.254-250, 1992.
  4. A. Blanco, N. Delgado, I. Requena, "Solving fuzzy relational equations by max-min neural networks," Proceedings of IEEE World Congress on Computational Intelligence, Vol. 3, pp.1737 - 1742, 1994.
  5. K. B. Kim, M. H. Kang, E. Y. Cha, "A Fuzzy Competitive Backpropagation using Nervous System," Proceedings of World Congress on Systems Simulation, pp.188-193, 1997.
  6. K. B. Kim, Y. H. Joo, J. H. Cho, "An Enhanced Fuzzy Neural Network, Lecture Notes in Computer Science, Vol. 3320, pp.176-179, 2005.
  7. K. B. Kim, S. Kim, "Hierarchical Recognition of English Calling Card by Using Multiresolution Images and Enhanced Neural Network," Lecture Notes in Computer Science, Vol. 3801, pp.785-792, 2005.
  8. K. B. Kim, A. S. Oh, Y. W. Woo, "Enhanced FCM-based Hybrid Network," INFORMATION-AN INTERNATIONAL INTERDISCIPLINARY JOURNAL, Vol.16, No. 2B, pp.1509-1515, 2013.
  9. K. B. Kim, C. K. Kim, "Performance Improvement of RBF Network using ART2 Algorithm and Fuzzy Logic System," Lecture Notes in Artificial Intelligence, LNAL 3339, Springer, pp.853-860, 2004.