DOI QR코드

DOI QR Code

RAM 기반 신경망의 MRD 기법에 관한 연구

A Study on MRD Methods of A RAM-based Neural Net

  • 이동형 (한국폴리텍VII대학 울산캠퍼스 정보통신시스템과) ;
  • 김성진 (울산대학교 컴퓨터정보통신공학부) ;
  • 박상무 (영산대학교 교통시스템학과) ;
  • 이수동 (울산대학교 컴퓨터정보통신공학부) ;
  • 옥철영 (울산대학교 컴퓨터정보통신공학부)
  • 발행 : 2009.09.30

초록

다중 판별자를 가지는 RAM 기반 신경망은 단일판별자의 신경 망보다 다범주에서 더 우수한 성능 가진다. 다중 판별자를 가지는 경험유관이진신경망과 3차원 뉴로 시스템(3DNS)은 RAM 기반 이진신경망의 단점인 추가 및 반복 학습, 일반화 패턴 추출 등을 개선하였다. 다중 판별자를 사용하는 신경망의 범주 결정 방법은 MRD 기법으로, 각 판별자의 출력합들 중 최대응답 값으로 결정된다. 그러나 학습 패턴량이 증가하면 신경소자와 판별자의 메모리 포화 문제가 발생되며 이는 MRD의 변별력 저하로 전체 성능이 떨어지는 원인이 된다. 이를 해결하기 위해 기존 MRD의 성능을 향상시킬 수 있는 연구가 필요하다고 본다. 본 논문에서는 최적의 MRD 방법을 찾기 위해 사상 매칭, 누적 필터비 인형 응답 차 그리고 제안된 MRD 기법들을 이용한 최적 MRD 기법 등을 제안하였다. 제안된 MRD의 평가는 3DNS에 전처리 과정 없이 MNIST의 NIST에서 제공하는 숫자 자료를 이용하였다. 제안된 기법들은 기존 MRD보다 우수한 인식률과 입력 패턴의 변형 및 노이즈에 대하여 안정적인 결과를 보였다.

A RAM-based Neural Net(RBNN) which has multi-discriminators is more effective than RBNN with a discriminator. Experience Sensitive Cumulative Neural Network and 3-D Neuro System(3DNS) that accumulate the features point improved the performance of BNN, which were enabled to train additional and repeated patterns and extract a generalized pattern. In recognition process of Neural Net with multi-discriminator, the selection of class was decided by the value of MRD which calculates the accumulated sum of each class. But they had a saturation problem of its memory cells caused by learning volume increment. Therefore, the decision of MRD has a low performance because recognition rate is decreased by saturation. In this paper, we propose the method which improve the MRD ability. The method consists of the optimum MRD and the matching ratio prototype to generalized image, the cumulative filter ratio, the gap of prototype response MRD. We experimented the performance using NIST database of NIST without preprocessor, and compared this model with 3DNS. The proposed MRD method has more performance of recognition rate and more stable system for distortion of input pattern than 3DNS.

키워드

참고문헌

  1. Amari and Mori, "Introduction to Neural NetworK", Treecaps WS, 1991.
  2. I. Aleksander and H, Morton, "An Introduction to Neural computing", Chapman & Hall, 1990.
  3. Aleksander, I., Thomas, W. V., and Bowden, P. A. 1984 "WISARD a radical step forward in image recognition," Sensor Review, pp.120-124. July 1984. https://doi.org/10.1108/eb007637
  4. I. Aleksander and T. J. Stonham, "Guide to pattern recongnition using random-access memories", IEE Proceedings on Computers and Digital Techniques, Vol. 2, no. 1, pp.29-40, Feb. 1979.
  5. Aleksander, T. J. W. Clarke and A. P. Braga, Weightless Neural System : A Unified Approach to Their Analysis and Design, ICONIP '94 Tutoriel. Oct. 1994.
  6. W. W. Bledsoe and I. Browning, "Pattern Recognition and Reading by Machine", Proc. Eastern Joint Computer Conference, Boston, pp.232-255, December. 1959.
  7. W. W. Bledsoe and C.L. Bisson, "Improved memory matrices for the N-tuple pattern recognition method", I.R.E. Transactions Vol. EC-11, pp.414-415, 1962.
  8. Lee, S. D, "Dynamics of Feedback for Artificially Intelligent Pattern Recognition," MSc. Dissertation, BruneI Univ., England, 1981.
  9. 권영철, "경험 유관이진신경망", 울산대학교, 1995.
  10. 김성진, 권영철, 이수동, "RAM을 이용한 경험유관축적신경망모델", 대한전자공학회, 제 41권, CI편, 제 2호, 2004년 3월.
  11. 김성진, 이동형, 권영철, 이수동, 다중판별자를 가지는 동적 삼차원 뉴로 시스템, 한국정보과학회, 제 34권, 제 7호, 585-594쪽, 2007년 7월.
  12. Wickert, I. and Franica, F.M.G., "AUTOWISARD : Unsupervised modes for the WISARD", Proc of IWANN 2001, Granada, Spain, Lecture Notes in Computer Science, 2084, pp. 435-441, June 2001.
  13. Yann LeCun, NEC Research Institute, http://yann.lecun.com/exdb/mnist/index.html
  14. E. C. D. B. Filho, M. C. Fairhurst and D. L. Bisset, "Analysis of Saturation Problem in RAM-Based Neural Network.", Electronics Letters, Vol. 28, No. 4, pp. 345-346, February 1992. https://doi.org/10.1049/el:19920216
  15. 정낙우, 김병기, "새로운 순환신경망을 사용한 문자인식 성능의 향상 방안", 한국컴퓨터정보학회논문지, 제 1권, 제 1호, 129-138쪽, 1996년 8월.
  16. 김광백, 우영운, 조재현, "형태학적 특징과 퍼지 ART 알고리즘을 이용한 신 차량 번호판 인식에 관한 연구", 한국컴퓨터정보학회논문지, 제 13권, 제 6호, 273-278쪽, 2008년 11월.