Abstract
A RAM-based Neural Network(RNN) has the advantages of processing speed and hardware implementation. In spite of these advantages, it has a saturation problem, weakness of repeated learning and extract of a generalized pattern. To resolve these problems of RNN, the 3DNS model using cumulative multi discriminator was proposed. But that model does not solve the saturation problem yet. In this paper, we proposed a adaptive weight cumulative neural net(AWCNN) using the adaptive weight neuron (AWN) for solving the saturation problem. The proposed nets improved a recognition rate and the saturation problem of 3DNS. We experimented with the MNIST database of NIST without preprocessing. As a result of experimentations, the AWCNN was 1.5% higher than 3DNS in a recognition rate when all input patterns were used. The recognition rate using generalized patterns was similar to that using all input patterns.
RAM 기반 신경망은 빠른 처리 속도와 하드웨어 구현의 용이성 등의 장점을 가지고 있지만 반면에 메모리의 포화 문제, 반복학습, 일반화 패턴 추출의 어려움 등의 단점도 가지고 있다. 이런 단점을 극복하기 위해 누적 다중 판별자를 가지는 3차원 뉴로 시스템(3DNS) 등이 제안되었지만 메모리 포화 문제는 해결하지는 못하였다. 본 논문에서는 메모리 포화 문제를 해결하기 위하여 적응적 가중치를 가지는 AWN (Adaptive Weight Neuron)을 사용한 적응적 가중치 누적 신경망(AWCNN)을 제안한다. 제안된 모델은 AWN으로 3DNS을 개선하여 인식률과 메모리 포화 문제 해결을 향상하였다. 제안된 시스템의 평가는 전처리 과정 없이 NIST의 MNIST에서 제공하는 자료를 이용하여 실험하였다. AWCNN은 3DNS보다 1.5%이상의 향상된 인식률을 보였고 일반화 패턴을 이용한 인식에서는 모든 입력 패턴의 교육된 것과 비슷한 성능을 얻었다.
