On the Configuration of initial weight value for the Adaptive back propagation neural network

적응 역 전파 신경회로망의 초기 연철강도 설정에 관한 연구

This paper presents an adaptive back propagation algorithm that update the learning parameter by the generated error, adaptively and configuration of the range for the initial connecting weight according to the different maximum target value from minimum target value. This algorithm is expected to escaping from the local minimum and make the best environment for the convergence. On the simulation tested this algorithm on three learning pattern. The first was 3-parity problem learning, the second was $7{\times}5$ dot alphabetic font learning and the third was handwritten primitive strokes learning. In three examples, the probability of becoming trapped in local minimum was reduce. Furthermore, in the alphabetic font and handwritten primitive strokes learning, the neural network enhanced to loaming efficient about 27%~57.2% for the standard back propagation(SBP).

본 논문에서는 역 전파 신경회로망의 학습파라미터를 발생한 오차에 따라서 유동성 있게 갱신할 수 있고 이 학습알고리즘의 효율을 향상시킬 수 있는 초기연결강도 설정 방법을 제안하였다. 제안한 알고리즘은 국소 점을 벗어날 수 있는 것으로 기대되고, 수렴환경에 알맞은 초기 연결강도 발생을 설정할 수 있다. 모의실험에서는 세 가지의 학습패턴을 가지고 실험하였다. 첫 번째 3-패리티 문제에 대한 학습을 수행하였고, 두 번째는 $7{\times}5$ 알파벳 영문자 폰트에 대한 학습이고 세 번째는 필기체 숫자 및 한글의 기본 획에 적용하였다. 모의실험결과, 제안된 방법은 기존의 표준 역 전파 알고리즘에 비하여 약 27%~57.2%정도 학습효율이 향상됨을 고찰하였다