Abstract
In trainir~ga back-propagation neural network, the learning speed of the network is greatly affected by its learning
rate. Most of off-line fashioned learning-rate selection methods, however, are empirical except for some
deterministic methods. It is very tedious and difficult to find a good learning rate using the empirical methods. The
deterministic methods cannot guarantee the quality of the quality of the learning rate. This paper proposes a new
learning-rate selection method. Our off-line fashioned method selects a good learning rate through stochastically
searching process using evolutionary programming. The simulation results show that the learning speed achieved by
our method is superior to that of deterministic and empirical methods.
신경망을 학습하는데 있어서, 망의 학습속도는 학습율에 의해 크게 좌우된다. 그러나 대부분의 정적인 학습율 선택 방법들은 몇몇 결정적인 방법들을 제외하곤 경험적인 방식에 의존해 왔다. 경험적인 방식을 사용하여 좋은 학습율을 찾아내는 것은 배우 지류하고 어려운 일이다. 또한 결정적인 방법들은 학습율의 질을 보장하지는 못한다. 본 논문에서 우리는 새로운 학습율 선택 방법을 제안한다. 우리의 방법은 진화 프로그래밍기법을 사용하여 통계적인 방식으로 접근함으로써 좋은 학습율을 찾을 수 있다. 모의 실험을 통하여 우리의 방식이 경험적인 방식들이나 결정적인 방식보다 우수함을 보였다.
