가중치 진동의 감소를 이용한 신경회로망의 학습속도 향상

Acceleration of Learning speed Neural Networks by Reducing Weight Oscillations

  • 임빈철 (한국과학기술원, 전기 및 전자공학과) ;
  • 박동조 (한국과학기술원, 전기 및 전자공학과)
  • 발행 : 1998.10.01

초록

본 논문에서는 신경회로망의 수렴속도를 높이기 위한 알고리즘을 제안한다. 전형적인 역전파 학습방식은 느린 수렴속도가 단점으로 제기되는데 이는 비용함수의 계곡부근에서 가중치의 궤적이 심한 진동현상을 보이기 때문이다. 이 문제를 해결하기 위해서 본 논문에서는 경사법에서 사용되는 갱신방향을 계곡의 진행방향을 이용하여 변경한다. 모의실험을 통하여 제안된 방법으로 가중치의 궤적에 나타나는 진동을 줄이고 수렴속도를 향상시킬 수 있음을 보인다.

키워드