한국지능정보시스템학회:학술대회논문집 (Proceedings of the Korea Inteligent Information System Society Conference)

한국지능정보시스템학회 (Korea Intelligent Information System Society)
권호 표지

퍼지 논리 시스템을 이용한 학습률 자동 조정 방법에 관한 연구

A Study on Auto-Tuning Method of learning Rate by Using Fuzzy Logic System

  • 주영호 (신라대학교 정보통신학과) ;
  • 김태영 (신라대학교 컴퓨터공학과) ;
  • 김광백 (신라대학교 컴퓨터공학과)
  • 발행 : 2003.05.01
PDF 다운로드
⟨ 이전 논문 다음 논문 ⟩

초록

본 논문에서는 역전파 알고리즘의 성능 개선을 위해 퍼지 논리 시스템을 이용한 학습률 자동 조정 방법을 제안한다. 제안된 방법은 목표값과 출력값의 차이에 대한 절대값이 $\varepsilon$ 보다 적거나 같으면 정확성으로 분류하고 크면 부정확성으로 분류한다. 정확성의 총 개수를 퍼지 논리 시스템에 적용하여 학습률과 모멘텀을 동적으로 조정한다. 제안된 방법을 XOR 문제와 숫자패턴 문제에 적용하여 실험한 결과, 기존의 역전파 알고리즘, 모멘텀 방식, Jacob의 delta-bar-delta 방식보다 성능이 개선됨을 확인하였다.

키워드