모듈환된 웨이블렛 신경망의 적응 구조 설계

Adaptive Structure of Modular Wavelet Neural Network

  • 서재용 (한국기술교육대학교 정보기술공학부) ;
  • 김성주 (중앙대학교 전자전기공학부) ;
  • 조현찬 (한국기술교육대학교 정보기술공학부) ;
  • 전홍태 (중앙대학교 전자전기공학부)
  • 발행 : 2001.12.01

초록

본 논문에서는 F-투영과 기하학적인 성장 기준을 이용하여 모듈화된 웨이블렛 신경망(MWNN)의 적응구조를 설계하기 위한 성장과 소거 알고리즘을 제안한다. 기하학적인 성장 알고리즘은 지역 오차를 고려한 추정 에러 기준과 이미 존재하는 다른 웨이블렛 함수와 근사적인 직교성을 보장하도록 웨이블렛 함수를 배열할 수 있는 각도 기준으로 구성되어 있다. 이러한 기준은 망의 설계자가 설계자의 의도대로 MWNN을 구성할 수 있는 방법론을 제시한다. 제안한 성장 알고리즘은 모듈과 모듈의 크기를 성장시킨다. 또한 소거 알고리즘은 MWNN의 모듈에 사용되는 웨이블렛 신경망의 지역화 특성에 기인한 문제점을 극복하기 위해 구성된 MWNN에서 불필요한 모듈의 노드나 모듈을 제거한다. 제안한 MWNN의 적응 구조 설계 알고리즘을 1, 2차원 대상 함수에 적용하여 성능을 검증하였다.

In this paper, we propose an growing and pruning algorithm to design the adaptive structure of modular wavelet neural network(MWNN) with F-projection and geometric growing criterion. Geometric growing criterion consists of estimated error criterion considering local error and angel criterion which attempts to assign wavelet function that is nearly orthogonal to all other existing wavelet functions. There criteria provide a methodology that a network designer can constructs wavelet neural network according to one s intention. The proposed growing algorithm grows the module and the size of modules. Also, the pruning algorithm eliminates unnecessary node of module or module from constructed MWNN to overcome the problem due to localized characteristics of wavelet neural network which is used to modules of MWNN. We apply the proposed constructing algorithm of the adaptive structure of MWNN to approximation problems of 1-D function and 2-D function, and evaluate the effectiveness of the proposed algorithm.

키워드

참고문헌

  1. IEEE Trans.on Neural Networks v.6 Pruning Algorithm-A Survey R. Reed
  2. Journal of Artificial Neural Networks v.1 no.4 Structural Adaptation and Generalization in Supervised Feedforward Networks J. Ghosh;K. Tumer
  3. Advances in Neural Information Processing Systems v.9 Adaptively Growing Hierachical Mixtures of Experts J. Fristch;M. Finke;A. Waibel;M. I. Jordan(ed.);M. C. Mozer(ed.);T. Petsche(ed.)
  4. 대한전자공학회 2001 하계종합학술대회 논문집 v.24;3 no.1 F-투영법을 이용한 웨이블렛 신경망의 성장 알고리즘 서재용;김용택;조현찬;김용민;전홍태
  5. Advances in Neural Information Processing Systems v.8 Constructive Algorithms for Hierachical Mixture of Experts S. R. Waterhouse;A. J. Robinson;D. Touretzky(ed.);M. Mozer(ed.);M. Hasselmo(ed.)
  6. Neural Computation v.6 Adaptive Mixtures of Local Experts R. A. Jacobs;M. I. Jordan;s. J. Nowlan;G. E. Hinton
  7. 대한전자공학회 논문지 v.38 no.2 시간-주파수 분석을 이용한 모듈라 웨이블렛 신경망의 최적 구조 설계 서재용;김용택;조현찬;전홍태
  8. IEEE Trans.Sys. Man and Cybernetics v.23 no.2 Learning Piecewise Control Strategies in a Modular Neural Network Architecture R. A. Jacobs;Jordan M. I.
  9. Artificial Intelligence v.75 Learning of modular structured networks Masumi Ishikawa
  10. IEEE Trans.on Neural Networks v.10 no.1 Structurally Adaptive Modular Networks for Nonstationary Environments Viswanath Ramamuri;Joydeep Ghosh