Optimal Structure Design of Modular Neural Network

Recently, the modular network was proposed in a way to keep the size of the neural network small. The modular network solves the problem by splitting it into sub-problems. In this aspect, fuzzy systems act in a similar way. However, in a fuzzy system, there must be an expert rule which separates the input space. To overcome this, fuzzy-neural network has been used. However, the number of fuzzy rules grows exponentially as the number of input variables grow. In this paper, we would like to solve the size problem of neural networks using modular network with the hierarchic structure. In the hierarchic structure, the output of precedent module affects only the THEN part of the rule. Finally, the rules become shorter being compared to the rule of fuzzy-neural system. Also, the relations between input and output could be understood more easily in the Proposed modular network and that makes design easier.

모듈라 신경망의 최적구조 설계

신경회로망은 최근 복잡하고 정형화가 어려운 문제의 해결을 위해 지능적인 기법이 제안되고 있다. 모듈라 네트워크는 복잡한 문제를 부문제로 나누어 해결한다. 퍼지 시스템은 복잡한 문제를 작은 부문제로 나누어 해결한다는 점에서 모듈라 네트워크와 유사하다. 하지만 퍼지 시스템의 경우에도 입력공간을 전문가가 직접 분할하고, 룰을 만들어야 한다는 단점이 있다. 이러한 단점을 해결하기 위해 퍼지 뉴럴 네트워크가 제안되었다. 하지만 입력의 증가에 따른 규칙수가 지수적으로 증가하는 문제점을 안고 있다. 본 논문에서는 이런 문제점을 계층적 구조를 설계함으로서 해결하였다. 또한, 제안된 구조는 앞선 모듈의 출력이 후건부에만 기여하는 구조를 사용하였다. 제안된 구조를 사용함으로써 입출력관계가 더욱 이해하기 쉬워졌으며, 설계의 어려움을 해결했다. 또한 룰이 수가 작다는 장점이 있다.