The Study of Neural Networks Using Orthogonal Function System

직교함수를 사용한 신경회로망에 대한 연구

In this paper we proposed a heterogeneous hidden layer consisting of both sigmoid functions and RBFs(Radial Basis Function) in multi-layered neural networks. Focusing on the orthogonal relationship between the sigmoid function and its derivative, a derived RBF that is a derivative of the sigmoid function is used as the RBF in the neural network. so the proposed neural network is called ONN's feasibility Neural Network). Identification results using a nonlinear. function confirm both the ONN's feasibility and characteristics by comparing with those obtained using a conventional neural network which has sigmoid function or RBF in hidden layer.

본 논문에서는 시그모이드 함수와 시그모이드 함수의 도함수로 유도한 RBF의 직교관계에 착안하여 은닉충에 직교함수를 활성화함수로 갖는 신경회로망을 제안한다. 제안하는 신경회로망을 직교신경회로망(ONN)이라고 한다. 제안한 방식의 유용성을 확인하기 위하여 비선형 함수의 근사 시뮬레이션에 의해 사상능력을 검토하고, 각각의 단일함수만을 적용한 경우와 비교·검토한다.