Performance Analysis of Mulitilayer Neural Net Claddifiers Using Simulated Pattern-Generating Processes

모의 패턴생성 프로세스를 이용한 다단신경망분류기의 성능분석

  • Park, Dong-Seon (Dept. of Unformation & communication engineering Chonbuk National Univ)
  • Published : 1997.02.01

Abstract

We describe a random prcess model that prvides sets of patterms whth prcisely contrlolled within-class varia-bility and between-class distinctions.We used these pattems in a simulation study wity the back-propagation netwoek to chracterize its perfotmance as we varied the process-controlling parameters,the statistical differences between the processes,and the random noise on the patterns.Our results indicated that grneralized statistical difference between the processes genrating the patterns provided a good predictor of the difficulty of the clssi-fication problem. Also we analyzed the performance of the Bayes classifier whith the maximum-likeihood cri-terion and we compared the performance of the neural network to that of the Bayes classifier.We found that the performance of neural network was intermediate between that of the simulated and theoretical Bayes classifier.

본 논문에서는 클래스내부와 클래스간의를 확정하게 제어할 수 있는 랜덤 프로세스 모델을 제어하는 프리세스 내부의 파라메다들을 변화시키며, 프로세스간의 통계적인 차이와 랜덤 잡음을 변화시켜 학습을 위한 패턴들을 생성한다. 이 랜덤 프로세스 모델에서 생성된 패턴들을 이용하여 역전파알고리즘으로 학습된 다단 신경망의 성능 성능을 평가한다. 평가 실험결과는 패턴 분류문제에서 일반화된 통계적인 거리가 분류문제의 난이도에 대한 좋은 예측기가 되는 것을 보여 준다. 또한 본 논문에서는 다단신경망의 성능과 베이스패턴분류기의 성능을 비교하기 위하여 베이스분류기의 이론적인 성능분석과 모의실험을 통한 평가를 하였다. 다단신경망의 분류성능이 이론적인 성능과 실헝치와 매우 근사하며 그 두 성능 중간에 위치함을 발견하였다.

Keywords