Journal of the Korean Institute of Intelligent Systems (한국지능시스템학회논문지)

Korean Institute of Intelligent Systems (한국지능시스템학회)
권호 표지
DOI QR코드

DOI QR Code

Feature Selection for Multiple K-Nearest Neighbor classifiers using GAVaPS

GAVaPS를 이용한 다수 K-Nearest Neighbor classifier들의 Feature 선택

  • 이희성 (연세대학교 전기전자공학부) ;
  • 이제헌 (연세대학교 전기전자공학부) ;
  • 김은태 (연세대학교 전기전자공학부)
  • Published : 2008.12.25
Download PDF
⟨ Previous Next ⟩

Abstract

This paper deals with the feature selection for multiple k-nearest neighbor (k-NN) classifiers using Genetic Algorithm with Varying reputation Size (GAVaPS). Because we use multiple k-NN classifiers, the feature selection problem for them is vary hard and has large search region. To solve this problem, we employ the GAVaPS which outperforms comparison with simple genetic algorithm (SGA). Further, we propose the efficient combining method for multiple k-NN classifiers using GAVaPS. Experiments are performed to demonstrate the efficiency of the proposed method.

본 논문은 개체 변환 유전자 알고리즘을 (GAVaPS) 이용하여 k-nearest neighbor (k-NN) 분류기에서 사용되는 특징들을 선정하는 방법을 제시한다. 우리는 다수의 k-NN 분류기들을 사용하기 때문에 사용되는 특징들을 선정하는 문제는 매우 탐색 영역이 크고 해결하기 어려운 문제이다. 따라서 우리는 효과적인 특징득의 선정을 위해 일반적인 유전자 알고리즘 (GA) 보다 효율적이라고 알려진 개체군 변환 유전자 알고리즘을 사용한다. 또한 다수 k-NN 분류기를 개체군 변환 유전자 알고리즘으로 효과적으로 결합하는 방법을 제시한다. 제안하는 알고리즘의 우수성을 여러 실험을 통해 보여준다.

Keywords

References

  1. 이희성, 'KNN규칙과 새로운 특징 가중치 알고리즘을 결합한 패턴 인식 시스템 설계,' 연세대학교석사학위논문, 2005
  2. 최병인, 이정훈, '영상 분할을 위한 퍼지 커널 K-nearest neighbor 알고리즘,' 퍼지 및 지능 시스템학회 논문지, vol. 15, no. 7, pp. 828-833, 2005 https://doi.org/10.5391/JKIIS.2005.15.7.828
  3. H. Lee, E. Kim, and M. Park, 'A genetic feature weighting scheme for pattern recognition,' Integrated Computer-Aided Engineering, vol. 14, no. 2, pp. 161-171, 2007 https://doi.org/10.3233/ICA-2007-14204
  4. L. Hansen, L. Liisberg, and P. Salamon, 'Ensemble methods for handwritten digit recognition,' in Proc. IEEE Workshop on Neural Networks for Signal Processing, pp. 333-342, 1992
  5. Z. Michalewicz, Genetic algorithm + data structures = evolution programs, Springer-Verlag, New York 1999
  6. 권기호, '개체군 변환 유전자 알고리즘의 새로운 수명 할당 방식에 관한 연구,' 전자공학회논문지, 제36권 C편, 제1호, pp. 66-72, 1999
  7. J. Arabas, Z. Michalewicz, and J. Mulawka 'GAVaPS - a genetic algorithm with varying population size,' in Proc. Evolutionary Computation conf. part of the IEEE World Congress on Computational Intelligence, 1994
  8. J. Hwang, K. Rou, P. Park, E. Kim, and H. Kang, 'PCA based Vehicle Detection for ACC,' in Proc. 8th Int. Conf. on Elect., Inform., and Comm., pp 98-101, Jun. 2006
  9. P. Gelhumeur, J. Hespanha, and D. Kriegman, 'Eigenfaces vs. Fisherfaces: recognition using class specific linear projection,' IEEE Trans. on Pattern Analysis and Machine Intelligence, vol. 19, no. 7, pp 711-720, 1997 https://doi.org/10.1109/34.598228