DOI QR코드

DOI QR Code

Datawise Discriminant Analysis For Feature Extraction

자료별 분류분석(DDA)에 의한 특징추출

  • 박명수 (서울대학교 전기컴퓨터공학부) ;
  • 최진영 (서울대학교 전기컴퓨터공학부)
  • Published : 2009.02.25

Abstract

This paper presents a new feature extraction algorithm which can deal with the problems of linear discriminant analysis, widely used for linear dimensionality reduction. The scatter matrices included in linear discriminant analysis are defined by the distances between each datum and its class mean, and those between class means and mean of whole data. Use of these scatter matrices can cause computational problems and the limitation on the number of features. In addition, these definition assumes that the data distribution is unimodal and normal, for the cases not satisfying this assumption the appropriate features are not achieved. In this paper we define a new scatter matrix which is based on the differently weighted distances between individual data, and presents a feature extraction algorithm using this scatter matrix. With this new method. the mentioned problems of linear discriminant analysis can be avoided, and the features appropriate for discriminating data can be achieved. The performance of this new method is shown by experiments.

본 논문은 선형차원감소(Linear Dimensionality Reduction)을 위해 널리 이용되고 있는 특징추출 알고리듬인 선형판별분석(Linear Discriminant Analysis)의 문제점을 해결할 수 있는 새로운 특징추출 알고리듬을 제안한다. 선형판별분석에 포함되는 평균-자료 간 거리 및 평균-평균 간의 거리에 기반한 분산행렬은 역행렬 연산, 계수의 제한 등으로 인하여 계산상의 문제와 추출되는 특징의 수가 제한되는 한계를 가지고 있다. 또한 자료의 집단이 단일 모드의 정규 분포로부터 얻어진 것으로 가정되며 그렇지 않은 경우에 대해서는 적절한 결과를 얻을 수 없다. 본 논문에서는 자료-자료 간의 거리에 기반하고 적절하게 가중치가 추가된 새로운 행렬을 정의하였으며. 이에 기반하여 특징을 추출하는 방법을 제안하였다. 그럼으로써 앞서 선형판별분석의 여러 문제를 해결하고자 시도하였다. 제안된 방법의 성능을 실험을 통해 확인하였다.

Keywords

References

  1. I. T. Jolliffe, Principal Component Analysis, Springer-Verlag, 1986
  2. K. Fukunaga, Introduction to Statistical Pattern Recognition, Morgan-Kaufmann, 1990
  3. P. N. Belhumeur, J. P. Hespanha, D. J. Kriegman, 'Eigenfaces vs. fisherfaces: recognition using class specific linear projection,' IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 19, no. 7, pp. 711-720, 1997 https://doi.org/10.1109/34.598228
  4. H. Yu, J. Yang, 'A direct LDA algorithm for high dimensional data with application to face recognition,' Pattern Recognition, Vol.34, pp. 2067-2070, 2001 https://doi.org/10.1016/S0031-3203(00)00162-X
  5. M. Sugiyama, 'Dimensionality reduction of multimodal labeled data by local Fisher discriminant analysis,' Journal of Machine Learning Research, vol.8, pp.1027-1061, 2007