• 제목/요약/키워드: LDA(Linear Discriminant Analysis)

검색결과 170건 처리시간 0.031초

주성분 분석법과 선형판별 분석법을 이용한 최적화된 방사형 기저 함수 신경회로망 분류기의 설계 (Design of Optimized Radial Basis Function Neural Networks Classifier with the Aid of Principal Component Analysis and Linear Discriminant Analysis)

  • 김욱동;오성권
    • 한국지능시스템학회논문지
    • /
    • 제22권6호
    • /
    • pp.735-740
    • /
    • 2012
  • 본 연구에서는 주성분 분석법 및 선형 판별 분석법을 이용한 다항식 방사형 기저 함수 신경회로망 분류기의 설계 방법론을 소개한다. 주성분 분석법과 선형판별 분석법을 사용하여 주어진 데이터의 정보 손실을 최소화한 특징데이터를 생성하고 이를 다항식 방사형 기저함수 신경회로망의 입력데이터로 사용한다. 방사형 기저 함수 신경회로망의 은닉층은 FCM 클러스터링 알고리즘으로 구성되며 연결가중치는 1차 선형식을 사용하였다. 최적의 분류기 설계를 위해서 최근에 제안된 Artificial Bee Colony(ABC) 최적화 알고리즘을 사용하여 구조 및 파라미터를 동조하였다. ABC 알고리즘을 통해 주성분 분석법과 선형판별 분석법의 고유벡터의 수 및 FCM 클러스터링 알고리즘의 퍼지화 계수등의 파라미터를 동조한다. 제안된 분류기는 대표적인 Machine Learning(ML) 데이터를 사용하여 성능을 평가하며 기존 분류기와 성능을 비교한다.

A Study on the Face Recognition Using PCA Algorithm

  • 이준탁;곽려혜
    • 한국지능시스템학회논문지
    • /
    • 제17권2호
    • /
    • pp.252-258
    • /
    • 2007
  • In this paper, a face recognition algorithm system using Principal Component Analysis (PCA) is proposed. The algorithm recognized a person by comparing characteristics (features) of the face to those of known individuals of Intelligent Control Laboratory (ICONL) face database. Simulations are carried out to investigate the algorithm recognition performance, which classified the face as a face or non-face and then classified it as known or unknown one. Particularly, a Principal Components of Linear Discriminant Analysis (PCA + LDA) face recognition algorithm is also proposed in order to confirm the recognition performances and the adaptability of a proposed PCA for a certain specific system.

밝기, 명암도, 크기, 회전, 위치 변화에 강인한 얼굴 인식 (Face Recognition Robust to Brightness, Contrast, Scale, Rotation and Translation)

  • 이형지;정재호
    • 대한전자공학회논문지SP
    • /
    • 제40권6호
    • /
    • pp.149-156
    • /
    • 2003
  • 본 논문에서는 변형 Otsu 이진화 방법, Hu 모멘트 및 선형 판별 분석(linear discriminant analysis, LDA)를 기반으로 밝기, 명암도, 크기, 회전 위치 변화에 강인한 얼굴 인식 방법을 제안하고자 한다. 제안한 변형 Otsu 이진화를 사용하여 밝기 및 명암도에 불변한 이진 영상들을 만든다. 그런 후 생성된 얼굴 영상의 경계 영상 및 다단계 이진영상으로부터 총 17개의 Hu 모멘트를 계산한 다음 LDA 방법을 적용하여 최종 특징 벡터를 추출한다. 특히 제안하는 얼굴 인식 방법은 Hu 모멘트를 이용함으로써 크기, 회전 및 위치 변화에도 강인한 특성을 갖고 있다. Olivetti research laboratory (ORL) 데이터베이스와 AR 데이터베이스의 총 100명의 얼굴 영상에 대해 기존의 주요 성문 분석(Principal component analysis, PCA) 방법 및 PCA와 LDA를 결합한 얼굴 인식 방법과 비교 실험한 결과, 제안한 얼굴 인식 방법은 대체적으로 기존 방법보다 뛰어난 인식 성능을 보였다.

특징벡터를 사용한 얼굴 영상 인식 연구 (A Study on Face Image Recognition Using Feature Vectors)

  • 김진숙;강진숙;차의영
    • 한국정보통신학회논문지
    • /
    • 제9권4호
    • /
    • pp.897-904
    • /
    • 2005
  • 영상 인식은 영상획득이 용이하다는 것과 실생활에서 광범위하게 사용될 수 있다는 것으로 인해 활발하게 연구되고 있는 분야이다. 그러나 얼굴영상은 높은 차원의 영상공간으로 인해 이미지 처리가 쉽지 않다. 본 논문은 얼굴 영상 데이터의 차원을 특징적인 벡터로 표현하고 이러한 특징벡터를 통해 얼굴 영상을 인식하는 방법은 제안한다. 제안되는 알고리즘은 두 부분으로 나뉜다. 첫째로는 칼라 영상을 그레이 영상으로 변환할 때 RGB 세 개의 플레인의 평균이 아닌 세 플레인의 주성분을 사용하는 PCA(Principal Component Analysis)를 적용한다. PCA는 칼라 영상을 그레이 영상으로 변환하는 과정과 인식률을 높이기 위한 영상 대비 개선 과정이 동시에 수행한다. 두 번째로는 PCA와 LDA(Linear Discriminant Analysis) 방식을 하나의 과정으로 통합하는 개선된 통합 LDA 방법이다. 두 과정을 통합함으로서 간결한 알고리즘 표현이 가능하며 분리된 단계에서 있을 수 있는 정보 손실을 방지할 수 있다. 제안된 알고리즘은 잘 제어된 대용량 얼굴 데이터베이스에서 개인을 확인하는 분야에 적용되어 성능을 향상시키고 있음을 보여주었고, 추후에는 실시간 상황에서 특정 개인을 확인하는 분야의 기초 알고리즘으로 적용될 수 있다.

Feature Extraction and Statistical Pattern Recognition for Image Data using Wavelet Decomposition

  • Kim, Min-Soo;Baek, Jang-Sun
    • Communications for Statistical Applications and Methods
    • /
    • 제6권3호
    • /
    • pp.831-842
    • /
    • 1999
  • We propose a wavelet decomposition feature extraction method for the hand-written character recognition. Comparing the recognition rates of which methods with original image features and with selected features by the wavelet decomposition we study the characteristics of the proposed method. LDA(Linear Discriminant Analysis) QDA(Quadratic Discriminant Analysis) RDA(Regularized Discriminant Analysis) and NN(Neural network) are used for the calculation of recognition rates. 6000 hand-written numerals from CENPARMI at Concordia University are used for the experiment. We found that the set of significantly selected wavelet decomposed features generates higher recognition rate than the original image features.

  • PDF

PCA와 LDA를 결합한 데이터 전 처리와 다항식 기반 RBFNNs을 이용한 얼굴 인식 알고리즘 설계 (Design of Face Recognition algorithm Using PCA&LDA combined for Data Pre-Processing and Polynomial-based RBF Neural Networks)

  • 오성권;유성훈
    • 전기학회논문지
    • /
    • 제61권5호
    • /
    • pp.744-752
    • /
    • 2012
  • In this study, the Polynomial-based Radial Basis Function Neural Networks is proposed as an one of the recognition part of overall face recognition system that consists of two parts such as the preprocessing part and recognition part. The design methodology and procedure of the proposed pRBFNNs are presented to obtain the solution to high-dimensional pattern recognition problems. In data preprocessing part, Principal Component Analysis(PCA) which is generally used in face recognition, which is useful to express some classes using reduction, since it is effective to maintain the rate of recognition and to reduce the amount of data at the same time. However, because of there of the whole face image, it can not guarantee the detection rate about the change of viewpoint and whole image. Thus, to compensate for the defects, Linear Discriminant Analysis(LDA) is used to enhance the separation of different classes. In this paper, we combine the PCA&LDA algorithm and design the optimized pRBFNNs for recognition module. The proposed pRBFNNs architecture consists of three functional modules such as the condition part, the conclusion part, and the inference part as fuzzy rules formed in 'If-then' format. In the condition part of fuzzy rules, input space is partitioned with Fuzzy C-Means clustering. In the conclusion part of rules, the connection weight of pRBFNNs is represented as two kinds of polynomials such as constant, and linear. The coefficients of connection weight identified with back-propagation using gradient descent method. The output of the pRBFNNs model is obtained by fuzzy inference method in the inference part of fuzzy rules. The essential design parameters (including learning rate, momentum coefficient and fuzzification coefficient) of the networks are optimized by means of Differential Evolution. The proposed pRBFNNs are applied to face image(ex Yale, AT&T) datasets and then demonstrated from the viewpoint of the output performance and recognition rate.

HOS 특징 벡터를 이용한 장애 음성 분류 성능의 향상 (Performance Improvement of Classification Between Pathological and Normal Voice Using HOS Parameter)

  • 이지연;정상배;최흥식;한민수
    • 대한음성학회지:말소리
    • /
    • 제66호
    • /
    • pp.61-72
    • /
    • 2008
  • This paper proposes a method to improve pathological and normal voice classification performance by combining multiple features such as auditory-based and higher-order features. Their performances are measured by Gaussian mixture models (GMMs) and linear discriminant analysis (LDA). The combination of multiple features proposed by the frame-based LDA method is shown to be an effective method for pathological and normal voice classification, with a 87.0% classification rate. This is a noticeable improvement of 17.72% compared to the MFCC-based GMM algorithm in terms of error reduction.

  • PDF

얼굴 인식을 위한 개선된 $(2D)^2$ DLDA 알고리즘 (Improved $(2D)^2$ DLDA for Face Recognition)

  • 조동욱;장언동;김영길;김관동;안재형;김봉현;이세환
    • 한국통신학회논문지
    • /
    • 제31권10C호
    • /
    • pp.942-947
    • /
    • 2006
  • In this paper, a new feature representation technique called Improved 2-directional 2-dimensional direct linear discriminant analysis (Improved $(2D)^2$ DLDA) is proposed. In the case of face recognition, thesmall sample size problem and need for many coefficients are often encountered. In order to solve these problems, the proposed method uses the direct LDA and 2-directional image scatter matrix. Moreover the selection method of feature vector and the method of similarity measure are proposed. The ORL face database is used to evaluate the performance of the proposed method. The experimental results show that the proposed method obtains better recognition rate and requires lesser memory than the direct LDA.

PCA와 LDA를 이용한 실시간 얼굴 검출 (Real-time Face Detection based on PCA and LDA)

  • 홍은혜;고병철;변혜란
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2002년도 가을 학술발표논문집 Vol.29 No.2 (2)
    • /
    • pp.538-540
    • /
    • 2002
  • 본 논문에서는 실시간 카메라 입력 영상에 적합한 얼굴 검출을 위해 다양한 외부적 환경에 덜 민감한 새로운 알고리즘을 제안한다. 빛이나 조명의 영향에 의한 오류를 방지하기 위해 전처리 과정을 포함시키고 형판 정합방법의 단점을 개선하기 위해 얼굴 인식에서 주로 쓰이는 방법인 주성분 분석(PCA :Principal Component Analyses) 변환을 적용하고. 생성된 주성분(Principal Component)을 선형 판별 분석(LDA: Linear Discriminant Analysis)의 입력으로 사용하는 방법을 통해 얼굴을 검출하도록 하였다. 실험을 위해 실제 환경과 같은 6개 카테고리의 동영상을 중심으로 실험한 결과, 본 논문에서 제안하는 방법이 기존의 PCA만을 이용한 방법보다 좋은 성능을 보여줌을 알 수 있었다.

  • PDF

2D-MELPP: A two dimensional matrix exponential based extension of locality preserving projections for dimensional reduction

  • Xiong, Zixun;Wan, Minghua;Xue, Rui;Yang, Guowei
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제16권9호
    • /
    • pp.2991-3007
    • /
    • 2022
  • Two dimensional locality preserving projections (2D-LPP) is an improved algorithm of 2D image to solve the small sample size (SSS) problems which locality preserving projections (LPP) meets. It's able to find the low dimension manifold mapping that not only preserves local information but also detects manifold embedded in original data spaces. However, 2D-LPP is simple and elegant. So, inspired by the comparison experiments between two dimensional linear discriminant analysis (2D-LDA) and linear discriminant analysis (LDA) which indicated that matrix based methods don't always perform better even when training samples are limited, we surmise 2D-LPP may meet the same limitation as 2D-LDA and propose a novel matrix exponential method to enhance the performance of 2D-LPP. 2D-MELPP is equivalent to employing distance diffusion mapping to transform original images into a new space, and margins between labels are broadened, which is beneficial for solving classification problems. Nonetheless, the computational time complexity of 2D-MELPP is extremely high. In this paper, we replace some of matrix multiplications with multiple multiplications to save the memory cost and provide an efficient way for solving 2D-MELPP. We test it on public databases: random 3D data set, ORL, AR face database and Polyu Palmprint database and compare it with other 2D methods like 2D-LDA, 2D-LPP and 1D methods like LPP and exponential locality preserving projections (ELPP), finding it outperforms than others in recognition accuracy. We also compare different dimensions of projection vector and record the cost time on the ORL, AR face database and Polyu Palmprint database. The experiment results above proves that our advanced algorithm has a better performance on 3 independent public databases.