• 제목/요약/키워드: Linear Discriminant Analysis (LDA) Algorithm

검색결과 48건 처리시간 0.02초

Relevance-Weighted $(2D)^2$LDA Image Projection Technique for Face Recognition

  • Sanayha, Waiyawut;Rangsanseri, Yuttapong
    • ETRI Journal
    • /
    • 제31권4호
    • /
    • pp.438-447
    • /
    • 2009
  • In this paper, a novel image projection technique for face recognition application is proposed which is based on linear discriminant analysis (LDA) combined with the relevance-weighted (RW) method. The projection is performed through 2-directional and 2-dimensional LDA, or $(2D)^2$LDA, which simultaneously works in row and column directions to solve the small sample size problem. Moreover, a weighted discriminant hyperplane is used in the between-class scatter matrix, and an RW method is used in the within-class scatter matrix to weigh the information to resolve confusable data in these classes. This technique is called the relevance-weighted $(2D)^2$LDA, or RW$(2D)^2$LDA, which is used for a more accurate discriminant decision than that produced by the conventional LDA or 2DLDA. The proposed technique has been successfully tested on four face databases. Experimental results indicate that the proposed RW$(2D)^2$LDA algorithm is more computationally efficient than the conventional algorithms because it has fewer features and faster times. It can also improve performance and has a maximum recognition rate of over 97%.

Fast algorithm for online linear discriminant analysis

  • Kazuyuki Hiraoka;Masashi Hamahira;Hidai, Ken-ichi;Hiroshi Mizoguchi;Taketoshi Mishima;Shuji Yoshizawa
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2000년도 ITC-CSCC -1
    • /
    • pp.274-277
    • /
    • 2000
  • Linear discriminant analysis (LDA) is a basic tool of pattern recognition, and it is used in extensive fields, e.g. face identification. However, LDA is poor at adaptability since it is a batch type algorithm. To overcome this, a new algorithm of online LDA is proposed in the present paper. It is experimentally shown that the new algorithm is about two times faster than the previously proposed algorithm.

  • PDF

A Study on the Face Recognition Using PCA Algorithm

  • 이준탁;곽려혜
    • 한국지능시스템학회논문지
    • /
    • 제17권2호
    • /
    • pp.252-258
    • /
    • 2007
  • In this paper, a face recognition algorithm system using Principal Component Analysis (PCA) is proposed. The algorithm recognized a person by comparing characteristics (features) of the face to those of known individuals of Intelligent Control Laboratory (ICONL) face database. Simulations are carried out to investigate the algorithm recognition performance, which classified the face as a face or non-face and then classified it as known or unknown one. Particularly, a Principal Components of Linear Discriminant Analysis (PCA + LDA) face recognition algorithm is also proposed in order to confirm the recognition performances and the adaptability of a proposed PCA for a certain specific system.

주성분 분석법과 선형판별 분석법을 이용한 최적화된 방사형 기저 함수 신경회로망 분류기의 설계 (Design of Optimized Radial Basis Function Neural Networks Classifier with the Aid of Principal Component Analysis and Linear Discriminant Analysis)

  • 김욱동;오성권
    • 한국지능시스템학회논문지
    • /
    • 제22권6호
    • /
    • pp.735-740
    • /
    • 2012
  • 본 연구에서는 주성분 분석법 및 선형 판별 분석법을 이용한 다항식 방사형 기저 함수 신경회로망 분류기의 설계 방법론을 소개한다. 주성분 분석법과 선형판별 분석법을 사용하여 주어진 데이터의 정보 손실을 최소화한 특징데이터를 생성하고 이를 다항식 방사형 기저함수 신경회로망의 입력데이터로 사용한다. 방사형 기저 함수 신경회로망의 은닉층은 FCM 클러스터링 알고리즘으로 구성되며 연결가중치는 1차 선형식을 사용하였다. 최적의 분류기 설계를 위해서 최근에 제안된 Artificial Bee Colony(ABC) 최적화 알고리즘을 사용하여 구조 및 파라미터를 동조하였다. ABC 알고리즘을 통해 주성분 분석법과 선형판별 분석법의 고유벡터의 수 및 FCM 클러스터링 알고리즘의 퍼지화 계수등의 파라미터를 동조한다. 제안된 분류기는 대표적인 Machine Learning(ML) 데이터를 사용하여 성능을 평가하며 기존 분류기와 성능을 비교한다.

특징벡터를 사용한 얼굴 영상 인식 연구 (A Study on Face Image Recognition Using Feature Vectors)

  • 김진숙;강진숙;차의영
    • 한국정보통신학회논문지
    • /
    • 제9권4호
    • /
    • pp.897-904
    • /
    • 2005
  • 영상 인식은 영상획득이 용이하다는 것과 실생활에서 광범위하게 사용될 수 있다는 것으로 인해 활발하게 연구되고 있는 분야이다. 그러나 얼굴영상은 높은 차원의 영상공간으로 인해 이미지 처리가 쉽지 않다. 본 논문은 얼굴 영상 데이터의 차원을 특징적인 벡터로 표현하고 이러한 특징벡터를 통해 얼굴 영상을 인식하는 방법은 제안한다. 제안되는 알고리즘은 두 부분으로 나뉜다. 첫째로는 칼라 영상을 그레이 영상으로 변환할 때 RGB 세 개의 플레인의 평균이 아닌 세 플레인의 주성분을 사용하는 PCA(Principal Component Analysis)를 적용한다. PCA는 칼라 영상을 그레이 영상으로 변환하는 과정과 인식률을 높이기 위한 영상 대비 개선 과정이 동시에 수행한다. 두 번째로는 PCA와 LDA(Linear Discriminant Analysis) 방식을 하나의 과정으로 통합하는 개선된 통합 LDA 방법이다. 두 과정을 통합함으로서 간결한 알고리즘 표현이 가능하며 분리된 단계에서 있을 수 있는 정보 손실을 방지할 수 있다. 제안된 알고리즘은 잘 제어된 대용량 얼굴 데이터베이스에서 개인을 확인하는 분야에 적용되어 성능을 향상시키고 있음을 보여주었고, 추후에는 실시간 상황에서 특정 개인을 확인하는 분야의 기초 알고리즘으로 적용될 수 있다.

색상정보와 PCA-LDA를 이용한 얼굴검출 (Face Detection using PCA-LDA and Color Information)

  • 이주승;한영환;홍승홍
    • 전기전자학회논문지
    • /
    • 제6권1호
    • /
    • pp.72-79
    • /
    • 2002
  • 본 논문에서는 복잡한 배경의 영상에서 얼굴을 검출하는 효과적인 알고리즘을 제안한다. 제안된 알고리즘은 색상정보와 PCA-LDA(Principal Component Analysis - Linear Discriminant Analysis)에 의하여 구해진 고유얼굴 (eigenface)을 이용한다. 색상정보는 다른 어떤 방법보다 얼굴을 검출하는데 유용하게 사용된다. 고유얼굴은 전체학습 얼굴들의 평균정보를 포함하고 있기 때문에 얼굴 후보영역에 대하여 얼굴인지를 판별할 수 있는 기능을 갖는다. 전체적인 과정은 두 단계로 이루어진다. 첫 번째 단계는 영상내에서 색상정보를 이용하여 살색영역의 1차 얼굴 후보영역을 찾아 후보영역의 위치와 기를 결정한다. 두 번째 단계는 1차 얼굴 후보영역에 대하여 PCA-LDA에 의한 얼굴의 유사성을 측정하여 얼굴인지 아닌지를 판별한다. 제안한 검출 방법을 사용한 실험 결과, 색상정보를 사용하여 1차 얼굴 후보영역의 크기와 위치를 결정함으로써 검출속도의 향상을 가져올 수 있었다. 또한 PCA-LDA에 의한 고유얼굴과의 비교를 통해 복잡한 매경이 있는 영상에서도 97%의 검출률을 얻을 수 있었다.

  • PDF

PCA와 LDA를 결합한 데이터 전 처리와 다항식 기반 RBFNNs을 이용한 얼굴 인식 알고리즘 설계 (Design of Face Recognition algorithm Using PCA&LDA combined for Data Pre-Processing and Polynomial-based RBF Neural Networks)

  • 오성권;유성훈
    • 전기학회논문지
    • /
    • 제61권5호
    • /
    • pp.744-752
    • /
    • 2012
  • In this study, the Polynomial-based Radial Basis Function Neural Networks is proposed as an one of the recognition part of overall face recognition system that consists of two parts such as the preprocessing part and recognition part. The design methodology and procedure of the proposed pRBFNNs are presented to obtain the solution to high-dimensional pattern recognition problems. In data preprocessing part, Principal Component Analysis(PCA) which is generally used in face recognition, which is useful to express some classes using reduction, since it is effective to maintain the rate of recognition and to reduce the amount of data at the same time. However, because of there of the whole face image, it can not guarantee the detection rate about the change of viewpoint and whole image. Thus, to compensate for the defects, Linear Discriminant Analysis(LDA) is used to enhance the separation of different classes. In this paper, we combine the PCA&LDA algorithm and design the optimized pRBFNNs for recognition module. The proposed pRBFNNs architecture consists of three functional modules such as the condition part, the conclusion part, and the inference part as fuzzy rules formed in 'If-then' format. In the condition part of fuzzy rules, input space is partitioned with Fuzzy C-Means clustering. In the conclusion part of rules, the connection weight of pRBFNNs is represented as two kinds of polynomials such as constant, and linear. The coefficients of connection weight identified with back-propagation using gradient descent method. The output of the pRBFNNs model is obtained by fuzzy inference method in the inference part of fuzzy rules. The essential design parameters (including learning rate, momentum coefficient and fuzzification coefficient) of the networks are optimized by means of Differential Evolution. The proposed pRBFNNs are applied to face image(ex Yale, AT&T) datasets and then demonstrated from the viewpoint of the output performance and recognition rate.

유효 주파수 선택과 선형판별분석기법을 이용한 유도전동기 고장진단 시스템 (Induction Motor Diagnosis System by Effective Frequency Selection and Linear Discriminant Analysis)

  • 이대종;조재훈;윤종환;전명근
    • 한국지능시스템학회논문지
    • /
    • 제20권3호
    • /
    • pp.380-387
    • /
    • 2010
  • 본 논문에서는 3상 유도전동기의 고장진단을 수행하기 위해 상호정보량과 선형판별분석기법에 기반을 둔 진단 알고리즘을 제안한다. 실험 장치는 유도전동기 구동의 기계적 모듈과 고장신호를 구하기 위한 데이터 획득 모듈로 구성하였다. 제안된 방법은 취득된 전류신호를 DFT에 의해 주파수 영역으로 변환한 후 분산정보를 이용하여 고장상태별로 차별성이 큰 순서대로 유효 주파수 성분을 추출한다. 다음 단계로 선택된 주파수 성분에 대해서 선형판별분석기법을 적용하여 고장상태별 특징들을 추출한 후 k-NN 분류기에 의해 유도전동기의 상태를 진단하게 된다. 제안된 방법의 타당성을 보이기 위해 다양한 조건하에서 실험한 결과 기존방법에 비하여 우수한 결과를 나타냈다.

2D-MELPP: A two dimensional matrix exponential based extension of locality preserving projections for dimensional reduction

  • Xiong, Zixun;Wan, Minghua;Xue, Rui;Yang, Guowei
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제16권9호
    • /
    • pp.2991-3007
    • /
    • 2022
  • Two dimensional locality preserving projections (2D-LPP) is an improved algorithm of 2D image to solve the small sample size (SSS) problems which locality preserving projections (LPP) meets. It's able to find the low dimension manifold mapping that not only preserves local information but also detects manifold embedded in original data spaces. However, 2D-LPP is simple and elegant. So, inspired by the comparison experiments between two dimensional linear discriminant analysis (2D-LDA) and linear discriminant analysis (LDA) which indicated that matrix based methods don't always perform better even when training samples are limited, we surmise 2D-LPP may meet the same limitation as 2D-LDA and propose a novel matrix exponential method to enhance the performance of 2D-LPP. 2D-MELPP is equivalent to employing distance diffusion mapping to transform original images into a new space, and margins between labels are broadened, which is beneficial for solving classification problems. Nonetheless, the computational time complexity of 2D-MELPP is extremely high. In this paper, we replace some of matrix multiplications with multiple multiplications to save the memory cost and provide an efficient way for solving 2D-MELPP. We test it on public databases: random 3D data set, ORL, AR face database and Polyu Palmprint database and compare it with other 2D methods like 2D-LDA, 2D-LPP and 1D methods like LPP and exponential locality preserving projections (ELPP), finding it outperforms than others in recognition accuracy. We also compare different dimensions of projection vector and record the cost time on the ORL, AR face database and Polyu Palmprint database. The experiment results above proves that our advanced algorithm has a better performance on 3 independent public databases.

HOS 특징 벡터를 이용한 장애 음성 분류 성능의 향상 (Performance Improvement of Classification Between Pathological and Normal Voice Using HOS Parameter)

  • 이지연;정상배;최흥식;한민수
    • 대한음성학회지:말소리
    • /
    • 제66호
    • /
    • pp.61-72
    • /
    • 2008
  • This paper proposes a method to improve pathological and normal voice classification performance by combining multiple features such as auditory-based and higher-order features. Their performances are measured by Gaussian mixture models (GMMs) and linear discriminant analysis (LDA). The combination of multiple features proposed by the frame-based LDA method is shown to be an effective method for pathological and normal voice classification, with a 87.0% classification rate. This is a noticeable improvement of 17.72% compared to the MFCC-based GMM algorithm in terms of error reduction.

  • PDF