• 제목/요약/키워드: subspace

검색결과 742건 처리시간 0.026초

Principal Discriminant Variate (PDV) Method for Classification of Multicollinear Data: Application to Diagnosis of Mastitic Cows Using Near-Infrared Spectra of Plasma Samples

  • Jiang, Jian-Hui;Tsenkova, Roumiana;Yu, Ru-Qin;Ozaki, Yukihiro
    • 한국근적외분광분석학회:학술대회논문집
    • /
    • 한국근적외분광분석학회 2001년도 NIR-2001
    • /
    • pp.1244-1244
    • /
    • 2001
  • In linear discriminant analysis there are two important properties concerning the effectiveness of discriminant function modeling. The first is the separability of the discriminant function for different classes. The separability reaches its optimum by maximizing the ratio of between-class to within-class variance. The second is the stability of the discriminant function against noises present in the measurement variables. One can optimize the stability by exploring the discriminant variates in a principal variation subspace, i. e., the directions that account for a majority of the total variation of the data. An unstable discriminant function will exhibit inflated variance in the prediction of future unclassified objects, exposed to a significantly increased risk of erroneous prediction. Therefore, an ideal discriminant function should not only separate different classes with a minimum misclassification rate for the training set, but also possess a good stability such that the prediction variance for unclassified objects can be as small as possible. In other words, an optimal classifier should find a balance between the separability and the stability. This is of special significance for multivariate spectroscopy-based classification where multicollinearity always leads to discriminant directions located in low-spread subspaces. A new regularized discriminant analysis technique, the principal discriminant variate (PDV) method, has been developed for handling effectively multicollinear data commonly encountered in multivariate spectroscopy-based classification. The motivation behind this method is to seek a sequence of discriminant directions that not only optimize the separability between different classes, but also account for a maximized variation present in the data. Three different formulations for the PDV methods are suggested, and an effective computing procedure is proposed for a PDV method. Near-infrared (NIR) spectra of blood plasma samples from mastitic and healthy cows have been used to evaluate the behavior of the PDV method in comparison with principal component analysis (PCA), discriminant partial least squares (DPLS), soft independent modeling of class analogies (SIMCA) and Fisher linear discriminant analysis (FLDA). Results obtained demonstrate that the PDV method exhibits improved stability in prediction without significant loss of separability. The NIR spectra of blood plasma samples from mastitic and healthy cows are clearly discriminated between by the PDV method. Moreover, the proposed method provides superior performance to PCA, DPLS, SIMCA and FLDA, indicating that PDV is a promising tool in discriminant analysis of spectra-characterized samples with only small compositional difference, thereby providing a useful means for spectroscopy-based clinic applications.

  • PDF

PRINCIPAL DISCRIMINANT VARIATE (PDV) METHOD FOR CLASSIFICATION OF MULTICOLLINEAR DATA WITH APPLICATION TO NEAR-INFRARED SPECTRA OF COW PLASMA SAMPLES

  • Jiang, Jian-Hui;Yuqing Wu;Yu, Ru-Qin;Yukihiro Ozaki
    • 한국근적외분광분석학회:학술대회논문집
    • /
    • 한국근적외분광분석학회 2001년도 NIR-2001
    • /
    • pp.1042-1042
    • /
    • 2001
  • In linear discriminant analysis there are two important properties concerning the effectiveness of discriminant function modeling. The first is the separability of the discriminant function for different classes. The separability reaches its optimum by maximizing the ratio of between-class to within-class variance. The second is the stability of the discriminant function against noises present in the measurement variables. One can optimize the stability by exploring the discriminant variates in a principal variation subspace, i. e., the directions that account for a majority of the total variation of the data. An unstable discriminant function will exhibit inflated variance in the prediction of future unclassified objects, exposed to a significantly increased risk of erroneous prediction. Therefore, an ideal discriminant function should not only separate different classes with a minimum misclassification rate for the training set, but also possess a good stability such that the prediction variance for unclassified objects can be as small as possible. In other words, an optimal classifier should find a balance between the separability and the stability. This is of special significance for multivariate spectroscopy-based classification where multicollinearity always leads to discriminant directions located in low-spread subspaces. A new regularized discriminant analysis technique, the principal discriminant variate (PDV) method, has been developed for handling effectively multicollinear data commonly encountered in multivariate spectroscopy-based classification. The motivation behind this method is to seek a sequence of discriminant directions that not only optimize the separability between different classes, but also account for a maximized variation present in the data. Three different formulations for the PDV methods are suggested, and an effective computing procedure is proposed for a PDV method. Near-infrared (NIR) spectra of blood plasma samples from daily monitoring of two Japanese cows have been used to evaluate the behavior of the PDV method in comparison with principal component analysis (PCA), discriminant partial least squares (DPLS), soft independent modeling of class analogies (SIMCA) and Fisher linear discriminant analysis (FLDA). Results obtained demonstrate that the PDV method exhibits improved stability in prediction without significant loss of separability. The NIR spectra of blood plasma samples from two cows are clearly discriminated between by the PDV method. Moreover, the proposed method provides superior performance to PCA, DPLS, SIMCA md FLDA, indicating that PDV is a promising tool in discriminant analysis of spectra-characterized samples with only small compositional difference.

  • PDF

범주형 속성 기반 군집화를 위한 새로운 유사 측도 (A New Similarity Measure for Categorical Attribute-Based Clustering)

  • 김민;전주혁;우경구;김명호
    • 한국정보과학회논문지:데이타베이스
    • /
    • 제37권2호
    • /
    • pp.71-81
    • /
    • 2010
  • 데이터의 군집을 찾아내는 문제는 패턴 인식, 이미지 처리, 시장 조사 등 많은 응용 분야에서 널리 사용되고 있다. 군집의 질을 결정하는 핵심 요소로는 유사 측도, 차원의 개수 등이 있다. 유사 측도는 데이터의 특성을 반영하여 다르게 정의되어야 하는데, 대부분 기존의 연구들은 데이터를 특징 지어주는 속성이 수치형으로 주어진 경우에 국한되어 있었다. 속성이 범주형으로 주어진 경우도 실생활에 많이 존재하지만, 범주형 변수에 대한 속성값의 유사성은 값의 순서가 고유하게 정해지지 않아서 정의하기 어렵다. 이에 더하여, 고차원 데이터에 대해서는 데이터 점들이 희박하게 위치하여 가까운 점과 먼 점간의 차이가 거의 없고, 군집화 결과가 좋지 않을 수 있다. 이 문제를 해결하기 위해 부분 차원 군집화 방법이 제안되어 왔다. 부분 차원 군집화 방법은 각 군집을 발견하기에 적합한 부분 차원을 선택하면서 군집화를 수행하는 방법이다. 본 논문에서는 범주형 속성으로 특징지어진 고차원 데이터를 부분 차원 군집화하기 위한 새로운 유사 측도를 제안한다. 유사 측도는 각 군집은 다른 군집과 구별되는 특정 정보를 잘 표현할 수 있어야 한다는 기본적인 가정 하에 속성들 사이의 상관성을 반영하여 정의되었다. 이들 모두를 반영한 유사측도는 기존에 존재하지 않았다는 점에서 본 연구는 의미가 있다. 실제 데이터 집합을 군집화하는 실험을 통해 제안하는 방법이 다른 군집화 방법보다 저차원 데이터와 고차원 데이터 모두에 대해 좀 더 정확한 군집 결과를 얻을 수 있음을 보였다.

화자식별을 위한 강인한 주성분 분석 가우시안 혼합 모델 (RPCA-GMM for Speaker Identification)

  • 이윤정;서창우;강상기;이기용
    • 한국음향학회지
    • /
    • 제22권7호
    • /
    • pp.519-527
    • /
    • 2003
  • 음성신호는 주변 잡음과 화자의 발성 패턴 변화, 음성 검출 오류에서 생기는 이상치(outlier)에 많은 영향을 받고 있다. 이러한 음성 신호를 이용하여 화자인식에 이용할 경우 인식률이 저하된다. 본 논문에서는 화자식별 (speaker identification)에서 학습 특징 벡터의 이상치와 고차원 문제를 해결하기 위하여 M-추정을 이용한 강인한 주성분 분석 가우시안 혼합모델 (Robust Principal Component Analysis-Gaussian Mixture Model)방법을 제안하였다. 제안된 방법은 먼저, 특징 벡터에 이상치가 존재할 경우 M-추정에 의하여 강인한 공분산 행렬을 재추정하여 얻어진 고유벡터로부터 변환 행렬을 구하여 감소된 차원을 갖는 새로운 특징벡터를 구한다. 여기에서 얻은 선형변환된 특징벡터로부터 화자의 가우시안 혼합 모델을 구한다. 제안된 방법의 성능을 검증하기 위하여 화자식별 실험을 하였다. 실험은 전형적인 가우시안 혼합 모델 방법과 주성분 분석법, 제안된 방법을 비교 분석하였다. 이상치가 2%씩 증가할 때마다 가우시안 혼합모델 방법과 주성분 분석법은 각각 0.65%, 0.55%씩 화자식별 성능이 저하되었지만, 제안된 방법은 0.03%정도 감소하였으므로 이상치에 더욱 강인함을 알 수 있다.

TDOA/FDOA 정보를 이용한 Gauss-Newton 기법 기반의 이동 신호원 위치 및 속도 추정 방법과 성능 분석 (Gauss-Newton Based Estimation for Moving Emitter Location Using TDOA/FDOA Measurements and Its Analysis)

  • 김용희;김동규;한진우;송규하;김형남
    • 전자공학회논문지
    • /
    • 제50권6호
    • /
    • pp.62-71
    • /
    • 2013
  • TDOA (time difference of arrival)와 FDOA (frequency difference of arrival)를 동시에 사용하는 신호원 위치추정 방법은 단일 정보를 이용하는 경우에 비해 높은 정확도를 가지며 이동 신호원의 속도 추정이 가능하다는 장점을 가지고 있다. 최근 종속 미지변수를 정의한 후 비반복적으로 해를 구하는 방법들이 제안되고 있으나 전자전 환경과 같이 수신단과 신호원 간의 거리가 상대적으로 먼 경우에는 추정 정확도가 낮고 모든 수신단 쌍이 동일한 기준 수신단을 공유하여야 한다는 운용상의 제약이 존재한다. 따라서 본 논문에서는 비선형 LS 최적해를 반복계산을 통해 얻어내는 Gauss-Newton 기법을 적용하여 이동 신호원의 위치좌표와 속도벡터를 추정한다. 또한 이동 신호원의 위치와 속도 추정 결과를 효과적이고 정량적으로 분석하기 위해 CRLB (Cramer-Rao lower bound) 행렬을 각각의 부공간으로 분해하여 2차원 공간상에 독립된 CEP (circular error probable) 평면으로 도시한다. 모의실험을 통해 주어진 수신단 배치와 조합에서 이동 신호원의 위치 및 속도 추정 성능을 확인하고 분석 결과를 제시한다.

MT 법의 3차원 모델링 개관 (Review on the Three-Dimensional Magnetotelluric Modeling)

  • 김희준;남명진;송윤호;서정희
    • 지구물리와물리탐사
    • /
    • 제7권2호
    • /
    • pp.148-154
    • /
    • 2004
  • 자기지전류(MT)법의 3차원 모델링에 대해 소개한다. 3차원 MT 모델링은 MT 반응의 물리적 특성의 이해뿐만 아니라 지하의 3차원적 전기비저항 구조를 재구성하기 위한 역산법의 개발에도 필수적이다. 지난 20년 동안 3차원 모델링에 관한 여러 수치기법들이 개발되었으나 그 실용성에는 많은 한계가 있었다. 그러나 최근에는 컴퓨터의 급속한 발전과 대형 연립방정식에 대한 반복해법의 발전에 힘입어 이전에는 어려웠던 복잡한 3차원 구조에 대한 MT 반응을 효율적으로 모델링할 수 있게 되었다. 유한차분법에서는 자기 flux와 전류의 보존법칙을 만족하면서 전기장의 불연속을 표현할 수 있는 staggered 격자의 사용이 보편화되었다. 대형 연립방정식에 대한 수치해의 수렴성은 Krylov 부분공간법, 적당한 전처리 기술 및 정적 발산보정법을 채택함으로써 크게 향상된다. 변요소를 사용하는 벡터 유한요소법으로도 전기장의 불연속 문제를 해결할 수 있으며 이 방법이 가진 기하학적 유연성은 불규칙한 지표기복을 포함한 복잡한 구조를 모델화할 때 특히 유용하다.

부분공간과 LVQ 분류기에 기반한 실시간 얼굴 인식 (Real-Time Face Recognition Based on Subspace and LVQ Classifier)

  • 권오륜;민경필;전준철
    • 인터넷정보학회논문지
    • /
    • 제8권3호
    • /
    • pp.19-32
    • /
    • 2007
  • 본 논문에서는 실시간 얼굴인증 시스템의 구축을 위한 LVQ 신경망 기반의 새로운 얼굴 인식 방법을 제안한다. 기존의 연구에서 PCA, LDA 변환이 많이 적용되며 신경망을 결합한 형태가 제안되고 있지만 신경망 학습 시간이 오래 걸리는 단점을 가지고 있다. LVQ 신경망은 학습 시간이 짧고 클래스간의 분리도를 최대화할 수 있는 교사학습방법이다. 따라서, 본 논문에서 제안된 방법은 동영상으로부터 실시간으로 입력되는 얼굴영상을 PCA와 LDA변환을 순차적으로 적용하여 부분공간상의 변환된 특징벡터로부터 LVQ 신경망의 학습을 통하여 얼굴을 인식한다. 외부조명의 영향에 강건한 인식시스템을 구축하기 위하여 얼굴검출 단계에서 검출된 얼굴영역은 밝기값의 최대-최소 정규화 방법에 의해 보정된 정규화 영상을 생성한다. 정규화된 얼굴영상은 PCA와 LDA 변환을 통해 부분공간상의 특징벡터로 변환된다. 변환된 훈련 데이터로부터 LVQ 신경망의 초기 중심 벡터를 결정하고 신경망의 학습률 향상을 위해 K-Means 클러스터링 알고리즘을 적용하며, 초기 중심 벡터를 이용하여 LVQ2 학습 방법에 의해 학습된 중심벡터는 클래스의 대표 벡터가 된다. 결국 각 클래스의 대표 벡터로부터 입력 영상의 특징벡터간의 유클리디언 거리 비교법을 적용하여 얼굴 인식을 수행한다. ORL 데이터베이스를 이용한 정지 영상에 대한 인식과 실시간으로 입력되는 영상에 대한 인식 등 두 가지 형태의 영상을 기반으로 실험한 결과 두 경우에 모두 제안된 방법이 기존의 인식 방법보다 인식률에서 우수함을 입증할 수 있었다.

  • PDF

광역감시망 적용을 위한 HF 레이더 기반 선박 검출 및 추적 요소 기술 (Wide-area Surveillance Applicable Core Techniques on Ship Detection and Tracking Based on HF Radar Platform)

  • 조철진;박상욱;이영로;이상호;고한석
    • 대한원격탐사학회지
    • /
    • 제34권2_2호
    • /
    • pp.313-326
    • /
    • 2018
  • 현재 국내 환경에서의 HF 레이더는 기본적으로 표층해류의 속도와 방위의 측정에 최적화 되어있는 상태이다. 따라서, 이러한 환경하에서 선박을 탐지하는 데에는 큰 환경 잡음과 다수의 오검출로 인하여 기존의 선박 검출 및 추적 기술로는 정밀도에 한계점이 있다. 특히, 국내의 지형환경에 적합한 콤팩트형 HF(High Frequency) 레이더를 선박의 감시에 적용했을 경우에 나타나는 문제점들인 잡음과 간섭으로 인한 원신호 왜곡과 다수의 오검출이 발생하여 성능에 영향을 미치는 것을 극복하기 위한 검출 및 추적 기술이 요구된다. 본 논문에서는 이러한 조건 하에서 적용이 가능한 선박 검출 및 추적 기술을 제안을 하며, 서해에서 운용되고 있는 콤팩트 HF 레이더 사이트에서 획득한 관측 데이터에 적용하여 성능을 평가하였다. 제안된 기법은 선박의 검출에 대한 부분과 검출 결과의 추적에 대한 부분으로 이루어져 있다. 선박의 검출은 CFAR(Constant False Alarm Rate) 기반의 검출기를 활용하였으며, 실제 환경에서 불규칙적으로 획득되는 잡음과 오검출 신호를 줄이기 위한 PCA(Principal Component Analysis) 기반의 부분공간 분리기법을 적용하였다. 또한, 긴 입력 획득 주기(Coherent Processing Interval) 동안에 발생하는 도플러 주파수 변화로 인하여 하나의 선박이 다수의 검출값을 생성하기도 하는데, 이를 결합하기 위한 군집화 기법을 적용하였다. 선박의 검출 결과는 검출에 실패하거나 오검출을 포함시키는 경우도 발생하는데, 이러한 오검출을 줄이기 위한 선박 추적 기법을 적용하였다. 실험 결과에 따르면 제안된 선박 검출 및 추적 기술을 통하여 콤팩트 HF 레이더가 일정 거리에서 선박의 검출 성공율이 우수하다는 것을 확인할 수 있다.

고유 얼굴과 퍼지 신경망을 이용한 얼굴 인식 기법 (Face Recognition using Eigenfaces and Fuzzy Neural Networks)

  • 김재협;문영식
    • 전자공학회논문지CI
    • /
    • 제41권3호
    • /
    • pp.27-36
    • /
    • 2004
  • 일반적으로 영상에서 얼굴 영상을 검출하고 인식하는 알고리즘은 패턴 인식 연구에 있어서 인간과 컴퓨터의 상호작용의 연구라는 면에서 아주 중요한 문제로 연구되어 왔다. 본 논문에서는 고유얼굴과 퍼지 신경망을 이용한 얼굴인식 기법을 제안한다. PCA(Principal Component Analysis) 방식은 우수한 인식 결과를 보장하는 얼굴인식 기법중의 하나이며, 얼굴 영상을 이용하여 공분산 행렬을 계산하고, 공분산 행렬을 통해 생성된 저차원의 벡터, 즉 고유얼굴(Eigenface)을 이용하여 가중치를 계산하고, 이 가중치를 기준으로 인식을 수행하는 기법이다. 이를 기반으로 하여, 본 논문에서는 전처리 과정, 고유얼굴 과정, 퍼지 소속도 함수 설계 과정, 신경망 학습 과정, 인식과정으로 구성된 5단계의 얼굴 인식 알고리즘을 제안한다. 먼저 각 얼굴 영상들은 전처리과정을 거치며 이 영상들을 이용하여 고유얼굴을 추출한다. 추출된 고유얼굴을 이용한 가숭치 135개에 대하여 비대칭 가우시안 함수를 응용한 퍼지 소속도 함수를 이용하여 퍼지 소속도가 부여되며 이 소속도들이 신경망의 입력으로 사용되어 학습과정을 거친다. 학습과정을 거친 후, 신경망의 출력은 현재의 얼굴 이미지가 데이터베이스의 얼굴 이미지와 유사한 정도를 나타내게 되어 인식을 수행한다. 제안하는 알고리즘으로 가중치의 개수와 퍼지 레벨의 개수에 대하여 기존의 얼굴 데이터 베이스를 이용하여 실험하였으며, 실험 결과 특정 조건하에서 약 95% 이상의 인식 성능을 확인할 수 있었다.

비트 순열 기반 블록암호의 비선형 불변 공격 저항성 연구 (On Resistance of Bit Permutation Based Block Cipher against Nonlinear Invariant Attack)

  • 정건상;김성겸;홍득조;성재철;홍석희
    • 정보보호학회논문지
    • /
    • 제30권3호
    • /
    • pp.325-336
    • /
    • 2020
  • 비선형 불변 공격은 비교적 간단한 구조의 키 스케줄을 갖는 경량 블록암호에서 필수적으로 고려되어야 할 공격이다. 간단한 구조의 키 스케줄을 갖는 경량 블록암호가 비선형 불변 공격에 저항성을 보이는 방법으로 가장 잘 알려진 것은 라운드 키 간의 차분 중 알려진 것들의 집합에서 선형계층에 대해 불변인 최소의 선형공간의 크기가 블록 크기와 같은지를 확인하는 것이다. 본 논문에서는 다음과 같은 연구 결과를 제시한다. 설계자 관점에서 비트 순열을 선형계층으로 사용하는 SPN 구조 경량 블록암호는 라운드 키 간의 차분의 종류가 한가지여도 비선형 불변 공격에 안전할 수 있음을 증명하고, 그러한 비트 순열의 형태와 개수를 제안한다. 또한, PRESENT 구조 블록암호는 비선형 불변 공격에 저항성을 갖기 위해 적어도 두 종류의 라운드 키 간의 차분이 필요함을 전수조사를 통해 보이며, 두 종류의 라운드 키 간의 차분을 필요로 하는 비트 순열을 사용해도 차분 공격에 대한 저항성이 오히려 증가할 수 있음을 보인다. 마지막으로 GIFT의 S-box를 사용하면서 BOGI 설계 논리를 유지하는 모든 비트 순열의 불변 성분 분포를 통해, 변형된 GIFT 구조 블록암호는 비선형 불변 공격에 저항성을 갖기 위해 적어도 8종류의 라운드 키 간의 차분이 필요함을 보인다.