• 제목/요약/키워드: Kernel Principal Component Analysis

검색결과 61건 처리시간 0.022초

CNN 기반 초분광 영상 분류를 위한 PCA 차원축소의 영향 분석 (The Impact of the PCA Dimensionality Reduction for CNN based Hyperspectral Image Classification)

  • 곽태홍;송아람;김용일
    • 대한원격탐사학회지
    • /
    • 제35권6_1호
    • /
    • pp.959-971
    • /
    • 2019
  • 대표적인 딥러닝(deep learning) 기법 중 하나인 Convolutional Neural Network(CNN)은 고수준의 공간-분광 특징을 추출할 수 있어 초분광 영상 분류(Hyperspectral Image Classification)에 적용하는 연구가 활발히 진행되고 있다. 그러나 초분광 영상은 높은 분광 차원이 학습 과정의 시간과 복잡도를 증가시킨다는 문제가 있어 이를 해결하기 위해 기존 딥러닝 기반 초분광 영상 분류 연구들에서는 차원축소의 목적으로 Principal Component Analysis (PCA)를 적용한 바 있다. PCA는 데이터를 독립적인 주성분의 축으로 변환시킬 수 있어 분광 차원을 효율적으로 압축할 수 있으나, 분광 정보의 손실을 초래할 수 있다. PCA의 사용 유무가 CNN 학습의 정확도와 시간에 영향을 미치는 것은 분명하지만 이를 분석한 연구가 부족하다. 본 연구의 목적은 PCA를 통한 분광 차원축소가 CNN에 미치는 영향을 정량적으로 분석하여 효율적인 초분광 영상 분류를 위한 적절한 PCA의 적용 방법을 제안하는 데에 있다. 이를 위해 PCA를 적용하여 초분광 영상을 축소시켰으며, 축소된 차원의 크기를 바꿔가며 CNN 모델에 적용하였다. 또한, 모델 내의 컨볼루션(convolution) 연산 방식에 따른 PCA의 민감도를 분석하기 위해 2D-CNN과 3D-CNN을 적용하여 비교 분석하였다. 실험결과는 분류정확도, 학습시간, 분산 비율, 학습 과정을 통해 분석되었다. 축소된 차원의 크기가 분산 비율이 99.7~8%인 주성분 개수일 때 가장 효율적이었으며, 3차원 커널 경우 2D-CNN과는 다르게 원 영상의 분류정확도가 PCA-CNN보다 더 높았으며, 이를 통해 PCA의 차원축소 효과가 3차원 커널에서 상대적으로 적은 것을 알 수 있었다.

생체기반 GMM Supervector Kernel을 이용한 운전자검증 기술 (Driver Verification System Using Biometrical GMM Supervector Kernel)

  • 김형국
    • 한국ITS학회 논문지
    • /
    • 제9권3호
    • /
    • pp.67-72
    • /
    • 2010
  • 본 논문에서는 음성과 얼굴 정보를 분석하여 자동차환경에서 운전자를 검증하는 기술을 소개한다. 음성정보를 이용한 화자검증을 위해서는 잘 알려진 Mel-scale Frequency Cepstral Coefficients(MFCCs)를 음성 특징으로 사용하였으며, 동영상을 이용한 얼굴검증에 대해서는 AdaBoost를 이용하여 검출된 얼굴 영역에 대해 주성분 분석을 수행하여 데이터의 크기가 현저히 줄어든 특징벡터를 추출하였다. 기존의 화자검증 방식에 비해 본 논문에서는 추출된 음성 및 얼굴 특징들을 Gaussian Mixture Models(GMM)-Supervector기반의 Support Vector Machine(SVM)커넬 방식에 적용하여 운전자의 음성과 얼굴을 효과적으로 검증하는 방식을 제안하였다. 실험결과 제안한 방법은 단순한 GMM 방식이나 SVM 방식보다 운전자 검증성능을 향상시킴을 알 수 있었다.

종실옥수수 자식계통들에 대한 형태적 특성 연구 (Analysis of Morphological Characteristics for Normal Maize Inbred Lines)

  • 박종열;사규진;박기진;이주경
    • 한국작물학회지
    • /
    • 제59권3호
    • /
    • pp.312-318
    • /
    • 2014
  • 본 연구는 강원도농업기술원 옥수수연구소에서 종실옥수수 품종개발을 위하여 육성한 156개의 자식계통들에 대하여 총 14개의 질적 및 양적 형질들을 이용하여 형태적 변이연구를 수행하였다. 3개의 질적 형질들의 조사 결과에서 웅수색(QL1)과 자수색(QL2)은 황색을 나타내는 계통(85계통, 84계통)들이 가장 많았고, 초형(QL3)은 대부분의 계통(105 계통)이 반직립형을 나타내었다. 반면에 11개의 양적 형질들에 대한 조사 결과에서 출웅일수(QN1)는 평균 $66.7{\pm}4.2$ 일을, 출사일수(QN2)는 평균 $72.8{\pm}5.8$일을, 간경(QN3)은 $16.2{\pm}2.6mm$를, 간장(QN4)은 평균 $16.2{\pm}2.6mm$를, 착수고(QN5)는 평균 $84.3{\pm}17.3cm$를, 백립중(QN6)은 평균 $24.4{\pm}4.4g$을, 이삭장(QN7)은 평균 $47.0{\pm}17.9cm$를, 착립장(QN8)은 평균 $40.7{\pm}15.7cm$을, 이삭경(QN9)은 평균 $14.2{\pm}4.7cm$를, 종실중(QN10)은 평균 $175.6{\pm}97.6kg$을, 종자의 수분함량은 평균 $10.0{\pm}0.3%$를 각각 나타내었다. 이상의 결과에 의하면 분석에 이용된 자식계통들 중에서 11개의 자식계통(00hf3, 00hf19, 00hf30, 00hf36, 02S8069, 02S8072, 02S8090, 02S8099, 05S10011, 06S8085-6, 07S8011)들은 조사된 5개의 수량 관련 형질들 중에서 3~4개 이상의 형질들에서 비교적 높은 특성을 나타내었다. 한편 주성분 분석결과에서는 분석에 이용된 14개의 질적 및 양적 형질들 중에서 이삭장(QN7), 착립장(QN8), 이삭경(QN9), 종실중(QN10)은 제 1 주성분에서 양의 방향에 크게 기여하였고, 반면에 제 2 주성분에서는 출웅일수(QN1), 출사일수(QN2), 간장(QN4), 착수고(QN5)은 음의 방향에 크게 기여하였다. 따라서 본 연구에서 제 1축 및 제 2축의 주성분에서 양의 방향과 음의 방향에 크게 기여한 형질들은 본 연구에서 분석에 이용한 156개의 종실 옥수수 자식계통들을 식별하는데 유용한 형질들인 것으로 생각되었다. 본 연구에서 156개의 종실옥수수 자식계통들에 대한 형태적 변이 및 주성분 분석의 결과는 앞으로 강원도농업기술원 옥수수연구소에서 종실옥수수 품종개발을 위한 계통 육성 및 교배조합 구성 등에 유용한 정보를 제공할 것으로 기대한다.

공정 이상원인의 비선형 통계적 방법을 통한 진단 (Identifying Causes of Industrial Process Faults Using Nonlinear Statistical Approach)

  • 조현우
    • 한국산학기술학회논문지
    • /
    • 제13권8호
    • /
    • pp.3779-3784
    • /
    • 2012
  • 산업체 공정의 실시간 공정 모니터링과 진단은 생산 제품의 품질과 안전을 보장하는데 반드시 필요한 활동들의 하나이다. 그중에서 공정 진단은 공정에 발생된 특정 이상상황의 원인을 밝혀내는 것으로서 조업자들이 이상상황의 근본원인을 보다 효과적으로 도출하는데 도움을 줄 수 있다. 본 논문에서는 비선형 KFDA 기법과 데이터 전처리기법을 이용한 이상원인 진단방법을 적용하고 이의 진단 성능을 기존 선형 기법에 기반한 PCA 진단방법과 비교한다. 실제 공정을 모사한 Tennessee Eastman 공정 시뮬레이터의 공정 데이터를 통한 사례연구를 수행한 결과 기존 선형 진단 방법론 대비 신뢰할 수 있는 진단 결과를 얻을 수 있었다.

한국(韓國) 재래종(在來種) 옥수수의 계통분류(系統分類) 및 유전적(遺傳的) 특성(特性)에 관(關)한 연구(硏究) (Studies on Classification and Genetic Nature of Korean Local Corn Lines)

  • 이인섭;최봉호
    • 농업과학연구
    • /
    • 제9권1호
    • /
    • pp.396-450
    • /
    • 1982
  • 육종(育種) 자료(資料)를 얻기위해 수집(蒐集)한 한국(韓國) 재래종(在來種) 옥수수 57계통(系統)에 대(對)하여 주성분(主成分) 분석(分析)을 이용(利用)하여 재래종(在來種) 옥수수를 해석(解析)하고 계통분류(系統分類)를 하고 분류(分類)된 계통군별(系統群別)로 주요(主要) 특성(特性)에 대(對)한 유전적(遺傳的) 특성(特性)을 구명(究明)하고자 본(本) 연구(硏究)를 수행(修行)하였던 바 그 결과(結果)를 요약(要約)하면 다음과 같다. 1. 특성(特性)들의 평균치(平均値)는 모든 특성(特性)에서 계통간(系統間) 차이(差異)가 있었으며 비중(比重)을 제외(除外)한 모든 특성(特性)에서 교배유형별(交配類型別)로 차이(差異)가 있었는데 출수기(出穗期)까지의 일수(日數)를 제외(除外)한 모든 특성(特性)에서 자식(自殖)된 계통(系統)의 것은 세력(勢力)이 감소(減少)되었고 톱교배(交配)된 계통(系統)의 것은 세력(勢力)이 증대(增大) 되었다. 2. 특성간(特性間)의 상관계수(相關係數)는 0.99~-0.59 사이에 분포(分布)하였는데 특성간(特性間)의 상관(相關)은 대체(大體)로 낮은 것이 많았다. 그러나 수량구성요소(收量構成要素)와 관련(關聯)된 주요특성(主要特性)에서는 상관(相關)이 높았고 교배유형(交配類型)에 따른 특성간(特性間)의 상관계수(相關係數)의 크기는 별(別) 차이(差異)가 없었다. 3. 27개(個) 특성(特性) 가운데서 12개(個)의 주요특성(主要特性)을 이용(利用)한 주성분(主成分) 분석(分析)에서 제(第)4 주성분(主成分)까지를 가지고 전(全) 변동(變動)의 86.4%를 형매교배(兄妹交配)에서, 84.3%를 자식교배(自殖交配)에서 81.1%를 톱교배(交配)에서 각각(各各) 설명(說明)할 수 있었다. 4. 주성분(主成分)에 대(對)한 특성(特性)의 기여율(寄與率)은 특성(特性)에 따라 달랐고 상위(上位) 주성분(主成分)에서 컸으며 하위(下位) 주성분(主成分)에서 작았다. 5. 주성분(主成分)과 특성간(特性間)의 상관계수(相關係數)는 주성분(主成分)의 생물학적(生物學的) 의의(意義)와 주성분(主成分)에 대응(對應)한 식물체(植物體)의 형(型)을 명확(明確)히 하였는데 제(第)1 주성분(主成分)은 식물체(植物體)의 크기에 관련(關聯)된 주성분(主成分)이었고, 제(第)2 주성분(主成分)은 식물체(植物體)의 분화(分化) 및 생장기간(生長期間)에 관련(關聯)된 주성분(主成分)이었고, 제(第)3 주성분(主成分)과 제(第)4 주성분(主成分)은 형매교배(兄妹交配)된 계통(系統) 및 자식계통(自殖系統)에서는 뚜렷한 특징(特徵)이 없었으나 톱교배(交配)된 계통(系統)에서는 엽(葉)의 크기에 관련(關聯)된 주성분(主成分)이었다. 6. 계통간(系統間) 거리(距離)에 의(依)해 57계통(系統)은 4개(個)의 계통군(系統群)으로 분류(分類)되었으나 전계통(全系統)의 91.1%인 52계통(系統)이 계통군(系統群) I로 분류(分類)되어 수집(蒐集)된 재래종(在來種) 옥수수의 대부분(大部分)이 동일계통(同一系統)인 것으로 나타났고, 계통군(系統群) II에는 3계통(系統)이, 계통군(系統群) III과 계통군(系統群) IV에는 각각(各各) 1계통(系統)이 속(屬)하였다. 계통군(系統群) I은 조생(早生), 단간(短稈), 중형자수(中型雌穗), 중립(中粒) 및 중수(中收) 계통(系統)들이었고, 계통군(系統群) II는 만생(晩生), 중간(中稈), 소형자수(小型雌穗), 소립(小粒), 다자수(多雌穗) 및 다수(多收) 계통(系統)들이었다. 계통군(系統群) III은 중생(中生), 장간(長稈), 소형자수(小型雌穗) 및 소립(小粒), 소수(少收) 계통(系統)들이었고, 계통군(系統群) IV는 중생(中生), 장간(長稈), 대형자수(大型雌穗), 소자수(少雌穗) 및 중수계통(中收系統)이었다. 7. 특성(特性)들의 자식열세도(自殖劣勢度)는 계통(系統)에 따라 차이(差異)가 있었으며 수량(收量), 이삭중(重), 초장(草長) 등(等)에서 비교적(比較的) 크게 나타났고, 분류(分類)된 군별(群別) 자식열세도(自殖劣勢度)는 100 입중(粒重), 엽수(葉數), 엽장(葉長) 및 출수기(出穗期)까지의 일수(日數) 등(等)의 특성(特性)이 계통군(系統群) I에서 컸고, 기타의 특성(特性)은 계통군(系統群) II에서 컸다. 8. 특성(特性)들의 잡종강세도(雜種强勢度)는 계통간(系統間) 차이(差異)가 있었으며 이삭중(重), 이삭당(當) 입중(粒重), 100입중(粒重) 및 엽장(葉長) 등(等)에서 높았으며 분류(分類)된 군별(群別)로 보면 이삭길이, 이삭직경(直徑), 이삭중(重), 이삭당(當) 입중(粒重), 100 입중(粒重) 및 엽장(葉長) 등(等)의 특성(特性)은 계통군(系統群) II에서 높았고 기타의 특성(特性)은 계통군(系統群) I에서 높았다. 9. 특성(特性)들의 동질접합체(同質接合體) 정도(程度)는 이삭중(重)(79.1%)에서 가장 높았으며 이삭 수(數)(-2.1%)에서 가장 낮았는데 특성별(特性別)로 큰 차이(差異)가 있었다. 분류(分類)된 군별(群別)에 있어서도 동질접합체(同質接合體) 정도(程度)는 특성(特性)에 따라 차이(差異)가 있었는데 계통군(系統群) II에서 높은 것이 많았고 계통군(系統群) I에서 낮은 것이 많았다. 10. 형매교배(兄妹交配)된 계통(系統)의 특성(特性)과 톱 교배(交配)된 계통(系統)의 특성(特性)과의 상관관계(相關關係)는 모든 특성(特性)에서 정(正)의 상관(相關)을 나타내었으며 이삭수(數), 초장(草長), 엽장(葉長), 수량(收量) 및 단백질(蛋白質) 함량(含量) 등(等)에서 높은 상관(相關)을 나타내었으며 이삭 직경(直徑), 100입중(粒重) 및 엽수(葉數) 등(等)에서는 유의성(有意性)이 인정(認定)되지 않았다.

  • PDF

Bagged Auto-Associative Kernel Regression-Based Fault Detection and Identification Approach for Steam Boilers in Thermal Power Plants

  • Yu, Jungwon;Jang, Jaeyel;Yoo, Jaeyeong;Park, June Ho;Kim, Sungshin
    • Journal of Electrical Engineering and Technology
    • /
    • 제12권4호
    • /
    • pp.1406-1416
    • /
    • 2017
  • In complex and large-scale industries, properly designed fault detection and identification (FDI) systems considerably improve safety, reliability and availability of target processes. In thermal power plants (TPPs), generating units operate under very dangerous conditions; system failures can cause severe loss of life and property. In this paper, we propose a bagged auto-associative kernel regression (AAKR)-based FDI approach for steam boilers in TPPs. AAKR estimates new query vectors by online local modeling, and is suitable for TPPs operating under various load levels. By combining the bagging method, more stable and reliable estimations can be achieved, since the effects of random fluctuations decrease because of ensemble averaging. To validate performance, the proposed method and comparison methods (i.e., a clustering-based method and principal component analysis) are applied to failure data due to water wall tube leakage gathered from a 250 MW coal-fired TPP. Experimental results show that the proposed method fulfills reasonable false alarm rates and, at the same time, achieves better fault detection performance than the comparison methods. After performing fault detection, contribution analysis is carried out to identify fault variables; this helps operators to confirm the types of faults and efficiently take preventive actions.

Anomaly Intrusion Detection Based on Hyper-ellipsoid in the Kernel Feature Space

  • Lee, Hansung;Moon, Daesung;Kim, Ikkyun;Jung, Hoseok;Park, Daihee
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제9권3호
    • /
    • pp.1173-1192
    • /
    • 2015
  • The Support Vector Data Description (SVDD) has achieved great success in anomaly detection, directly finding the optimal ball with a minimal radius and center, which contains most of the target data. The SVDD has some limited classification capability, because the hyper-sphere, even in feature space, can express only a limited region of the target class. This paper presents an anomaly detection algorithm for mitigating the limitations of the conventional SVDD by finding the minimum volume enclosing ellipsoid in the feature space. To evaluate the performance of the proposed approach, we tested it with intrusion detection applications. Experimental results show the prominence of the proposed approach for anomaly detection compared with the standard SVDD.

t-SNE에 대한 요약 (A review on the t-distributed stochastic neighbors embedding)

  • 김기풍;김충락
    • 응용통계연구
    • /
    • 제36권2호
    • /
    • pp.167-173
    • /
    • 2023
  • 본 논문에서는 고차원의 자료를 저차원으로 변환시켜 시각화하는 다양한 방법들을 소개하였다. 차원 축소는 크게 선형 방법과 비선형 방법으로 나눌 수 있는데 선형 방법으로 주성분 분석, 다차원 척도 등을 간략하게 소개하였고 비선형 방법으로 커널 주성분 분석, 자기조직도, 국소 선형 사상, Isomap, 국소 다차원 척도 등을 간략하게 소개하였으며, 가장 최근에 제안되었으며 매우 널리 사용되고 있지만 통계학 분야에는 비교적 생소한 t-SNE에 대하여 자세히 소개하였다. t-SNE를 이용한 간단한 예제를 제시하고 t-SNE의 장단점을 지적한 최근 연구 논문을 소개하고 제시된 향후 연구 과제들을 살펴보았다.

공정 모니터링 기술의 최근 연구 동향 (Recent Research Trends of Process Monitoring Technology: State-of-the Art)

  • 유창규;최상욱;이인범
    • Korean Chemical Engineering Research
    • /
    • 제46권2호
    • /
    • pp.233-247
    • /
    • 2008
  • 공정 모니터링 기술은 공정 내에서 일어나는 예상치 못한 조업변화 및 이상을 조기에 감지하고 조업 이상에 영향을 끼친 근본 원인을 밝혀내어 제거해 줌으로써 공정의 안정적인 조업과 양질의 제품생산의 기반을 제공하여 준다. 데이터에 기반한 통계적 공정 모니터링 방법은 양질의 공정 데이터만 주어진다면 통계적 처리를 접목하여 비교적 쉽게 모니터링을 할 수 있고 공정의 데이터 분석에 이용할 수 있는 도구를 얻을 수 있다는 장점이 있다. 그러나 실제 공정에서는 비선형성, non-Gaussianity, 다중 운전모드, 공정상태변화로 인해 기존의 다변량 통계적 방법을 이용한 공정 모니터링 기법은 비효율적이거나, 공정 감시 성능의 저하, 종종 신뢰할 수 없는 결과를 야기한다. 이러한 경우 기존의 방법으로는 더이상 공정을 정확히 감시할 수 없기 때문에 최근에 많은 새로운 방법들이 개발 되었다. 본 총설에서는 이러한 단점을 보안하기 위해 최근 주목할 만한 연구결과인 공정 비선형성을 고려한 커널주성분분석(kernel principle component analysis) 모니터링 기법, 주성분분석 모델 조합을 이용한 다중모델(mixture model) 모니터링 기법, 공정 변화를 고려한 적응모델(adaptive model) 모니터링 기법, 그리고 센서 이상진단과 보정의 이론과 응용결과에 대하여 소개한다.

Damage detection of bridges based on spectral sub-band features and hybrid modeling of PCA and KPCA methods

  • Bisheh, Hossein Babajanian;Amiri, Gholamreza Ghodrati
    • Structural Monitoring and Maintenance
    • /
    • 제9권2호
    • /
    • pp.179-200
    • /
    • 2022
  • This paper proposes a data-driven methodology for online early damage identification under changing environmental conditions. The proposed method relies on two data analysis methods: feature-based method and hybrid principal component analysis (PCA) and kernel PCA to separate damage from environmental influences. First, spectral sub-band features, namely, spectral sub-band centroids (SSCs) and log spectral sub-band energies (LSSEs), are proposed as damage-sensitive features to extract damage information from measured structural responses. Second, hybrid modeling by integrating PCA and kernel PCA is performed on the spectral sub-band feature matrix for data normalization to extract both linear and nonlinear features for nonlinear procedure monitoring. After feature normalization, suppressing environmental effects, the control charts (Hotelling T2 and SPE statistics) is implemented to novelty detection and distinguish damage in structures. The hybrid PCA-KPCA technique is compared to KPCA by applying support vector machine (SVM) to evaluate the effectiveness of its performance in detecting damage. The proposed method is verified through numerical and full-scale studies (a Bridge Health Monitoring (BHM) Benchmark Problem and a cable-stayed bridge in China). The results demonstrate that the proposed method can detect the structural damage accurately and reduce false alarms by suppressing the effects and interference of environmental variations.