• 제목/요약/키워드: RBF 커널

검색결과 29건 처리시간 0.023초

PSO 기반 RBFNN의 구조적 설계 (Structural Design of Radial Basis function Neural Network(RBFNN) Based on PSO)

  • 석진욱;김영훈;오성권
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2009년도 정보 및 제어 심포지움 논문집
    • /
    • pp.381-383
    • /
    • 2009
  • 본 논문에서는 대표적인 시스템 모델링 도구중의 하나인 RBF 뉴럴 네트워크(Radial Basis Function Neural Network)를 설계하고 모델을 최적화하기 위하여 최적화 알고리즘인 PSO(Particle Swarm Optimization) 알고리즘을 이용하였다. 즉, 모델의 최적화에 주요한 영향을 미치는 모델의 파라미터들을 PSO 알고리즘을 이용하여 동정한다. 제안된 RBF 뉴럴 네트워크는 은닉층에서의 활성함수로서 일반적으로 많이 사용되어지는 가우시안 커널함수를 사용한다. 더 나아가 모델의 최적화를 위하여 각 커널함수의 중심값은 HCM 클러스터링에 기반을 두어 중심값을 결정하고, PSO 알고리즘을 통하여 가우시안 커널함수의 분포상수, 은닉층에서의 노드 수 그리고 다수의 입력을 가질 경우 입력의 종류를 동정한다. 제안한 모델의 성능을 평가하기 위해 Mackey-Glass 시계열 공정 데이터를 적용하였으며 제안된 모델의 근사화와 일반화 능력을 분석한다.

  • PDF

VRIFA: LRBF 커널과 Nomogram을 이용한 예측 및 비선형 SVM 시각화도구 (VRIFA: A Prediction and Nonlinear SVM Visualization Tool using LRBF kernel and Nomogram)

  • 김성철;유환조
    • 한국멀티미디어학회논문지
    • /
    • 제13권5호
    • /
    • pp.722-729
    • /
    • 2010
  • 예측 문제를 해결하기 위한 데이타마이닝 기법은 다양한 분야에서 주목받고 있다. 이것에 대한 한 예로 컴퓨터-기반의 질병의 예측 혹은 진단은 CDSS(Clinical Decision support System)에서 가장 중요한 요소이기도 하다. 이러한 예측 문제를 해결하기 위해서 RBF커널 같은 비선형 커널을 사용한 SVM이 가장 널리 사용되고 있는데, 이는 비선형 SVM이 어떠한 다른 분류기법보다 정확한 성능을 보이기 때문이다. 하지만 비선형 SVM을 사용한 경우에는 모델내부를 시각화하는 일이 어려워서 예측결과에 대한 직관적인 이해가 힘들고, 의학 전문가들은 이러한 비선형 SVM의 사용을 기피하고 있는 실정이다. Nomogram은 SVM을 시각화하기 위해 제안된 기법이다. 하지만 이는 선형 SVM의 경우에만 사용이 가능하고. 이 문제를 해결하기 위해서 LRBF 커널이 제안된 바 있다. LRBF 커널은 기존의 RBF 커널을 사용한 SVM과 대등한 결과를 보이면서도 예측결과의 선형적 분석도 가능하게 한다. 본 논문에서는 노모그램(Nomogram)과 LRBF 커널을 사용한 SVM이 통합되어 있는 예측 툴 VRIFA를 제안한다. 이 툴은 사용자와 상호작용하며 비선형 SVM 모델의 내부구조를 데이타의 각 속성별로 보여주는 방법으로 사용자가 예측결과를 직관적으로 이해하도록 도와준다. VRIFA는 Nomogram기반의 피쳐선택(feature selection) 기능도 포함하고 있는데, 이 기능은 예측결과에 부정적인 영향을 끼치거나 중복된 연관성을 보이는 속성을 제거함으로써 모델의 정확도를 높이는 데 기여한다. 그리고 데이터에 포함된 클래스의 비율이 한 쪽으로 치우쳐져 있는 경우에는 ROC 곡선 넓이(AUC)를 예측결과를 평가하기 위한 측도로 사용할 수 있다. 이 툴은 컴퓨터-기반의 질병 예측 혹은 질병의 위험 요소 분석에 대해 연구하는 연구자들에게 유용하게 사용될 것으로 전망하는 바이다.

분광 유사도 커널을 이용한 하이퍼스펙트럴 영상의 Support Vector Machine(SVM) 분류 (Support Vector Machine Classification of Hyperspectral Image using Spectral Similarity Kernel)

  • 최재완;변영기;김용일;유기윤
    • 대한공간정보학회지
    • /
    • 제14권4호통권38호
    • /
    • pp.71-77
    • /
    • 2006
  • 통계학습이론에 기반하고 있는 Support Vector Machine(SVM)은 구조적 위험 최소화원리를 바탕으로 하는 학습 알고리즘이다. 일반적으로SVM은 비선형 경계를 결정하고 자료를 분류하기 위해서 커널(kernel)을 사용한다. 그러나 기존의 커널들은 두 벡터간의 내적이나 거리차를 이용하여 유사도를 측정하기 때문에 하이퍼스펙트럴 영상분류에 효과적으로 적용될 수 없다. 본 논문에서는 이를 해결하기 위해서 분광유사도커널(Spectral similarity kernel)을 제안한다. 분광유사도 커널은 두 벡터의 거리차와 각 차이를 모두 계산하는 지역적 커널로 하이퍼스펙트럴 영상의 분광특성을 효과적으로 고려할 수 있다. 이를 검증하기 위해서 Hyperion 영상에 polynomial kernel, RBF kernel을 사용한 SVM 분류기와 분광유사도 커널을 사용한 SVM 분류기를 적용하여 토지피복분류를 시행하였다. 분류결과를 통해서 분광유사도 커널을 사용한 SVM 분류기가 정량적, 공간적으로 가장 우수한 결과를 보임을 확인하였다.

  • PDF

KOMPSAT-2 영상의 토지피복분류에 적합한 SVM 커널 함수 비교 연구 (A Comparative Study on Suitable SVM Kernel Function of Land Cover Classification Using KOMPSAT-2 Imagery)

  • 강남이;고신영;조기성
    • 대한공간정보학회지
    • /
    • 제21권2호
    • /
    • pp.19-25
    • /
    • 2013
  • 최근 고해상도 위성영상은 자연자원이나 환경 관리에 필요로 하는 토지 피복 및 이용 현황자료 분석 등에 유용하게 사용되고 있다. 영상처리 알고리즘 중 SVM 알고리즘은 최근 다양한 분야에서 이용되고 있다. 그러나 SVM 알고리즘은 다양한 커널 함수 및 매개변수에 의해 그 정확도가 달라진다. 따라서 본 논문에서는 SVM 알고리즘의 대표적 커널 함수를 KOMPSAT-2의 영상자료에 적용하고 토지피복결과를 검사점을 이용하여 정확도 분석을 실시하였다. 또한 대상지의 토지피복분류에 적합한 SVM의 커널 함수 선정하기 위해 분석을 실시하였다. 그 결과 전체 분류 정확도에는 Polynomial 커널 함수가 가장 높은 정확도를 보였으며 분류 항목별 정확도에서의 가장 적절한 커널 함수는 Polynomial, RBF 커널 함수임을 알 수 있었다.

GMM-supervector를 사용한 SVM 기반 화자분류에 대한 연구 (A Study on SVM-Based Speaker Classification Using GMM-supervector)

  • 이경록
    • 전기전자학회논문지
    • /
    • 제24권4호
    • /
    • pp.1022-1027
    • /
    • 2020
  • 본 논문에서는 GMM-supervector를 특징 파라미터로 하는 SVM 기반 화자 분류에 대해서 실험하였다. 실험을 위한 화자 클러스터를 생성하기 위해서 기존의 SNR 기반 가중치를 반영한 KL거리 기반 화자변화검출을 실행하였다. SVM 기반 화자 분류는 2단계로 이루어져있다. 1단계는 UBM과 화자 모델들간의 SVM 기반 분류를 시행하여 각 클러스터에 화자 정보를 인덱싱한 다음 화자별로 그룹핑한다. 2단계는 화자 클러스터 그룹에 UBM과 화자모델들간의 SVM 기반 분류를 시행한다. SVM의 커널 함수로는 Linear와 RBF를 사용하였다. 실험결과, 1단계에서는 Linear 커널이 화자 클러스터 148개, MDR 0, FAR 47.3, ER 50.7로 좋은 성능으로 보였다. 2단계 실험결과도 Linear 커널이 화자 클러스터 109개, MDR 1.3, FAR 28.4, ER 32.1로 좋은 성능을 보였다.

방사형 기저 함수 기반 다항식 뉴럴네트워크 설계 및 최적화 (Design of RBF-based Polynomial Neural Network And Optimization)

  • 김기상;진용하;오성권
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2009년도 제40회 하계학술대회
    • /
    • pp.1863_1864
    • /
    • 2009
  • 본 연구에서는 복잡한 비선형 모델링 방법인 RBF 뉴럴 네트워크(Radial Basis Function Neural Network)와 PNN(Polynomial Neural Network)을 접목한 새로운 형태의 Radial Basis Function Polynomial Neural Network(RPNN)를 제안한다. RBF 뉴럴 네트워크는 빠른 학습 시간, 일반화 그리고 단순화의 특징으로 비선형 시스템 모델링 등에 적용되고 있으며, PNN은 생성된 노드들 중에서 우수한 결과값을 가진 노드들을 선택함으로써 모델의 근사화 및 일반화에 탁월한 효과를 가진 비선형 모델링 방법이다. 제안된 RPNN모델의 기본적인 구조는 PNN의 형태를 이루고 있으며, 각각의 노드는 RBF 뉴럴 네트워크로 구성하였다. 사용된 RBF 뉴럴 네트워크에서의 커널 함수로는 FCM 클러스터링을 사용하였으며, 각 노드의 후반부는 다항식 구조로 표현하였다. 또한 입력개수, 입력변수, 클러스터의 개수를 PSO알고리즘(Particle Swarm Optimization)을 사용하여 최적화 시켰다. 제안한 모델의 적용 및 유용성을 비교 평가하기 위하여 비선형 데이터를 이용하여 그 우수성을 보인다.

  • PDF

방사형 기저 함수 기반 다항식 뉴럴네트워크 설계 (Design of RBF-based Polynomial Neural Network)

  • 김기상;진용하;오성권;김현기
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2009년도 정보 및 제어 심포지움 논문집
    • /
    • pp.261-263
    • /
    • 2009
  • 본 연구에서는 복잡한 비선형 모델링 방법인 RBF 뉴럴 네트워크(Radial Basis Function Neural Network)와 PNN(Polynomial Neural Network)을 접목한 새로운 형태의 Radial Basis Function Polynomial Neural Network(RPNN)를 제안한다. RBF 뉴럴 네트워크는 빠른 학습 시간, 일반화 그리고 단순화의 특징으로 비선형 시스템 모델링 등에 적용되고 있으며, PNN은 생성된 노드들 중에서 우수한 결과값을 가진 노드들을 선택함으로써 모델의 근사화 및 일반화에 탁월한 효과를 가진 비선형 모델링 방법이다. 제안된 RPNN모델의 기본적인 구조는 PNN의 형태를 이루고 있으며, 각각의 노드는 RBF 뉴럴 네트워크로 구성하였다. 사용된 RBF 뉴럴 네트워크에서의 커널 함수로는 FCM 클러스터링을 사용하였으며, 각 노드의 후반부는 다항식 구조로 표현하였다. 또한 각 노드의 후반부 파라미터들은 최소자승법을 이용하여 최적화 하였다. 제안한 모델의 적용 및 유용성을 비교 평가하기 위하여 비선형 데이터를 이용하여 그 우수성을 보인다.

  • PDF

질감 분석을 이용한 유도 전동기의 기계적 결함 분류 (Mechanical Fault Classification of an Induction Motor using Texture Analysis)

  • 장원철;박용훈;강명수;김종면
    • 한국컴퓨터정보학회논문지
    • /
    • 제18권12호
    • /
    • pp.11-19
    • /
    • 2013
  • 본 논문에서는 유도 전동기의 기계적 결함을 진단하기 위해 진동신호와 질감 분석을 이용한 알고리즘을 제안한다. 영상화된 결함 신호가 갖는 무늬, 색상 대비의 특징을 분석하고, 그레이레벨 동시발생행렬(Gray-Level Co-occurrence Model, GLCM)을통해 세 가지 질감특징을추출한다. 추출된 세 가지질감 특징을 RBF(Radial Basis Function) 커널 함수를 사용하는 다중레벨 서포터 벡터 머신(Multi-Level Support Vector Machine, MLSVM)의 입력으로 사용하여 결함 유형을 분류한다. 결함 유형을 분류하는 최적의 MLSVM을 위한 RBF 커널 함수의 매개변수를 찾기 위해 매개변수 값을 0.3부터 1.0으로 바꿔가며 분류성능을 평가한 결과, 결함 유형별로 0.3에서 0.6사이의 매개변수 값에서 100%에 가까운 분류 정확성을 보였다. 또한 15dB, 20dB의 잡음이 첨가된 진동신호를 이용한 실험에서도 평균 98%이상의 높은 분류 정확성을 보였다.

SVR을 이용한 이동로봇의 실내환경 인식 (Indoor Environment Recognition of Mobile Robot Using SVR)

  • 심준홍;최정원
    • 조명전기설비학회논문지
    • /
    • 제24권8호
    • /
    • pp.119-125
    • /
    • 2010
  • 본 논문에서는 초음파를 이용하여 자율 운행을 하는 이동로봇이 가지는 물리적인 문제점을 해결하기 위한 방안을 제시 한다. 이동 로봇이 주변 환경을 인지함에 있어서 각종 센서를 사용한다. 그러한 센서들은 항상 올바른 값을 주지 않는다. 센서값에는 항상 노이즈가 포함되어 있는데 이것을 해결하기 위해서 학습 알고리즘인 SVR(Support Vector Regression)을 사용하여 주변 환경을 센싱한 초음파 값을 토대로 주변 환경을 추정할 수 있다. SVR을 사용하기 위해서는 SVR의 요소인 parameter와 커널을 선정해야 한다. SVR의 요소를 선정함에 있어서 정해진 값이 존재하지 않기 때문에 실험을 통해서 가장 적합한 parameter 값을 선정해야 한다. 또한 커널을 선정함에 있어서는 일반화가 가장 잘 되어 있는 RBF(Radial Basis Function)커널을 사용하였다. 본 논문에서는 세가지 환경에서의 실험을 통하여 SVR을 이용하여 센서값의 오류를 개선할 수 있음을 나타내었다.

데이터 구조에 강건한 K 관리도의 관리 모수 결정 (Robust determination of control parameters in K chart with respect to data structures)

  • 박잉근;이성임
    • Journal of the Korean Data and Information Science Society
    • /
    • 제26권6호
    • /
    • pp.1353-1366
    • /
    • 2015
  • 공정의 안정성을 평가하기 위해 사용되는 Shewhart 관리도 기법은 최근 다양한 분야에서 널리 응용되고 있지만, 품질 특성치에 대한 엄격한 확률분포를 가정한다. 하지만 현업에서 수집되고 있는 데이터의 확률분포는 알려진 경우가 많지 않으며, 다변량 데이터로 확장될수록 확률분포를 결정하는데 더 큰 어려움이 따른다. 이러한 문제점을 해결하기 위해 다양한 비모수 관리도 기법이 연구되었는데, 최근 연구되고 있는 비모수 관리도 기법 중 하나인 RBF (Radial Basis Function) 커널 기반의 SVDD (Support Vector Data Description) 관리도는 관리상태 하의 데이터 영역에 대한 경계를 결정함으로써 공정의 이상상태를 탐지하는 기법으로 K 관리도로 불리우며, 다양한 분야에서 적용되고 있다. 그런데 K 관리도를 적용하기 위해서는 관리도의 성능을 결정짓는 커널모수 등의 선택이 중요하며, 관리도를 작성하기 전에 미리 결정되어야 한다. 이를 위해 기존의 연구들은 격자 탐색법 등을 활용하여 모수를 결정하고 있지만, 선택 가능한 범위에 대한 반복적인 계산으로 최적값을 선택하고 있어 계산 비용이 커지고 또 시간 등의 문제로 실제 문제에 적용하기 어려운 점이 있다. 따라서 본 연구에서는 데이터의 구조에 따라 모의실험을 통해 선택 가능한 영역에서의 효율성을 비교 검토하고, 이를 바탕으로 쉽게 적용할 수 있는 새로운 모수 선택 방법을 제안하고자 한다. 이를 통해 데이터 구조에 대해 강건함을 보이는 모수의 선택과 K 관리도의 구성을 논의하고 실제 자료에 적용해 보았다.