• 제목/요약/키워드: EM 알고리즘

검색결과 236건 처리시간 0.026초

X-means 확장을 통한 효율적인 집단 개수의 결정 (Extensions of X-means with Efficient Learning the Number of Clusters)

  • 허경용;우영운
    • 한국정보통신학회논문지
    • /
    • 제12권4호
    • /
    • pp.772-780
    • /
    • 2008
  • K-means는 알고리즘의 단순함과 효율적인 구현이 가능함으로 인해 군집화를 위해 현재까지 널리 사용되는 방법 중 하나이다. 하지만 K-means는 집단의 개수가 사전에 결정되어야 하는 근본적인 문제점이 있다. 이 논문에서는 BIC(Bayesian information criterion) 점수를 이용하여 효율적으로 집단의 개수를 추정할 수 있는 X-means 알고리즘을 확장한 두 가지 알고리즘을 제안한다. 제안한 방법은 기본적으로 X-means 방법을 따르면서 집단이 임의의 분산 행렬을 가질 수 있도록 함으로써 X-means 알고리즘이 원형 집단만을 허용함에 따른 over-fitting을 개선한다. 제안한 방법은 하나의 집단에서 시작하여 계속해서 집단을 나누어가는 하향식 방법으로, BIC score를 최대로 증가시키는 집단을 분할해 나간다. 제안한 알고리즘은 Modified X-means(MX-means)와 Generalized X-means(GX-means)의 두 가지로, 전자는 K-means 알고리즘을, 후자는 EM 알고리즘을 사용하여 현재 주어진 집단들에서 최적의 분할을 찾아낸다. MX-means는 GX-means보다 그 속도에서 앞서지만 집단들이 중첩 된 경우에는 올바른 집단을 찾아낼 수 없는 단점이 있다. GX-means는 실행 속도가 느린 단점이 있지만 집단들이 중첩된 경우에도 안정적으로 집단들을 찾아낼 수 있다. 이러한 점들은 일련의 실험을 통해서 확인할 수 있으며, 제안한 방법들이 기존의 방법들에 비해 나은 성능을 보임을 확인할 수 있다.

확장된 RNN을 활용한 사람재인식 시스템에 관한 연구 (A Study on Person Re-Identification System using Enhanced RNN)

  • 최석규;허문걸
    • 한국인터넷방송통신학회논문지
    • /
    • 제17권2호
    • /
    • pp.15-23
    • /
    • 2017
  • 사람의 빈번한 자세 변화, 그리고 background clutter과 occlusion으로 인해 Person Re-identificatio는 컴퓨터 비전 분야에서 가장 어려운 부분이다. 비겹침 카메라의 이미지는 어떤 사람을 다른 사람과 구별하기 어렵게 한다. 더욱 나은 성능 일치를 달성하기 위해 대부분의 방법은 특징 선택과 거리 메트릭을 개별적으로 사용한다. 그렇게 차별화된 표현과 적절한 거리를 얻을 수 있고, 사람과 중요한 특징의 무시 사이의 유사성을 설명할 수 있다. 이러한 상황은 우리가 이 문제를 다루는 새로운 방법을 고려하도록 한다. 본 논문에서는 Person Re-identification를 위한 3단 계층네트워크를 갖는 향상되고 반복적인 신경 회로망을 제안하였다. 특히 RNN(Revurrent Neural Network) 모델은 반복적인 EM(Expectation Maximum) 알고리즘과 3단 계층 네트워크를 포함하고, 차별적 특징과 지표 거리를 공동으로 학습한다. 반복적인 EM 알고리즘은 RNN 이전에 연속해 있는 CNN(Convoutional Neural Network)의 특징 추출 능력을 충분히 사용할 수 있다. 자율 학습을 통해 EM 프레임 워크는 패치의 레이블을 변경하고 더 큰 데이터 세트를 훈련할 수 있다. 네트워크를 더 잘 훈련시키기 위해 3단 계층 네트워크를 통해 CNN, RNN 및 풀링 계층이 공동으로 특징 추출을 할 수 있다. 실험 결과에 따르면 비전처리 분야에서 다른 연구자의 접근 방식과 비교할 때 이 방법은 경쟁력 있는 정확도를 얻을 수 있다. 이 방법에 대한 다른 요소의 영향은 향후 연구에서 분석되고 평가될 것이다.

LBG 알고리즘 기반 데이터마이닝을 이용한 네트워크 침입 탐지율 향상 (Improvement of Network Intrusion Detection Rate by Using LBG Algorithm Based Data Mining)

  • 박성철;김준태
    • 지능정보연구
    • /
    • 제15권4호
    • /
    • pp.23-36
    • /
    • 2009
  • 네트워크 침입 탐지는 데이터마이닝 기법을 활용하면서 지속적으로 발전하여 왔다. 데이터마이닝에 의한 침입 탐지 기법에는 클래스 레이블을 이용한 감독 학습과 클래스 레이블이 없는 비감독 학습 방법이 있다. 본 논문에서는 클래스 레이블이 없는 비감독 학습 방법인 LBG 클러스터링 알고리즘을 이용하여 네트워크 침입 탐지 정확도를 높이는 방법을 연구하였다. 임의의 초기 중심값들로 시작하여 유클리디언 거리 기반에 의해 클러스터링을 수행하는 K-means 방법은 잡음(noisy) 데이터와 이상치(outlier)에 대하여 취약하다는 단점이 있다. 비균일이진 분할에 의한 클러스터링 알고리즘은 초기값 없이 이진분할에 의해 클러스터링을 수행하며 수행 속도가 빠르다. 본 논문에서는 이 두 알고리즘의 장단점을 통합한 EM(Expectation Maximization) 기반의 LBG 알고리즘을 네트워크 침입 탐지에 적용하였으며, KDD 컵 데이터셋을 대상으로 한 실험을 통하여 LBG 알고리즘을 이용함으로써 침입 탐지의 정확도를 높일 수 있음을 보였다.

  • PDF

3GPP2 SMV의 실시간 음성/음악 분류 성능 향상을 위한 Gaussian Mixture Model의 적용 (Analysis and Implementation of Speech/Music Classification for 3GPP2 SMV Based on GMM)

  • 송지현;이계환;장준혁
    • 한국음향학회지
    • /
    • 제26권8호
    • /
    • pp.390-396
    • /
    • 2007
  • 본 논문에서는 음성 인식과 음악 인식에서 뛰어난 성능을 보이는 Expectation-Maximization(EM) 알고리즘 기반의 패턴인식기법인 가우시안 혼합모델(Gaussian Mixture Model, GMM)을 이용하여 기존의 3GPP2 Selectable Mode Vocoder(SMV)의 실시간 음성/음악 분류 성능을 향상 시키는 방법을 제안한다 SMV의 음성/음악 실시간 분류 알고리즘에서 사용된 특징벡터와 분류방법을 분석하고, 이를 기반으로 분류성능향상을 위해 패턴인식 알고리즘인 GMM을 도입한다. 구체적으로, SMV의 음성/음악 분류알고리즘에서 사용되어진 특징벡터만을 선택적으로 사용하여 효과적인 GMM을 구성한 실시간 분류기법이 제시되었다. SMV의 음성/음악 분류에 적용한 GMM의 성능 평가를 위해 SMV 원래의 분류알고리즘과 비교하였으며, 다양한 음악장르에 대해 시스템의 성능을 평가한 결과 GMM을 이용하였을 때 기존의 SMV의 방법보다 우수한 음성/음악 분류 성능을 보였다.

LSTM-RNN 기반 음성합성을 위한 파라미터 생성 알고리즘 (Parameter Generation Algorithm for LSTM-RNN-based Speech Synthesis)

  • 박상준;한민수
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2017년도 하계학술대회
    • /
    • pp.105-106
    • /
    • 2017
  • 본 논문에서는 최대 우도 기반 파라미터 생성 알고리즘을 적용하여 인공 신경망의 출력인 음향 파라미터 열의 정확성 및 자연성을 향상시키는 방법을 제안하였다. 인공 신경망의 출력으로 정적 특징벡터 뿐 만 아니라 동적 특징벡터도 함께 사용하였고, 미리 계산된 파라미터 분산을 파라미터 생성에 사용하였다. 추정된 정적, 동적 특징벡터의 평균, 분산을 EM 알고리즘에 적용하여 최대 우도 기준 파라미터를 추정할 수 있다. 제안된 알고리즘은 파라미터 생성 시 동적 특징벡터 및 분산을 함께 적용하여 시간축에서의 자연성을 향상시켰다. 제안된 알고리즘의 객관적 평가로 MCD, F0 의 RMSE 를 측정하였고, 주관적평가로 선호도 평가를 실시하였다. 그 결과 기존 알고리즘 대비 객관적, 주관적 성능이 향상되는 것을 검증하였다.

  • PDF

행작용 최대우도 알고리즘을 사용한 컴프턴 산란 데이터로부터의 3차원 영상재구성 (Three-Dimensional Image Reconstruction from Compton Scattered Data Using the Row-Action Maximum Likelihood Algorithm)

  • 이미노;이수진;;김수미;이재성
    • 대한의용생체공학회:의공학회지
    • /
    • 제30권1호
    • /
    • pp.56-65
    • /
    • 2009
  • Compton imaging is often recognized as a potentially more valuable 3-D technique in nuclear medicine than conventional emission tomography. Due to inherent computational limitations, however, it has been of a difficult problem to reconstruct images with good accuracy. In this work we show that the row-action maximum likelihood algorithm (RAMLA), which have proven useful for conventional tomographic reconstruction, can also be applied to the problem of 3-D reconstruction of cone-beam projections from Compton scattered data. The major advantage of RAMLA is that it converges to a true maximum likelihood solution at an order of magnitude faster than the standard expectation maximiation (EM) algorithm. For our simulations, we first model a Compton camera system consisting of the three pairs of scatterer and absorber detectors placed at x-, y- and z-axes, and generate conical projection data using a software phantom. We then compare the quantitative performance of RAMLA and EM reconstructions in terms of the percentage error. The net conclusion based on our experimental results is that the RAMLA applied to Compton camera reconstruction significantly outperforms the EM algorithm in convergence rate; while computational costs of one iteration of RAMLA and EM are about the same, one iteration of RAMLA performs as well as 128 iterations of EM.

최대 추정 기법과 최소 평균 자승 알고리즘을 이용한 초음파 비파괴검사 신호 분류법 (Classification of Ultrasonic NDE Signals Using the Expectation Maximization (EM) and Least Mean Square (LMS) Algorithms)

  • 김대원
    • 비파괴검사학회지
    • /
    • 제25권1호
    • /
    • pp.27-35
    • /
    • 2005
  • 초음파 검사 방법은 여러 가지 물질들의 흠집이나 틈새, 티끌 등을 감지해내는데 널리 쓰이고 있다. 그 중 초음파 신호를 분석하는 절차는 전체의 신호처리 과정에서 아주 중요한 역할을 담당하고 있다. 이 논문은 최소평균 제곱 (LMS) 알고리즘을 이용하여 핵 전력 발전소에서 쓰이는 증기 발생기 튜브로부터 감지된 초음파 비파괴검사 신호를 분류 해내는 것에 관한 것이다. 이 초음파 신호는 튜브내의 흠집이나 틈새로부터 감지된 신호일수도 있고 또는 튜브 내의 침전물에 의해서 발생된 신호일 수도 있는데 이 두 가지 신호는 매우 유사하기 때문에 반드시 분류를 해내어 침전물에 의한 신호일 경우는 무방하지만 흠집이나 갈라진 틈새에서 나오는 신호일 경우는 더 이상의 오염이나 사고 등을 방지하기 위해 수리 또는 교체 등의 후속 조치로 이어져야 한다. 이러한 절차를 밟기 위하여 증기 발생기 튜브의 내부에서의 초음파 센서로부터 증기 발생기 튜브 사이의 거리를 측정하는데 모델링 기법에 기반한 deconvolution 방법이 제시되었으며 이 방법은 space alternating generalized expectation maximization (SAGE) 알고리즘을 이차원 미분 파라미터인 Hessian의 사용으로 인하여 수렴 속도가 빠른 Newton-Raphson 알고리즘과 함께 병행 사용하여 초음파 신호의 초점 도달 시간과 그 크기를 측정하여 초점 도달 거리에 따라 두 종류의 신호를 분류, 차별화 하는 기법이다. 이 알고리즘을 이용하여 흠집이나 틈새로부터 나온 신호일 경우와 퇴적물에 의해 나온 신호일 경우로 분류되었고 그 결과가 이 논문에 제시되었다.

입자 군집 최적화법을 이용한 소형루프 전자탐사 자료의 층서구조 전기비저항 역해석 (Layered-earth Resistivity Inversion of Small-loop Electromagnetic Survey Data using Particle Swarm Optimization)

  • 장한길로
    • 지구물리와물리탐사
    • /
    • 제22권4호
    • /
    • pp.186-194
    • /
    • 2019
  • 물리탐사 자료의 역산 해를 찾는데 흔히 이용되는 결정론적 해법은 지역 최소점에 빠져 적절한 해에 수렴하지 못할 가능성이 크다는 단점이 존재한다. 이 문제를 해결하기 위한 대안 중 하나는 확률론적 접근법에 기반한 전역 최적화 방법을 이용하는 것이며, 여러 방법들 중에서 입자 군집 최적화(Particle Swarm Optimization, PSO)법의 적용사례가 많이 소개되었다. 이 논문에서는 PSO법을 이용한 소형루프 전자탐사 자료의 층서 구조 전기비저항 역해석 알고리즘을 개발하고 합성자료를 이용하여 역산실험을 수행하였다. 실험결과 기존의 Gauss-Newton 알고리즘으로는 최적의 역산해를 찾는데 어려움이 있는 소형루프 전자탐사 자료의 역산 시도에 PSO 방법을 적용하면 성공률을 높일 수 있음을 확인하였다.

주변 후방산란 통신에서의 채널 추정기법 (Method for Channel Estimation in Ambient Backscatter Communication)

  • 김수현;이동구;선영규;심이삭;황유민;신요안;김동인;김진영
    • 한국인터넷방송통신학회논문지
    • /
    • 제19권4호
    • /
    • pp.7-12
    • /
    • 2019
  • 주변 후방산란 통신은 송신 전력효율 문제로 기존 RF통신에서 채널 추정방법인 파일럿(pilot) 신호를 통한 채널 추정기법이 제한된다. 제한된 송신 전력 환경에서 기존 주변 후방산란통신의 연구는 채널 상태로 인한 신호 변동을 고려하지 않은 이상적인 채널로 가정을 하고 연구되어 왔다. 본 논문은 주변 후방산란 통신 시스템에서 정규분포를 따르는 채널 상태인 주변 후방산란 통신 시스템에서 채널 추정 방법으로 블라인드 채널 추정기법 중 하나인 기댓값-최대화 알고리즘을 제안한다. 모의실험은 제안한 시스템 모델에서 기댓값-최대화 알고리즘과 추정값의 최소 분산을 나타내는 Bayesian Cramer-Rao 하한 경계를 이용하여 평균 제곱 오차(Mean Square Error, MSE)값이 하한 경계와 근접해 가는 것을 확인하고, 주변 후방산란 통신 시스템에서 채널 파라미터의 추정이 가능함을 증명한다.

자동화 프로세스를 통한 안테나 설계 (Antenna Design using Automated Process)

  • 김용진
    • 한국산학기술학회:학술대회논문집
    • /
    • 한국산학기술학회 2009년도 추계학술발표논문집
    • /
    • pp.645-648
    • /
    • 2009
  • 본 논문에서는 안테나 설계에 있어서 자동화 설계 프로세스를 제안하고자 한다. 안테나 설계는 최적화를 위한 반복적인 시뮬레이션 과정을 거쳐야 하며, 설계된 안테나의 실제 적용 시 튜닝 과정을 통한 시간이 많이 소요되는 경우가 있다. 본 논문에서는 유전자 알고리즘을 이용 하여 초기 안테나 모델 설계 시 안테나 설계자에게 사용 가능한 다양한 모델을 제시하며, 안테나 설계 시 중요 인자를 제시함으로써 초기 설계 및 방향설정의 시간을 줄이고자 한다. 사용된 최적화 알고리즘은 Non-dominated Sorting 유전자 알고리즘이며, 이 알고리즘은 multi-objective를 가지는 문제 해결에 적합한 알고리즘이다. 안테나 설계를 위한 EM computational tool로는 ESP V.5가 사용되었다. 시뮬레이션 결과를 통해 사용 가능한 적합한 안테나 모델을 제시하였다.

  • PDF