• 제목/요약/키워드: EM Algorithm

검색결과 376건 처리시간 0.024초

영상흐림보정에서 EM 알고리즘의 일반해: 반복과정을 사용하지 않는 영상복원 (An Explicit Solution of EM Algorithm in Image Deblurring: Image Restoration without EM iterations)

  • 김승구
    • Communications for Statistical Applications and Methods
    • /
    • 제16권3호
    • /
    • pp.409-419
    • /
    • 2009
  • 본 연구에서는 영상흐림보정를 위한 EM 알고리즘의 일반형 해를 제공한다. 주어진 관측영상의 크기가 크거나 많은 반복을 필요로 할 때, EM 알고리즘의 반복은 매우 오랜시간이 걸리며 비실용적이다. 본 연구에서는 복원 영상의 유효영역 밖에서 약간의 근사로부터 해를 일반형으로 나타내고, 이것을 이산형 유한 푸리에 변환을 이용하여 EM 알고리즘의 반복과정을 사용하지 않으면서 매우 유효한 복원영상을 즉시 계산하는 방법을 제공한다.

점진적 EM 알고리즘에 의한 잠재토픽모델의 학습 속도 향상 (Accelerated Loarning of Latent Topic Models by Incremental EM Algorithm)

  • 장정호;이종우;엄재홍
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제34권12호
    • /
    • pp.1045-1055
    • /
    • 2007
  • 잠재토픽모델(latent topic model)은 데이타에 내재된 특징적 패턴이나 데이타 정의 자질들 간의 상호 관련성을 확률적으로 모델링하고 자동 추출하는 모델로서 최근 텍스트 문서로부터의 의미 자질 자동 추출, 이미지를 비롯한 멀티미디어 데이타 분석, 생물정보학 분야 등에서 많이 응용되고 있다. 이러한 잠재토픽모델의 대규모 데이타에 대한 적용 시 그 효과 증대를 위한 중요한 이슈 중의 하나는 모델의 효율적 학습에 관한 것이다. 본 논문에서는 대표적 잠재토픽모델 중의 하나인 PLSA (probabilistic latent semantic analysis) 기법을 대상으로 점진적 EM 알고리즘을 활용한, 기본 EM 알고리즘 기반의 기존 학습에 대한 학습속도 증진 기법을 제안한다. 점진적 EM 알고리즘은 토픽 추론 시 전체 데이타에 대한 일괄적 E-step 대신에 일부 데이타에 대한 일련의 부분적 E-step을 수행하는 특징이 있으며 이전 데이터 일부에 대한 학습 결과를 바로 다음 데이타 학습에 반영함으로써 모델 학습의 가속화를 기대할 수 있다. 또한 이론적인 측면에서 지역해로의 수렴성이 보장되고 기존 알고리즘의 큰 수정 없이 구현이 용이하다는 장점이 있다. 논문에서는 해당 알고리즘의 기본적인 응용과 더불어 실제 적용과정 상에서의 가능한 데이터 분할법들을 제시하고 모델 학습 속도 개선 면에서의 성능을 실험적으로 비교 분석한다. 실세계 뉴스 문서 데이타에 대한 실험을 통해, 제안하는 기법이 기존 PLSA 학습 기법에 비해 유의미한 수준에서 학습 속도 증진을 달성할 수 있음을 보이며 추가적으로 모델의 병렬 학습 기법과의 조합을 통한 실험 결과를 간략히 제시한다.

치우친 다변량 t-분포 혼합모형에 대한 최우추정 (An Alternating Approach of Maximum Likelihood Estimation for Mixture of Multivariate Skew t-Distribution)

  • 김승구
    • 응용통계연구
    • /
    • 제27권5호
    • /
    • pp.819-831
    • /
    • 2014
  • 치우친 다변량 t-분포 혼합을 적합하기 위해 Exact-EM 알고리즘이 사용된다. 그러나 이 방법은 E-step에서 매우 긴 처리시간을 요하는 다변량 절단 t-분포의 적률을 계산해야 한다. 본 논문에서는 이러한 문제점을 완화하기 위해 SPU-EM이라 명명한 알고리즘을 제안하는데, 이것은 Meng과 van Dyk (1997)의 AECM 알고리즘의 원리를 이용하여 다차원 적률의 계산상의 어려움을 해결한다. 결과적으로 제안된 방법은 Exact-EM 알고리즘 보다 빠른 처리시간으로 보장한다. 이를 입증하기 위해 실험을 통해 제안된 방법의 유효성을 보인다.

HAP 기반 네트워크에서의 EM 알고리즘을 사용한 실시간 이동 기지국 배치 (Realtime Mobile Base Station Placement with EM Algorithm for HAP based Network)

  • 정웅희;송하윤
    • 정보처리학회논문지C
    • /
    • 제17C권2호
    • /
    • pp.181-189
    • /
    • 2010
  • HAP(High Altitude Platform)은 지표면 17~22km위에 있는 성층권 영역에서 운행하는 정지 궤도 공중 플랫폼으로 공중에서의 MBS(Mobile Base Station)로서의 역할이 가능하다. HAP 기반 네트워크는 인공위성 시스템과 지상통신 시스템의 장점들을 가지고 있다. 본 논문에서는 HAP 기반망의 구성 및 그 유지를 위한 HAP MBS의 배치에 대해 연구한다. 이 연구를 위해 지상 이동 노드들을 클러스터링하기 위한 클러스터링 알고리즘이 사용되는데, 본 논문에서는 EM(Expectation Maximization) 클러스터링 알고리즘을 사용한다. 본 논문의 목표는 이동 통신 단말기들 간의 거리와, 각 단말기들의 이동속도를 고려하여 단말기들이 효율적으로 클러스터링 되어 HAP의 배치가 효율적일 수 있도록 EM 알고리즘을 적용 및 개선하고, 이 EM 알고리즘을 이용한 HAP MBS 배치기법을 인구밀도에 기반을 둔 RWP(Random Waypoint) 노드 모빌리티를 이용하여 그 성능을 평가한다.

결정적 어닐링 EM 알고리즘을 이요한 칼라 영상의 분할 (Segmentation of Color Image using the Deterministic Annealing EM Algorithm)

  • 조완현;박종현;박순영
    • 한국정보과학회논문지:데이타베이스
    • /
    • 제28권3호
    • /
    • pp.324-333
    • /
    • 2001
  • 본 논문에서는 가우시안 혼합모형을 이용한 새로운 칼라 영상의 분할 알고리즘을 제안한다. 기존의 EM 알고리즘의 문제점인 국부적 최대값의 문제를 해결하기 위하여 최대 엔트로피의 원리를 이용하는 결정적 어닐링 EM 알고리즘을 소개하였고, 여러 색상들로 구성된 영상에 대하여 가우시안 혼합모형을 가정하였으며, 결정적 어닐링 EM 알고리즘을 사용하여 이들의 모수를 추정하는 방법을 알아보았다. 또한 혼합모형에 성분의 수를 자동으로 결정할 수 있는 방법을 제시하였으며 선택된 최적의 혼합모형을 사용하여 각 화소에 대한 사후확률을 계산하고 이들의 최대값을 이용하여 영상분할을 실시하였다. 결정적 어닐링 EM 알고리즘이 기존의 EM 알고리즘보다 혼합모형의 모수를 더 정확하게 추정한다는 것과 혼합모형의 성분의 수를 결정하는 제안된 방법의 성능을 실험결과를 통하여 고찰하였고, 또한 두 가지 실제 영상을 통하여 제안된 알고리즘이 기존의 알고리즘 보다 영상을 더 효율적으로 분할 할 수 있음을 보였다.

  • PDF

바이어스필드에 의해 왜곡된 MRI 영상자료분할을 위한 EM 알고리즘 기반 접근법 (EM Algorithm-based Segmentation of Magnetic Resonance Image Corrupted by Bias Field)

  • 김승구
    • 응용통계연구
    • /
    • 제16권2호
    • /
    • pp.305-319
    • /
    • 2003
  • 본 연구에서는 바이어스 필드에 의해 왜곡된 MRI 영상에 대한 분할을 위해 확장된 EM 알고리즘을 기반으로 한 통계적 접근법을 제시한다. 영상의 명암값을 자료로 하는 분할기법들은 고주파 성분의 잡음 뿐만 아니라 영상을 불균질하게 만드는 바이어스 필드라는 저주파 성분의 왜곡에 특히 취약하다. 이 문제를 해결하기 위해 본 논문에서는 잡음을 효과적으로 제어하기 위해 마코프랜덤필드가 적용된 정규혼합모형을 고려하며, 효과적인 바이어스 필드의 보정을 위해 페널티-우도를 도입하여 추정하는 방법으로 고안되었다.

결측 공변량을 갖는 혼합회귀모형에서의 EM 알고리즘 (The EM algorithm for mixture regression with missing covariates)

  • 김형민;함건희;서병태
    • 응용통계연구
    • /
    • 제29권7호
    • /
    • pp.1347-1359
    • /
    • 2016
  • 혼합회귀모형은 반응 변수와 공변량 사이의 관계를 규명하는 유용한 통계적 모형으로 여러 분야에서 사용되어지고 있다. 하지만 실제로 혼합회귀모형을 이용하여 분석을 하는 과정에서 공변량이 결측값을 포함하는 문제는 흔하게 발생하며, 발생하는 결측의 유형 또한 다양하게 나타난다. 이러한 경우에 있어서 본 논문에서는 최대우도추정량을 구하기 위한 EM 알고리즘을 제안하고자 한다. 제안된 EM 알고리즘의 효용성을 모의실험을 통해 확인하였으며 또한 사례연구를 통해 제시된 방법이 어떻게 사용될수 있는지와 그 효용성을 함께 확인하였다.

선형판별분석에서 MCMC다중대체법의 효율에 관한 연구 (A Study on the efficiency of the MCMC multiple imputation In LDA)

  • 유희경;김명철
    • 대한안전경영과학회지
    • /
    • 제11권3호
    • /
    • pp.189-198
    • /
    • 2009
  • This thesis studies two imputation methods, the MCMC method and the EM algorithm, that take care of the problem. The performance of the two methods for the linear (or quadratic) discriminant analysis are evaluated under various types of incomplete observations. Based on simulated experiments, the effect of the imputation using the EM algorithm and the MCMC method are evaluated and compared in terms of the probability of misclassification and the RMSE. This is done for the various cases of incomplete observations. The cases are differentiated by missing rates, sample sizes, and distances between two classification groups. The studies show that the probability of misclassification and the RMSE of the EM algorithm method is lower than the MCMC method. Therefore the imputation using the EM algorithm is more efficient than the MCMC method. And the probability of misclassification of the method that all vectors of observations with missing values are omitted from analysis is lower than the EM algorithm and the MCMC method when the samples size is small and the rate of missing values is extremely big.

복합확률분포의 파라메타 추정을 위한 EM 알고리즘의 적용 연구 (An Approach for the Estimation of Mixture Distribution Parameters Using EM Algorithm)

  • 심대영;김상구
    • 한국ITS학회 논문지
    • /
    • 제22권4호
    • /
    • pp.35-47
    • /
    • 2023
  • 그동안 차두시간분포를 나타내는 확률분포로 음지수분포, Erlang 분포, 정규분포 등 다양한 단일확률분포들이 사용되어져 왔다. 그러나, 실제 도로에서 차두시간분포의 조사결과는 단일확률분포로서 설명하기 어려운 경우가 있었다. 본 연구는 차량의 차두시간에 대해 두 개의 정규분포가 일정한 관련성을 가지고 결합된 복합확률분포의 파라메타에 대해 최우추정법 중 하나인 EM 알고리즘을 이용하여 추정하는 접근방법을 시도하였다. 이에 대한 분석결과 기존에 알려진 단일확률분포로서 잘 설명되기 어려웠던 차량도착 차두시간 분포를 EM 알고리즘을 이용하여 복합확률분포의 파라메타를 추정하여 설명하였다. χ2 test 적합도 검정결과, 유의수준 1%에서 통계학적으로 유의성이 확보되어 EM 알고리즘을 이용한 복합확률분포의 파라메타 추정의 신뢰성이 입증되는 것으로 분석되었다.

Comparison of EM with Jackknife Standard Errors and Multiple Imputation Standard Errors

  • Kang, Shin-Soo
    • Journal of the Korean Data and Information Science Society
    • /
    • 제16권4호
    • /
    • pp.1079-1086
    • /
    • 2005
  • Most discussions of single imputation methods and the EM algorithm concern point estimation of population quantities with missing values. A second concern is how to get standard errors of the point estimates obtained from the filled-in data by single imputation methods and EM algorithm. Now we focus on how to estimate standard errors with incorporating the additional uncertainty due to nonresponse. There are some approaches to account for the additional uncertainty. The general two possible approaches are considered. One is the jackknife method of resampling methods. The other is multiple imputation(MI). These two approaches are reviewed and compared through simulation studies.

  • PDF