• 제목/요약/키워드: MCMC sampling

검색결과 48건 처리시간 0.025초

멀티콥터의 효율적 멀티미디어 전송을 위한 이미지 복원 기법의 성능 (Performance of Image Reconstruction Techniques for Efficient Multimedia Transmission of Multi-Copter)

  • 황유민;이선의;이상운;김진영
    • 한국위성정보통신학회논문지
    • /
    • 제9권4호
    • /
    • pp.104-110
    • /
    • 2014
  • 본 논문에서는 무인항공기인 방송용 멀티콥터를 이용한 Full-HD급 이상 화질의 이미지를 효율적으로 전송하기 위해 이미지 압축 센싱 기법을 적용하고, Sparse 신호의 효율적 복원을 위해 Turbo 알고리즘과 Markov chain Monte Carlo (MCMC) 알고리즘의 복원 성능을 모의실험을 통해 비교 분석하였다. 제안된 복원 기법은 압축 센싱에 기반하여 데이터 용량을 줄이고 빠르고 오류 없는 원신호 복원에 중점을 두었다. 다수의 이미지 파일로 모의실험을 진행한 결과 Loopy belief propagation(BP) 기반의 Turbo 복원 알고리즘이 Gibbs sampling기반 알고리즘을 수행하는 MCMC 알고리즘 보다 평균 복원 연산 시간, NMSE 값에서 우수하여 보다 효율적인 복원 방법으로 생각된다.

그리드 단체 위의 디리슐레 분포에서 마르코프 연쇄 몬테 칼로 표집 (MCMC Algorithm for Dirichlet Distribution over Gridded Simplex)

  • 신봉기
    • 정보과학회 컴퓨팅의 실제 논문지
    • /
    • 제21권1호
    • /
    • pp.94-99
    • /
    • 2015
  • 비모수 베이스 통계학, 확률적 표집에 기반한 추론 등이 기계학습의 주요 패러다임으로 등장하면서 디리슐레(Dirichlet) 분포는 최근 다양한 그래프 모형 곳곳에 등장하고 있다. 디리슐레 분포는 일변수 감마 분포를 벡터 분포로 확장한 형태의 하나이다. 본 논문에서는 감마 분포를 갖는 임의의 자연수 X를 K개의 자연수의 합으로 임의 분할 할 때 각 부분의 크기 비율을 디리슐레 분포에서 표집하는 방법을 제안한다. 일반적으로 디리슐레 분포는 연속적인 (K-1)-단체(simplex) 위에 정의 되지만 자연수로 분할하는 표본은 자연수라는 조건 때문에 단체 내부의 이산 그리드 점에만 정의된다. 본 논문에서는 단체 위의 그리드 상의 이웃 점들의 확률 분포로부터 마르코프연쇄 몬테 칼로(MCMC) 제안 분포를 정의하고 일련의 표본들의 마르코프 연쇄를 구현하는 알고리듬을 제안한다. 본 방법은 마르코프 모델, HMM 및 준-HMM 등에서 각 상태별 시간 지속 분포를 표현하는데 활용 가능하다. 나아가 최근 제안된 전역-지역(global-local) 상태지속 분포를 동시에 모형화하는 감마-디리슐레 HMM에도 응용가능하다.

Geostatistics for Bayesian interpretation of geophysical data

  • Oh Seokhoon;Lee Duk Kee;Yang Junmo;Youn Yong-Hoon
    • 한국지구물리탐사학회:학술대회논문집
    • /
    • 한국지구물리탐사학회 2003년도 Proceedings of the international symposium on the fusion technology
    • /
    • pp.340-343
    • /
    • 2003
  • This study presents a practical procedure for the Bayesian inversion of geophysical data by Markov chain Monte Carlo (MCMC) sampling and geostatistics. We have applied geostatistical techniques for the acquisition of prior model information, and then the MCMC method was adopted to infer the characteristics of the marginal distributions of model parameters. For the Bayesian inversion of dipole-dipole array resistivity data, we have used the indicator kriging and simulation techniques to generate cumulative density functions from Schlumberger array resistivity data and well logging data, and obtained prior information by cokriging and simulations from covariogram models. The indicator approach makes it possible to incorporate non-parametric information into the probabilistic density function. We have also adopted the MCMC approach, based on Gibbs sampling, to examine the characteristics of a posteriori probability density function and the marginal distribution of each parameter. This approach provides an effective way to treat Bayesian inversion of geophysical data and reduce the non-uniqueness by incorporating various prior information.

  • PDF

베이지안 방식에 의한 지구물리 역산 문제의 접근 (A Bayesian Approach to Geophysical Inverse Problems)

  • 오석훈;정승환;권병두;이희순;정호준;이덕기
    • 지구물리와물리탐사
    • /
    • 제5권4호
    • /
    • pp.262-271
    • /
    • 2002
  • 본 연구에서는 지구물리 자료의 베이지안 역산을 효과적으로 수행하는 방법에 관해 논의하였다. 베이지안 처리에서 가장 문제가 되는 사전확률분포를 구하기 위해 지구통계학적 방법을 적용하였으며, 사후확률분포의 추정을 위해 MCMC(Markov Chain Monte Carlo) 방법을 적용하였다. 쌍극자배열 전기비저항 탐사 자료의 2차원 역산을 위해 슐럼버저배열 전기비저항탐사 자료와 시추공 자료를 사전 정보로 이용하였으며, 이들 사전정보에 대해 지구통계학적 방법을 적용하여 사전확률분포를 작성하였다. 쌍극자배열 전기비저항 탐사 자료를 최대 우도함수로 하는 사후확률분포는 차원이 매우 높은 적분을 요구하므로, 이를 추정하기 위해 MCMC기술을 적용하였으며, 보다 효율적인 접근을 위해 Gibbs샘플링 방법을 이용하였다. 그 결과 비모수적 방식으로 사후확률분포를 분석함으로써 보다 신뢰성 있는 해를 구할 수 있었으며, 주변화(marginalization)된 사후확률분포를 이용하여 다양한 분석을 적용할 수 있었다.

Improved MCMC Simulation for Low-Dimensional Multi-Modal Distributions

  • Ji, Hyunwoong;Lee, Jaewook;Kim, Namhyoung
    • Management Science and Financial Engineering
    • /
    • 제19권2호
    • /
    • pp.49-53
    • /
    • 2013
  • A Markov-chain Monte Carlo sampling algorithm samples a new point around the latest sample due to the Markov property, which prevents it from sampling from multi-modal distributions since the corresponding chain often fails to search entire support of the target distribution. In this paper, to overcome this problem, mode switching scheme is applied to the conventional MCMC algorithms. The algorithm separates the reducible Markov chain into several mutually exclusive classes and use mode switching scheme to increase mixing rate. Simulation results are given to illustrate the algorithm with promising results.

GPU 를 활용한 스캔라인 블록 Gibbs 샘플링 기법의 가속 (Accelerating Scanline Block Gibbs Sampling Method using GPU)

  • ;김원식;;박인규
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송공학회 2014년도 하계학술대회
    • /
    • pp.77-78
    • /
    • 2014
  • A new MCMC method for optimization is presented in this paper, which is called the scanline block Gibbs sampler. Due to its slow convergence speed, traditional Markov chain Monte Carlo (MCMC) is not widely used. In contrast to the conventional MCMC method, it is more convenient to parallelize the scanline block Gibbs sampler. Since The main part of the scanline block Gibbs sampler is to calculate message between each edge, in order to accelerate the calculation of messages passing in scanline sampler, it is parallelized in GPU. It is proved that the implementation on GPU is faster than on CPU based on the experiments on the OpenGM2 benchmark.

  • PDF

베이지안 통계 추론 (On the Bayesian Statistical Inference)

  • 이호석
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2007년도 한국컴퓨터종합학술대회논문집 Vol.34 No.1 (C)
    • /
    • pp.263-266
    • /
    • 2007
  • 본 논문은 베이지안 통계 추론에 대하여 논의한다. 논문은 베이지안 추론, Markov Chain과 Monte Carlo 적분, MCMC(Markov Chain Monte Carlo) 기법, Metropolis-Hastings 알고리즘, Gibbs 샘플링, Maximum Likelihood Estimation, EM 알고리즘, 상실된 데이터 보완 기법, BMA(Bayesian Model Averaging) 순서로 논의를 진행한다. 이러한 통계적 기법들은 대용량의 데이터를 처리하는 생물학, 의학, 생명 공학, 과학과 공학, 그리고 일반 데이터 조사와 처리 등에 사용되고 있으며, 최적의 추론 결과를 이끌어 내는데 중요한 방법을 제공하고 있다. 그리고 마지막으로 PC(Principal Component) 분석 기법에 대하여 논의한다. PC 분석 기법도 데이터 분석과 연구에 많이 활용된다.

  • PDF

Adaptive MCMC-Based Particle Filter for Real-Time Multi-Face Tracking on Mobile Platforms

  • Na, In Seop;Le, Ha;Kim, Soo Hyung
    • International Journal of Contents
    • /
    • 제10권3호
    • /
    • pp.17-25
    • /
    • 2014
  • In this paper, we describe an adaptive Markov chain Monte Carlo-based particle filter that effectively addresses real-time multi-face tracking on mobile platforms. Because traditional approaches based on a particle filter require an enormous number of particles, the processing time is high. This is a serious issue, especially on low performance devices such as mobile phones. To resolve this problem, we developed a tracker that includes a more sophisticated likelihood model to reduce the number of particles and maintain the identity of the tracked faces. In our proposed tracker, the number of particles is adjusted during the sampling process using an adaptive sampling scheme. The adaptive sampling scheme is designed based on the average acceptance ratio of sampled particles of each face. Moreover, a likelihood model based on color information is combined with corner features to improve the accuracy of the sample measurement. The proposed tracker applied on various videos confirmed a significant decrease in processing time compared to traditional approaches.

A tutorial on generalizing the default Bayesian t-test via posterior sampling and encompassing priors

  • Faulkenberry, Thomas J.
    • Communications for Statistical Applications and Methods
    • /
    • 제26권2호
    • /
    • pp.217-238
    • /
    • 2019
  • With the advent of so-called "default" Bayesian hypothesis tests, scientists in applied fields have gained access to a powerful and principled method for testing hypotheses. However, such default tests usually come with a compromise, requiring the analyst to accept a one-size-fits-all approach to hypothesis testing. Further, such tests may not have the flexibility to test problems the scientist really cares about. In this tutorial, I demonstrate a flexible approach to generalizing one specific default test (the JZS t-test) (Rouder et al., Psychonomic Bulletin & Review, 16, 225-237, 2009) that is becoming increasingly popular in the social and behavioral sciences. The approach uses two results, the Savage-Dickey density ratio (Dickey and Lientz, 1980) and the technique of encompassing priors (Klugkist et al., Statistica Neerlandica, 59, 57-69, 2005) in combination with MCMC sampling via an easy-to-use probabilistic modeling package for R called Greta. Through a comprehensive mathematical description of the techniques as well as illustrative examples, the reader is presented with a general, flexible workflow that can be extended to solve problems relevant to his or her own work.

Efficient Markov Chain Monte Carlo for Bayesian Analysis of Neural Network Models

  • Paul E. Green;Changha Hwang;Lee, Sangbock
    • Journal of the Korean Statistical Society
    • /
    • 제31권1호
    • /
    • pp.63-75
    • /
    • 2002
  • Most attempts at Bayesian analysis of neural networks involve hierarchical modeling. We believe that similar results can be obtained with simpler models that require less computational effort, as long as appropriate restrictions are placed on parameters in order to ensure propriety of posterior distributions. In particular, we adopt a model first introduced by Lee (1999) that utilizes an improper prior for all parameters. Straightforward Gibbs sampling is possible, with the exception of the bias parameters, which are embedded in nonlinear sigmoidal functions. In addition to the problems posed by nonlinearity, direct sampling from the posterior distributions of the bias parameters is compounded due to the duplication of hidden nodes, which is a source of multimodality. In this regard, we focus on sampling from the marginal posterior distribution of the bias parameters with Markov chain Monte Carlo methods that combine traditional Metropolis sampling with a slice sampler described by Neal (1997, 2001). The methods are illustrated with data examples that are largely confined to the analysis of nonparametric regression models.