DOI QR코드

DOI QR Code

Bayesian Variable Selection in Linear Regression Models with Inequality Constraints on the Coefficients

제한조건이 있는 선형회귀 모형에서의 베이지안 변수선택

  • Published : 2002.03.01

Abstract

Linear regression models with inequality constraints on the coefficients are frequently used in economic models due to sign or order constraints on the coefficients. In this paper, we propose a Bayesian approach to selecting significant explanatory variables in linear regression models with inequality constraints on the coefficients. Bayesian variable selection requires computation of posterior probability of each candidate model. We propose a method which computes all the necessary posterior model probabilities simultaneously. In specific, we obtain posterior samples form the most general model via Gibbs sampling algorithm (Gelfand and Smith, 1990) and compute the posterior probabilities by using the samples. A real example is given to illustrate the method.

계수에 대한 부등 제한조건이 있는 선형 회귀모형은 경제모형에서 가장 흔하게 다루어지는 것 중의 하나이다. 이는 특정 설명변수에 대한 계수의 부호를 음양 중 하나로 제한하거나 계수들에 대하여 순서적 관계를 주기 때문이다. 본 논문에서는 이러한 부등 제한이 있는 선형회귀 모형에서 유의한 설명변수의 선택을 해결하는 베이지안 기법을 고려한다. 베이지안 변수선택은 가능한 모든 모형의 사후확률 계산이 요구되는데 본 논문에서는 이러한 사후확률들을 동시에 계산하는 방법을 제시한다. 구체적으로 가장 일반적인 모형의 모수에 대한 사후표본을 깁스 표본기법을 적용시켜 얻은 후 이를 이용하여 모든 가능한 모형의 사후확률을 계산하고 실제적인 자료에 본 논문에서 제안된 방법을 적용시켜 본다.

Keywords

References

  1. Journal of the American Statistical Association v.89 Importance-Weighted Marginal Bayesian Posterior Density Estimation Chen M-H https://doi.org/10.2307/2290907
  2. Journal of the American Statistical Association v.90 Marginal Likelihood from the Gibbs Output Chib S. https://doi.org/10.2307/2291521
  3. Journal of the American Statistical Association v.85 Sampling-Based Approaches to Calculating Marginal Densities Gelfand, A. E.;Smith, A.F.M. https://doi.org/10.2307/2289776
  4. Journal of Applied Econometrics v.1 Exact Inference in the Inequality Constrained Normal Linear Regeression Model Gewekw, J. https://doi.org/10.1002/jae.3950010203
  5. Technical Report Bayesian Inference for Linear Models Subject to Linear Inequality Constraints Gewekw, J.
  6. Statistical Science v.14 Bayesian Model Averaging; A Tutorial Hoeting, J. A.;Madigan, D.;Raftery, A.E.;Volinsky, C.T. https://doi.org/10.1214/ss/1009212519
  7. Computational Statistics and Data Analysis v.29 Estimation of Posterior of Density Functions from a Posterior Sample Oh, M-S. https://doi.org/10.1016/S0167-9473(98)00068-1
  8. Econometric Models and Econometric Forecasts(3rd ed.) Pyndyck, R.S.;Rubinfeld, D.L.
  9. Markov Chain Monte Carlo in practice Hypothesis testing and model selection Raftery, A. E.;Gilks, W.R.(ed.);Richardson, S.(ed.);Spiegelhalter, D.J.(ed.)