• 제목/요약/키워드: log-likelihood computation

검색결과 14건 처리시간 0.024초

Likelihood based inference for the shape parameter of Pareto Distribution

  • Lee, Jae-Un;Lee, Woo-Dong
    • Journal of the Korean Data and Information Science Society
    • /
    • 제19권4호
    • /
    • pp.1173-1181
    • /
    • 2008
  • In this paper, when the parameter of interest is the shape parameter in Pareto distribution, we develop likelihood based inference for this parameter. Specially, we develop signed log-likelihood ratio statistic and the modified signed log-likelihood ratio statistic for the shape parameter. It is well-known that as sample size grows, the modified signed log-likelihood ratio statistic converges to standard normal distribution faster than the signed log-likelihood ratio statistic. But the computation of the modified signed log-likelihood statistic is hard or even impossible when the sufficient statistics and the ancillary statistics are not clear. In this case, one can consider an approximation to the modified signed log-likelihood statistic. Specially, when the parameter of interest is informationally orthogonal to the nuisance parameters, we propose the approximate modified signed log-likelihood statistic. Through simulation, we investigate the performances of the proposed statistics with the signed log-likelihood statistic.

  • PDF

Cox proportional hazard model with L1 penalty

  • Hwang, Chang-Ha;Shim, Joo-Yong
    • Journal of the Korean Data and Information Science Society
    • /
    • 제22권3호
    • /
    • pp.613-618
    • /
    • 2011
  • The proposed method is based on a penalized log partial likelihood of Cox proportional hazard model with L1-penalty. We use the iteratively reweighted least squares procedure to solve L1 penalized log partial likelihood function of Cox proportional hazard model. It provide the ecient computation including variable selection and leads to the generalized cross validation function for the model selection. Experimental results are then presented to indicate the performance of the proposed procedure.

Linear regression under log-concave and Gaussian scale mixture errors: comparative study

  • Kim, Sunyul;Seo, Byungtae
    • Communications for Statistical Applications and Methods
    • /
    • 제25권6호
    • /
    • pp.633-645
    • /
    • 2018
  • Gaussian error distributions are a common choice in traditional regression models for the maximum likelihood (ML) method. However, this distributional assumption is often suspicious especially when the error distribution is skewed or has heavy tails. In both cases, the ML method under normality could break down or lose efficiency. In this paper, we consider the log-concave and Gaussian scale mixture distributions for error distributions. For the log-concave errors, we propose to use a smoothed maximum likelihood estimator for stable and faster computation. Based on this, we perform comparative simulation studies to see the performance of coefficient estimates under normal, Gaussian scale mixture, and log-concave errors. In addition, we also consider real data analysis using Stack loss plant data and Korean labor and income panel data.

Mixed Effects Kernel Binomial Regression

  • Hwang, Chang-Ha
    • Journal of the Korean Data and Information Science Society
    • /
    • 제19권4호
    • /
    • pp.1327-1334
    • /
    • 2008
  • Mixed effect binomial regression models are widely used for analysis of correlated count data in which the response is the result of a series of one of two possible disjoint outcomes. In this paper, we consider kernel extensions with nonparametric fixed effects and parametric random effects. The estimation is through the penalized likelihood method based on kernel trick, and our focus is on the efficient computation and the effective hyperparameter selection. For the selection of hyperparameters, cross-validation techniques are employed. Examples illustrating usage and features of the proposed method are provided.

  • PDF

다중 안테나를 사용한 직교 부호 도약 다중화 시스템에서 로그 우도비 기반 성능 분석 (Performance Analysis Based On Log-Likelihood Ratio in Orthogonal Code Hopping Multiplexing Systems Using Multiple Antennas)

  • 정방철;성길영;신원용
    • 한국정보통신학회논문지
    • /
    • 제15권12호
    • /
    • pp.2534-2542
    • /
    • 2011
  • 본 논문에서는 CDMA (Code Division Multiple Access) 기반 통신 시스템에서의 가용한 직교 부호의 수보다 많은 수의 사용자 수용을 위해 제안된 하향링크 통계적 다중화 기법인 기존 OCHM (Orthogonal Code Hopping Multiplexing) 기술에 다중 안테나를 사용함으로써 성능이 향상될 수 있음을 보인다. 먼저 직교 부호 할당 방식에 따른 두 가지 다른 OCHM 시스템을 소개하고, 이를 LLR (Log-Likelihood Ratio) 값 계산법에 적용 시 나타내어지는 수식 표현을 유도한다. 다음으로, 유도된 LLR 값에 기반을 두어 터보 부호기를 사용할 때, 언급한 OCHM 시스템의 FER (Frame Error Rate) 성능을 검증한다. 또한 비교를 위해 기존 3GPP 표준에서 사용되는 다중 안테나 심벌 매핑 방식의 성능도 분석한다. 결과적으로, 제안된 직교 부호 할당 방식을 적용한 다중 안테나 기반 OCHM 시스템이 기존 시스템 대비 목표 FER을 만족하는데 있어서 에너지 감소 측면에서 상당한 이득이 있음을 확인한다.

공간다중화 MIMO 시스템을 위한 효율적 계산량의 신호검출 기법 (A Computationally Efficient Signal Detection Method for Spatially Multiplexed MIMO Systems)

  • 임태호;김재권;이주현;윤상보;조용수
    • 한국통신학회논문지
    • /
    • 제32권7C호
    • /
    • pp.616-626
    • /
    • 2007
  • 무선통신 채널에서 높은 전송 속도를 가능하게 하는 공간다중화 MIMO 시스템 수신부에서 다중화된 신호를 검출하는 것은 어려운 작업이며, 최근 다양한 신호검출 기법들이 개발되어졌다. 다양한 신호검출 기법 중 maximum likelihood detection with QR decomposition and M-algorithm (QRM-MLD), sphere decoding (SD)과 같은 기존 기법들은 maximum likelihood (ML)기법과 유사한 성능을 가진 것으로 보고되었다. 본 논문에서는 ML 기법과 거의 동일한 성능을 가지면서 낮은 연산복잡도를 보이는 새로운 신호검출 기법을 제안한다. 모의실험을 통하여 제안된 기법은 ML 기법과 거의 동일한 성능을 보이면서 MMSE-OSIC와 유사한 연산복잡도를 가지는 것을 보인다. 또한 기존의 QRM-MLD, SD 기법들의 경우 hard decision 후 추가적인 연산을 통해 soft decision을 위한 log likelihood ratio(LLR) 값을 생성하는 반면, 제안된 기법에서는 추가적인 연산 없이 LLR 값을 성공적으로 생성할 수 있음을 보인다.

Review on statistical methods for large spatial Gaussian data

  • Park, Jincheol
    • Journal of the Korean Data and Information Science Society
    • /
    • 제26권2호
    • /
    • pp.495-504
    • /
    • 2015
  • The Gaussian geostatistical model has been widely used for modeling spatial data. However, this model suffers from a severe difficulty in computation because inference requires to invert a large covariance matrix in evaluating log-likelihood. In addressing this computational challenge, three strategies have been employed: likelihood approximation, lower dimensional space approximation, and Markov random field approximation. In this paper, we reviewed statistical approaches attacking the computational challenge. As an illustration, we also applied integrated nested Laplace approximation (INLA) technology, one of Markov approximation approach, to real data to provide an example of its use in practice dealing with large spatial data.

Variable selection in L1 penalized censored regression

  • Hwang, Chang-Ha;Kim, Mal-Suk;Shi, Joo-Yong
    • Journal of the Korean Data and Information Science Society
    • /
    • 제22권5호
    • /
    • pp.951-959
    • /
    • 2011
  • The proposed method is based on a penalized censored regression model with L1-penalty. We use the iteratively reweighted least squares procedure to solve L1 penalized log likelihood function of censored regression model. It provide the efficient computation of regression parameters including variable selection and leads to the generalized cross validation function for the model selection. Numerical results are then presented to indicate the performance of the proposed method.

MIMO 채널에서 LLR 추정을 위한 저 계산량 알고리즘 (Low Computational Algorithm for Estimating LLR in MIMO Channel)

  • 박태두;김민혁;김님수;김철승;정지원
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2009년도 춘계학술발표대회
    • /
    • pp.1281-1284
    • /
    • 2009
  • 무선통신에서는 다양한 서비스, 높은 신뢰도와 함께 빠른 전송속도를 요구한다. 이러한 요구를 만족시키기 위해서 LDPC 부호와 MIMO 기술이 활발히 연구 중에 있다. 본 논문에서는 LDPC와 결합된 STC 모델을 설명하고, 여러개의 송신안테나로부터 송신되어 결합된 신호를 분리하기 위해 사용되는 Log-Likelihood Computation을 기존의 방식과 제안하는 저 계산량 알고리즘을 통한 방식을 비교, 분석하여 기존의 방식과 근접한 BER 성능을 유지 하면서 계산량 감소를 확인한다.

MIMO 채널에서 LLR 추정을 위한 저 계산량 알고리즘 (Low Computational Algorithm for Estimating LLR in MIMO Channel)

  • 박태두;김민혁;김철승;정지원
    • 한국정보통신학회논문지
    • /
    • 제14권12호
    • /
    • pp.2791-2797
    • /
    • 2010
  • 차세대 무선통신에서는 다양한 서비스, 높은 신뢰도와 함께 빠른 전송속도를 요구한다. 이러한 요구를 만족시키기 위해서 MIMO 시스템과 LDPC 부호를 결합하는 방법에 대한 많은 연구가 이루어지고 있다. MIMO 시스템과 LDPC 부호의 결합시 LDPC 복호기에는 각 채널에서 수신되는 정보를 이용하여 연판정된 비트를 LDPC 복호기에 입력되어야 한다. 기존의 방식은 모든 수신된 신호를 이용하여 연판정된 비트를 분리하여 많은 계산량이 필요로 하는데, 본 논문에서는 후보 벡터를 이용하여 성능의 감소없이 연판정된 비트를 분리하여 최대 61%의 계산량을 감소하는 방식을 제시하였다.