• 제목/요약/키워드: maximum likelihood estimation

검색결과 984건 처리시간 0.035초

비정규 오차를 고려한 자기회귀모형의 추정법 및 예측성능에 관한 연구 (A Study of Estimation Method for Auto-Regressive Model with Non-Normal Error and Its Prediction Accuracy)

  • 임보미;박정술;김준석;김성식;백준걸
    • 대한산업공학회지
    • /
    • 제39권2호
    • /
    • pp.109-118
    • /
    • 2013
  • We propose a method for estimating coefficients of AR (autoregressive) model which named MLPAR (Maximum Likelihood of Pearson system for Auto-Regressive model). In the present method for estimating coefficients of AR model, there is an assumption that residual or error term of the model follows the normal distribution. In common cases, we can observe that the error of AR model does not follow the normal distribution. So the normal assumption will cause decreasing prediction accuracy of AR model. In the paper, we propose the MLPAR which does not assume the normal distribution of error term. The MLPAR estimates coefficients of auto-regressive model and distribution moments of residual by using pearson distribution system and maximum likelihood estimation. Comparing proposed method to auto-regressive model, results are shown to verify improved performance of the MLPAR in terms of prediction accuracy.

K-NN과 최대 우도 추정법을 결합한 소프트웨어 프로젝트 수치 데이터용 결측값 대치법 (A Missing Data Imputation by Combining K Nearest Neighbor with Maximum Likelihood Estimation for Numerical Software Project Data)

  • 이동호;윤경아;배두환
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제36권4호
    • /
    • pp.273-282
    • /
    • 2009
  • 소프트웨어 프로젝트 데이터를 이용한 각종 분석 예측 모델 생성시 직면하는 문제 중 하나는 데이터에 포함된 결측값이며 이에 대한 효과적인 방안은 결측값 대치 법이다. 대표적인 결측값 대치법인 K 최근접 이웃 대치법은 대치과정에서 결측값을 포함하는 인스턴스의 관측정보를 활용하지 못한다는 단점이 있다. 본 연구에서는 이러한 단점을 극복하기 위해 K 최근접 이웃 대치법과 최대 우도 추정법을 결합한 새로운 소프트웨어 프로젝트 수치 데이터용 결측값 대치법을 제안한다. 또한 결측값 대치법의 정확도를 비교하기 위한 새로운 측도를 함께 제안한다.

비행시험을 통한 가로/방향 정적 미계수 추정에 관한 연구

  • 김응태;성기정;김영철;강상진
    • 항공우주기술
    • /
    • 제2권1호
    • /
    • pp.22-28
    • /
    • 2003
  • 본 논문은 소형 커나드 항공기의 정안전성 비행 시험을 통해 얻어진 자료를 분석해 정적 공력 미계수를 추정하는 방법을 제시하였다. 최대공산추정법을 통해 얻어진 공력 미계수와 본 논문에서 제시된 방법을 통해 얻어진 결과를 함께 비교하여 정확성을 검증하였다. 제시된 계수 추정 방법을 통해, 제한된 비행시험 자료만으로도 신뢰할 수 있는 공력 미계수를 추정할 수 있었다. 그 결과, 제시된 방법은 비행시험 데이터 해석에 보편적으로 사용되는 최대공산추정법과 같은 파라미터 식별기법의 결과를 검증, 보완할 수 있는 기준 데이터를 제공할 수 있다.

  • PDF

두꺼운 꼬리 분포와 레버리지효과를 포함하는 확률변동성모형에 대한 최우추정: HMM근사를 이용한 최우추정 (Maximum likelihood estimation of stochastic volatility models with leverage effect and fat-tailed distribution using hidden Markov model approximation)

  • 김태형;박정민
    • 응용통계연구
    • /
    • 제35권4호
    • /
    • pp.501-515
    • /
    • 2022
  • 두꺼운 꼬리 분포와 레버리지효과 등의 금융시계열의 전형적인 특징에도 불구하고 기존 빈도론적 접근법에서는 이를 명시적으로 포착하는 확률변동성모형이 제시된 바 없다. 본 연구는 빈도론적 접근법에서 수익률 금융시계열의 두꺼운 꼬리 분포와 레버리지효과를 명시적으로 포착할 수 있는 근사적인 확률변동성모형 설정을 제시하고 이에 대한 Langrock 등 (2012)의 HMM근사를 이용한 최우추정을 제안한다. 본 연구는 다양한 모의실험과 실증분석을 통해 본 연구에서 제안하는 근사모형이 두꺼운 꼬리 분포와 레버리지효과를 정밀하고 효과적으로 추정할 수 있음을 보인다.

A Novel Approach for Blind Estimation of Reverberation Time using Gamma Distribution Model

  • Hamza, Amad;Jan, Tariqullah;Jehangir, Asiya;Shah, Waqar;Zafar, Haseeb;Asif, M.
    • Journal of Electrical Engineering and Technology
    • /
    • 제11권2호
    • /
    • pp.529-536
    • /
    • 2016
  • In this paper we proposed an unsupervised algorithm to estimate the reverberation time (RT) directly from the reverberant speech signal. For estimation process we use maximum likelihood estimation (MLE) which is a very well-known and state of the art method for estimation in the field of signal processing. All existing RT estimation methods are based on the decay rate distribution. The decay rate can be obtained either from the energy envelop decay curve analysis of noise source when it is switch off or from decay curve of impulse response of an enclosure. The analysis of a pre-existing method of reverberation time estimation is the foundation of the proposed method. In one of the state of the art method, the reverberation decay is modeled as a Laplacian distribution. In this paper, the proposed method models the reverberation decay as a Gamma distribution along with the unification of an effective technique for spotting free decay in reverberant speech. Maximum likelihood estimation technique is then used to estimate the RT from the free decays. The method was motivated by our observation that the RT of a reverberant signal when falls in specific range, then the decay rate of the signal follows Gamma distribution. Experiments are carried out on different reverberant speech signal to measure the accuracy of the suggested method. The experimental results reveal that the proposed method performs better and the accuracy is high in comparison to the state of the art method.

페널티 적용 최대 우도 평가를 통한 기저 스크리닝 기반 크리깅 모델 개선 (Improvement of Basis-Screening-Based Dynamic Kriging Model Using Penalized Maximum Likelihood Estimation)

  • 김민근;김재승;한정우;이근호
    • 한국전산구조공학회논문집
    • /
    • 제36권6호
    • /
    • pp.391-398
    • /
    • 2023
  • 본 논문에서는 기저 스크리닝 기반 크리깅 모델(BSKM: Basis Screening based Kriging Model) 생성의 정확도를 높이기 위해 페널티를 적용한 최대 우도 평가 방법(PMLE : Penalized Maximum Likelihood Estimation)에 대해서 소개한다. BSKM에서 사용하는 기저함수의 최대 차수와 종류는 그 중요도에 따라서 결정하게 되며, 이때 중요도의 지표는 기저함수에 대한 교차 검증 오차(CVE : Cross Validation Error)로 택한다. 크리깅 모델(KM : Kriging Model) 구성시 최적의 기저함수 조합은 우선 최대 기저함수 차수를 선택하고 개별 기저함수의 중요도를 평가를 하게 된다. 최적 기저함수 조합은 크리깅 모델의 CVE가 최소가 될 때까지 개별 기저함수의 중요도가 높은 순으로 기저함수를 하나씩 추가하며 찾는다. 이 과정에서 KM은 반복적으로 생성해야 하며, 동시에 데이터 사이의 상관관계를 나타내는 하이퍼 매개변수(Hyper-parameters)도 최대 우도 평가방법을 통해 계산하여야 한다. 하이퍼 매개변수의 값에 따라 선택되는 최적의 기저함수 조합이 달라지기 때문에 KM의 정확도에 막대한 영향을 미치게 된다. 정확한 하이퍼 매개변수를 계산하기 위해서 PMLE 방법을 적용하였으며, Branin-Hoo 함수 문제에 적용하여 BSKM 의 정확성이 개선될 수 있음을 확인하였다.

EXTENSION OF FACTORING LIKELIHOOD APPROACH TO NON-MONOTONE MISSING DATA

  • Kim, Jae-Kwang
    • Journal of the Korean Statistical Society
    • /
    • 제33권4호
    • /
    • pp.401-410
    • /
    • 2004
  • We address the problem of parameter estimation in multivariate distributions under ignorable non-monotone missing data. The factoring likelihood method for monotone missing data, termed by Rubin (1974), is extended to a more general case of non-monotone missing data. The proposed method is algebraically equivalent to the Newton-Raphson method for the observed likelihood, but avoids the burden of computing the first and the second partial derivatives of the observed likelihood. Instead, the maximum likelihood estimates and their information matrices for each partition of the data set are computed separately and combined naturally using the generalized least squares method.

단발 터어보프롭 항공기의 파라메터 추정 및 비행시뮬레이션 (Parameter estimation and flight simulation of a single turbo-prop aircraft)

  • 이환;이상기
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 1997년도 한국자동제어학술회의논문집; 한국전력공사 서울연수원; 17-18 Oct. 1997
    • /
    • pp.1659-1662
    • /
    • 1997
  • The objective of this paper is to estimate the aerodynamic derivatives of a single turbo-prop aircraft at a specified flight condition for the best deduction of the dynamic characteristics using modified maximum likelihood estimation method whcih is known to be unbiased, efficient, and consistent. The flight test data necessary to the estimation of aerodynamic derivatives is obtained by implementing the six degree of freedom nonlinear flight simulation to consider the effects of several control input types, control deflection amplitudes, and intensity of turbulence. The simulated data is added with the measurement noise, which is regarded as the actual flight test data.

  • PDF

Markov Chain Monte Carlo를 이용한 반도체 결함 클러스터링 파라미터의 추정 (Estimation of Defect Clustering Parameter Using Markov Chain Monte Carlo)

  • 하정훈;장준현;김준현
    • 산업경영시스템학회지
    • /
    • 제32권3호
    • /
    • pp.99-109
    • /
    • 2009
  • Negative binomial yield model for semiconductor manufacturing consists of two parameters which are the average number of defects per die and the clustering parameter. Estimating the clustering parameter is quite complex because the parameter has not clear closed form. In this paper, a Bayesian approach using Markov Chain Monte Carlo is proposed to estimate the clustering parameter. To find an appropriate estimation method for the clustering parameter, two typical estimators, the method of moments estimator and the maximum likelihood estimator, and the proposed Bayesian estimator are compared with respect to the mean absolute deviation between the real yield and the estimated yield. Experimental results show that both the proposed Bayesian estimator and the maximum likelihood estimator have excellent performance and the choice of method depends on the purpose of use.

Estimation of entropy of the inverse weibull distribution under generalized progressive hybrid censored data

  • Lee, Kyeongjun
    • Journal of the Korean Data and Information Science Society
    • /
    • 제28권3호
    • /
    • pp.659-668
    • /
    • 2017
  • The inverse Weibull distribution (IWD) can be readily applied to a wide range of situations including applications in medicines, reliability and ecology. It is generally known that the lifetimes of test items may not be recorded exactly. In this paper, therefore, we consider the maximum likelihood estimation (MLE) and Bayes estimation of the entropy of a IWD under generalized progressive hybrid censoring (GPHC) scheme. It is observed that the MLE of the entropy cannot be obtained in closed form, so we have to solve two non-linear equations simultaneously. Further, the Bayes estimators for the entropy of IWD based on squared error loss function (SELF), precautionary loss function (PLF), and linex loss function (LLF) are derived. Since the Bayes estimators cannot be obtained in closed form, we derive the Bayes estimates by revoking the Tierney and Kadane approximate method. We carried out Monte Carlo simulations to compare the classical and Bayes estimators. In addition, two real data sets based on GPHC scheme have been also analysed for illustrative purposes.