• 제목/요약/키워드: mean square error (MSE)

검색결과 296건 처리시간 0.029초

축소예측을 이용한 소지역 추정 (Shrinkage Prediction for Small Area Estimations)

  • 황희진;신기일
    • 응용통계연구
    • /
    • 제21권1호
    • /
    • pp.109-123
    • /
    • 2008
  • 많은 소지역 추정량이 제안되었으며, 국내외에서 소지역 추정에 관한 많은 연구가 진행되고 있다. 또한 소지역 추정량의 특성과 우수성을 비교하기위한 비교통계량도 연구되고 있다. 기존의 소지역 추정량은 MSE(Mean square error)를 최소화하여 얻어지며, 이에 따라 추정량의 우수성도 MSE를 기준으로 판단하고 있다. 본 논문에서는 최근 새롭게 재조명 되고 있는 MSPE(Mean square percentage error)를 최소화하는 추정량을 제안하였다. 신기일 등 (2007)에서 사용된 비교통계량과 MSE 그리고 MSPB를 이용하여 제안된 추정량과 기존의 소지역 추정량을 비교하였다.

평균제곱오차를 이용한 크리깅 근사모델의 오차 평가 (An Error Assessment of the Kriging Based Approximation Model Using a Mean Square Error)

  • 주병현;조태민;정도현;이병채
    • 대한기계학회논문집A
    • /
    • 제30권8호
    • /
    • pp.923-930
    • /
    • 2006
  • A Kriging model is a sort of approximation model and used as a deterministic model of a computationally expensive analysis or simulation. Although it has various advantages, it is difficult to assess the accuracy of the approximated model. It is generally known that a mean square error (MSE) obtained from the kriging model can't calculate statistically exact error bounds contrary to a response surface method, and a cross validation is mainly used. But the cross validation also has many uncertainties. Moreover, the cross validation can't be used when a maximum error is required in the given region. For solving this problem, we first proposed a modified mean square error which can consider relative errors. Using the modified mean square error, we developed the strategy of adding a new sample to the place that the MSE has the maximum when the MSE is used for the assessment of the kriging model. Finally, we offer guidelines for the use of the MSE which is obtained from the kriging model. Four test problems show that the proposed strategy is a proper method which can assess the accuracy of the kriging model. Based on the results of four test problems, a convergence coefficient of 0.01 is recommended for an exact function approximation.

MSE 추정에 기반한 적응적인 시간적 공간적 비디오 디노이징 필터 (Video De-noising Using Adaptive Temporal and Spatial Filter Based on Mean Square Error Estimation)

  • 김창수;김종호;최윤식
    • 방송공학회논문지
    • /
    • 제17권6호
    • /
    • pp.1048-1060
    • /
    • 2012
  • 본 논문에서는 영상에 포함되어 있는 잡음을 효율적으로 제거하기 위해 원본 영상과 잡음이 포함된 영상 사이의 mean square error (MSE) 추정에 기반한 적응적인 시공간 디노이징 필터(Adaptive Temporal and Spatial De-noising Filter : ATSF)를 제안하였다. 제안하는 디노이징 필터는 잡음이 포함되어 있는 영상에 블록 단위로 적용되며, 시간적 필터인 Multi-Hypothesis Motion Compensated Filter (MHMCF)를 사용하고, 공간적 필터로는 bilateral filter를 사용하였다. 각각의 블록에 대해 시간적 필터와 공간적 필터 중에서 최적의 필터를 선택하기 위해서 잡음이 포함되지 않은 원본 영상과 잡음이 포함된 입력 영상 사이의 MSE를 추정하는 기법을 제안하였다. 디노이징 단계에서 원본 영상이 주어지지 않기 때문에 MSE를 추정하기 위해서, 본 논문에서는 MHMCF가 적용된 블록의 MSE를 수학적으로 예측하고, bilateral filter가 적용된 블록의 MSE를 통계적 선형 모델을 통해 예측하였다. 이렇게 예측된 MSE를 비교하여 더 작은 MSE를 갖는 필터를 선택적으로 매 단위 블록마다 적용하게 된다. 제안된 방법은 시간적 필터와 공간적 필터를 적응적으로 적용함으로써 기존의 디노이징 방법에 비해 객관적 화질 뿐만 아니라 주관적인 화질에서 우수한 성능을 보여준다.

진폭비교 모노펄스시스템의 수치적분 기반 성능분석 (Numerical Integration-based Performance Analysis of Amplitude-Comparison Monopulse System)

  • 함형우;임희윤;이준호
    • 디지털융복합연구
    • /
    • 제19권12호
    • /
    • pp.339-345
    • /
    • 2021
  • 본 논문에서는 부가성 잡음이 존재하는 환경에서 진폭비교 모노펄스 레이더의 각도 추정 성능을 수치해석 기반으로 접근하여 분석한다. 편향 빔에 서로 상관이 없는 백색잡음이 추가되었을 때, 모노펄스 레이더의 각도 추정 성능을 평균제곱오차(MSE)를 통해 분석한다. 수치적분 기반의 평균제곱오차 결과는 몬테카를로 기반의 평균제곱오차 결과와 완벽히 겹치는 결과를 보이며 이는 몬테카를로 기반 평균제곱오차 결과에 99.8%에 해당한다. 또한 연산시간 측면에서 수치적분 기반의 평균제곱오차 분석법은 몬테카를로 기반의 평균제곱오차보다 매우 빠른 결과를 보인다. 따라서 제안된 수치적분 기반 평균제곱오차 방법을 통해 다양한 잡음환경에서 진폭비교 모노펄스레이더의 각도 추정 성능을 효율적으로 분석할 수 있다.

그룹화 CMA 알고리즘을 이용한 RF 중계기의 적응 간섭 제거 시스템(Adaptive Interference Cancellation System)에 관한 연구 (A Study on Adaptive Interference Cancellation System of RF Repeater Using the Grouped Constant-Modulus Algorithm)

  • 한용식;양운근
    • 한국전자파학회논문지
    • /
    • 제19권9호
    • /
    • pp.1058-1064
    • /
    • 2008
  • 본 논문에서는 RF(Radio Frequency) 중계기에서 그룹화 CMA(Constant Modulus Algorithm)와 LMS(Least Mean Square) 알고리즘을 이용하여 적응 필터를 적용시킨 새로운 혼합 간섭 제거기를 제안한다. 송신 안테나에서 수신안테나로 궤환되는 신호는 수신 시스템의 성능을 저하시킨다. 제안한 간섭 제거기는 그룹화 CMA 알고리즘 간섭 제거 기법을 적용시키기 때문에 기존 구조보다 나은 채널 적응 성능과 낮은 MSE(Mean Square Error)을 가진다. 이 구조는 기존 비선형 간섭 제거기에 비해 같은 MSE(Mean Square Error)에 대한 반복수와 하드웨어 복잡도를 줄여준다. 즉, 제안한 알고리즘은 LMS 알고리즘에 비해 평균 자승 에러가 적응 상수에 따라 2.5 dB 또는 4 dB 정도 낮은 값을 보였다. 또한, VSS(Variable Step Size)-LMS 알고리즘에 비해 수렴 속도가 빠르고, 비슷한 평균 자승 에러를 가진다.

WCDMA시스템 무선 중계기의 적응간섭제거기에 관한 연구 (A Study on Adaptive Interference Canceller of Wireless Repeater for Wideband Code Division Multiple Access System)

  • 한용식;양운근
    • 한국정보통신학회논문지
    • /
    • 제13권7호
    • /
    • pp.1321-1327
    • /
    • 2009
  • 본 논문에서는 최근 방송 및 이동 통신 서비스가 광벙위하게 사용되고 서비스 영역의 용이한 확대로 인해 무선중계기에 대한 수요가 급격히 증가하고 있다. 그러나 무선중계기에서 발생되는 궤환 신호로 인한 발진현상이 발생 한다. 그룹화 LMS(Least Mean Square)와 CMA(Constant Modulus Algorithm) 알고리즘을 이용한 적응 필터를 적용시킨 새로운 혼합 간섭 제거기활 제안한다. 제안한 간섭 제거기는 그룹화 LMS 알고리즘 간섭 제거기법을 적용시키기 때문에 기존 구조보다 나은 채널 적응 성능과 낮은 MSE(Mean Square Error)을 가진다. 이 제안된 검출기는 수렴속도를 증가하면서 동시에 평균 자승 에러를 줄이기 위해 최소평균 자승 알고리즘에서 두 개의 적응화 상수를 이용한다. 이 구조는 기존 비선형 간섭제거기에 비해 같은 MSE(Mean Square Error)에 대한 반복수와 하드웨어 복잡도를 줄여준다.

Improved Exponential Estimator for Estimating the Population Mean in the Presence of Non-Response

  • Kumar, Sunil
    • Communications for Statistical Applications and Methods
    • /
    • 제20권5호
    • /
    • pp.357-366
    • /
    • 2013
  • This paper defines an improvement for estimating the population mean of a study variable using auxiliary information and known values of certain population parameter(s), when there is a non-response in a study as well as on auxiliary variables. Under a simple random sampling without a replacement (SRSWOR) scheme, the mean square error (MSE) of all proposed estimators are obtained and compared with each other. Numerical illustration is also given.

Theoretical Derivation of Minimum Mean Square Error of RBF based Equalizer

  • Lee Jung-Sik
    • 한국통신학회논문지
    • /
    • 제31권8C호
    • /
    • pp.795-800
    • /
    • 2006
  • In this paper, the minimum mean square error(MSE) convergence of the RBF equalizer is evaluated and compared with the linear equalizer based on the theoretical minimum MSE. The basic idea of comparing these two equalizers comes from the fact that the relationship between the hidden and output layers in the RBF equalizer is also linear. As extensive studies of this research, various channel models are selected, which include linearly separable channel, slightly distorted channel, and severely distorted channel models. In this work, the theoretical minimum MSE for both RBF and linear equalizers were computed, compared and the sensitivity of minimum MSE due to RBF center spreads was analyzed. It was found that RBF based equalizer always produced lower minimum MSE than linear equalizer, and that the minimum MSE value of RBF equalizer was obtained with the center spread which is relatively higher(approximately 2 to 10 times more) than variance of AWGN. This work provides an analytical framework for the practical training of RBF equalizer system.

Kurtosis Driven Variable Step-Size Normalized Least Mean Square Algorithm for RF Repeater

  • Han, Yong-Sik;Yang, Woon-Geun
    • Journal of information and communication convergence engineering
    • /
    • 제8권2호
    • /
    • pp.159-162
    • /
    • 2010
  • This paper presents a new Kurtosis driven Variable Step-Size Normalized Least Mean Square (KVSSN-LMS) algorithm to prevent repeater from oscillation due to feedback signal of radio frequency (RF) repeater. To get better Mean Square Error (MSE) performance, step-size is adjusted using the kurtosis. The proposed algorithm shows the better performance of steady state MSE. The proposed algorithm shows a better ERLE performance than that of KVSS-LMS, VSS-NLMS, NLMS algorithms.

적응 간섭 제거 시스템을 위한 상관도를 적용한 적응적 궤환 간섭 제거 알고리즘 (Adaptive Feedback Interference Cancellation Algorithm Using Correlations for Adaptive Interference Cancellation System)

  • 한용식;양운근
    • 한국전자파학회논문지
    • /
    • 제21권4호
    • /
    • pp.427-432
    • /
    • 2010
  • 셀룰러 시스템에서의 음영 지역 해소 및 전송 용량 증대를 위해 중계기의 중요성은 계속적으로 증가하고 있다. 그러나 RF 중계기는 중계된 전송 신호의 일부가 궤환되어 다시 수신 안테나에 수신되는 궤환 간섭 신호가 발생한다. 이런 문제를 해결하기 위하여 본 논문에서는 RF 중계기의 성능 개선을 위해 상관도를 적용한 Sign-Sign LMS(Least Mean Square)를 제안하였다. 기존 알고리즘의 제곱된 에러를 최소화하기 위해 가중치 벡터는 입력 신호와 오차 신호의 부호에 취하고, 이를 활용하여 갱신된다. 제안된 간섭 제거기는 기존 방식과 비교하여 MSE(Mean Square Error) 측면에서 최대 10 dB의 성능 이득을 가진다.