• 제목/요약/키워드: mean square error

검색결과 2,161건 처리시간 0.046초

진폭비교 모노펄스시스템의 수치적분 기반 성능분석 (Numerical Integration-based Performance Analysis of Amplitude-Comparison Monopulse System)

  • 함형우;임희윤;이준호
    • 디지털융복합연구
    • /
    • 제19권12호
    • /
    • pp.339-345
    • /
    • 2021
  • 본 논문에서는 부가성 잡음이 존재하는 환경에서 진폭비교 모노펄스 레이더의 각도 추정 성능을 수치해석 기반으로 접근하여 분석한다. 편향 빔에 서로 상관이 없는 백색잡음이 추가되었을 때, 모노펄스 레이더의 각도 추정 성능을 평균제곱오차(MSE)를 통해 분석한다. 수치적분 기반의 평균제곱오차 결과는 몬테카를로 기반의 평균제곱오차 결과와 완벽히 겹치는 결과를 보이며 이는 몬테카를로 기반 평균제곱오차 결과에 99.8%에 해당한다. 또한 연산시간 측면에서 수치적분 기반의 평균제곱오차 분석법은 몬테카를로 기반의 평균제곱오차보다 매우 빠른 결과를 보인다. 따라서 제안된 수치적분 기반 평균제곱오차 방법을 통해 다양한 잡음환경에서 진폭비교 모노펄스레이더의 각도 추정 성능을 효율적으로 분석할 수 있다.

평균제곱오차를 이용한 크리깅 근사모델의 오차 평가 (An Error Assessment of the Kriging Based Approximation Model Using a Mean Square Error)

  • 주병현;조태민;정도현;이병채
    • 대한기계학회논문집A
    • /
    • 제30권8호
    • /
    • pp.923-930
    • /
    • 2006
  • A Kriging model is a sort of approximation model and used as a deterministic model of a computationally expensive analysis or simulation. Although it has various advantages, it is difficult to assess the accuracy of the approximated model. It is generally known that a mean square error (MSE) obtained from the kriging model can't calculate statistically exact error bounds contrary to a response surface method, and a cross validation is mainly used. But the cross validation also has many uncertainties. Moreover, the cross validation can't be used when a maximum error is required in the given region. For solving this problem, we first proposed a modified mean square error which can consider relative errors. Using the modified mean square error, we developed the strategy of adding a new sample to the place that the MSE has the maximum when the MSE is used for the assessment of the kriging model. Finally, we offer guidelines for the use of the MSE which is obtained from the kriging model. Four test problems show that the proposed strategy is a proper method which can assess the accuracy of the kriging model. Based on the results of four test problems, a convergence coefficient of 0.01 is recommended for an exact function approximation.

작물모형 평가를 위한 통계적 방법들에 대한 비교 (Comparison of Statistic Methods for Evaluating Crop Model Performance)

  • 김준환;이충근;손지영;최경진;윤영환
    • 한국농림기상학회지
    • /
    • 제14권4호
    • /
    • pp.269-276
    • /
    • 2012
  • 작물모형 평가에 사용되거나 사용할 수 있는 9가지 지표를 소개하였으며 이들의 특징은 다음과 같다. efficiency of model (EF)와 index of agreement (d)은 dimension이 없고 관측수(n)에 의존적이지 않았으며, dimension에 대해서만 자유로운 것은 relative root mean square error (RRMSE), bias factor (Bf)와 accuracy factor (Af)이다. Root mean sqruar, mean error, mean absolute error들은 관측수와 dimension에 영향을 받기 때문에 판단 시 주의가 필요하다. 따라서 이들의 특징을 파악하여 목적에 맞게 모형의 성능을 파악하여야 한다.

축소예측을 이용한 소지역 추정 (Shrinkage Prediction for Small Area Estimations)

  • 황희진;신기일
    • 응용통계연구
    • /
    • 제21권1호
    • /
    • pp.109-123
    • /
    • 2008
  • 많은 소지역 추정량이 제안되었으며, 국내외에서 소지역 추정에 관한 많은 연구가 진행되고 있다. 또한 소지역 추정량의 특성과 우수성을 비교하기위한 비교통계량도 연구되고 있다. 기존의 소지역 추정량은 MSE(Mean square error)를 최소화하여 얻어지며, 이에 따라 추정량의 우수성도 MSE를 기준으로 판단하고 있다. 본 논문에서는 최근 새롭게 재조명 되고 있는 MSPE(Mean square percentage error)를 최소화하는 추정량을 제안하였다. 신기일 등 (2007)에서 사용된 비교통계량과 MSE 그리고 MSPB를 이용하여 제안된 추정량과 기존의 소지역 추정량을 비교하였다.

적응 간섭 제거 시스템을 위한 상관도를 적용한 적응적 궤환 간섭 제거 알고리즘 (Adaptive Feedback Interference Cancellation Algorithm Using Correlations for Adaptive Interference Cancellation System)

  • 한용식;양운근
    • 한국전자파학회논문지
    • /
    • 제21권4호
    • /
    • pp.427-432
    • /
    • 2010
  • 셀룰러 시스템에서의 음영 지역 해소 및 전송 용량 증대를 위해 중계기의 중요성은 계속적으로 증가하고 있다. 그러나 RF 중계기는 중계된 전송 신호의 일부가 궤환되어 다시 수신 안테나에 수신되는 궤환 간섭 신호가 발생한다. 이런 문제를 해결하기 위하여 본 논문에서는 RF 중계기의 성능 개선을 위해 상관도를 적용한 Sign-Sign LMS(Least Mean Square)를 제안하였다. 기존 알고리즘의 제곱된 에러를 최소화하기 위해 가중치 벡터는 입력 신호와 오차 신호의 부호에 취하고, 이를 활용하여 갱신된다. 제안된 간섭 제거기는 기존 방식과 비교하여 MSE(Mean Square Error) 측면에서 최대 10 dB의 성능 이득을 가진다.

WCDMA시스템 무선 중계기의 적응간섭제거기에 관한 연구 (A Study on Adaptive Interference Canceller of Wireless Repeater for Wideband Code Division Multiple Access System)

  • 한용식;양운근
    • 한국정보통신학회논문지
    • /
    • 제13권7호
    • /
    • pp.1321-1327
    • /
    • 2009
  • 본 논문에서는 최근 방송 및 이동 통신 서비스가 광벙위하게 사용되고 서비스 영역의 용이한 확대로 인해 무선중계기에 대한 수요가 급격히 증가하고 있다. 그러나 무선중계기에서 발생되는 궤환 신호로 인한 발진현상이 발생 한다. 그룹화 LMS(Least Mean Square)와 CMA(Constant Modulus Algorithm) 알고리즘을 이용한 적응 필터를 적용시킨 새로운 혼합 간섭 제거기활 제안한다. 제안한 간섭 제거기는 그룹화 LMS 알고리즘 간섭 제거기법을 적용시키기 때문에 기존 구조보다 나은 채널 적응 성능과 낮은 MSE(Mean Square Error)을 가진다. 이 제안된 검출기는 수렴속도를 증가하면서 동시에 평균 자승 에러를 줄이기 위해 최소평균 자승 알고리즘에서 두 개의 적응화 상수를 이용한다. 이 구조는 기존 비선형 간섭제거기에 비해 같은 MSE(Mean Square Error)에 대한 반복수와 하드웨어 복잡도를 줄여준다.

벡터자기회귀모형에 의한 금리스프레드의 예측 (Prediction of the interest spread using VAR model)

  • 김준홍;진달래;이지선;김수지;손영숙
    • Journal of the Korean Data and Information Science Society
    • /
    • 제23권6호
    • /
    • pp.1093-1102
    • /
    • 2012
  • 본 연구에서는 다변량시계열모형인 VAR (vector autoregressive regression)모형에 의하여 금리 스프레드의 시계열예측을 수행하였다. 국내외 거시경제변수들 중에서 교차상관분석 및 그랜져인과 검정을 통하여 상호간에 설명력이 있는 변수들을 추출하여 VAR모형의 시계열변수로 사용하였다. 마지막 12개월의 예측치에 대한 MAPE (mean absolute percentage error)와 RMSE (root mean square error)에 근거하여 모형의 예측력을 단일변량 시계열모형인 AR (autoregressive regression) 모형과 비교하였다.

포함확률비례추출에서 회귀계수 최소제곱추정량의 근사분산 (Approximate Variance of Least Square Estimators for Regression Coefficient under Inclusion Probability Proportional to Size Sampling)

  • 김규성
    • Communications for Statistical Applications and Methods
    • /
    • 제19권1호
    • /
    • pp.23-32
    • /
    • 2012
  • 본 논문은 유한모집단에서 회귀계수추정량의 근사편향과 근사분산을 다루고 있다. 유한모집단에서 고정크기 포함확률비례표본을 추출하고 이 표본에서 조사된 데이터에 기초하여 회귀계수를 일반최소제곱추정량과 가중최소제곱추정량으로 추정할 때 두 추정량의 편향, 분산 그리고 평균제곱오차의 근사식을 유도하였다. 그리고 두 추정량의 효율을 비교하기 위하여 두 추정량의 분산을 비교하는 필요충분조건을 제시하였다. 또한 수치적인 비교를 위하여 간단한 예제를 소개하였다.

시군구 실업자 총계 추정을 위한 설계기반 간접추정법 (Design-Based Small Area Estimation for the Korean Economically Active Population Survey)

  • 정연수;이계오;이우일
    • 응용통계연구
    • /
    • 제16권1호
    • /
    • pp.1-14
    • /
    • 2003
  • 본 연구에서는 현행 경제활동인구조사 체계에 근거하여 대영역 내의 시군구 단위 행정자치구역들에 대한 실업통계들을 생산할 수 있는 소지역 추정법이 제안된다. 고려된 소지역 추정량들은 합성 추정량, 복합추정량과 같은 설계기반 간접 추정량들이며 이러한 추정량들에 대한 평균제곱오차 추정식이 경제활동인구조사 체계 하에서 산정되어 시군구 단위 소지역 추정값들에 대한 정확도의 측도로써 활용된다. 2000년 12월 충북지역의 경제활동인구조사 자료로부터 이 지역 내의 10개 시군구 단위 행정자치구역들에 대한 실업자 총계 및 잭나이프 평균제곱오차가 본 연구에서 제시된 추정절차에 의해 추정된다. 시군구 단위 실업자 총계 추정값들의 신뢰성은 이들 추정값들의 상대편향(Relative Bias)과 상대오차제곱근(Relative Root Mean Square Error)에 의해 평가된다. 현행 한국 경제활동인구조사체계 하에서 복합추정량이 다른 추정량들에 비해 매우 안정적임을 밝힌다.

양자화 재생레벨 조정을 통한 DCT 영상 코오딩에서의 블록화 현상 감소 방법 (A Quantizer Reconstruction Level Control Method for Block Artifact Reduction in DCT Image Coding)

  • 김종훈;황찬식;심영석
    • 전자공학회논문지B
    • /
    • 제28B권5호
    • /
    • pp.318-326
    • /
    • 1991
  • A Quantizer reconstruction level control method for block artifact reduction in DCT image coding is described. In our scheme, quantizer reconstruction level control is obtained by adding quantization level step size to the optimum quantization level in the direction of reducing the block artifact by minimizing the mean square error(MSE) and error difference(EDF) distribution in boundary without the other additional bits. In simulation results, although the performance in terms of signal to noise ratio is degraded by a little amount, mean square of error difference at block boundary and mean square error having relation block artifact is greatly reduced. Subjective image qualities are improved compared with other block artifact reduction method such as postprocessing by filtering and trasform coding by block overlapping. But the addition calculations of 1-dimensional DCT become to be more necessary to coding process for determining the reconstruction level.

  • PDF