• 제목/요약/키워드: MSE Convergence

검색결과 142건 처리시간 0.023초

Echo Canceller의 수렴상수 최적화에 관한 연구 (A Study on the Optimum Convergence Constant of an Echo Canceller)

  • 정기석
    • 한국통신학회논문지
    • /
    • 제18권3호
    • /
    • pp.355-359
    • /
    • 1993
  • 본 논문에서는 echo canceller에서 LMS 알고리즘을 이용할 때 원하는 MSE하에서 가장 빠른 수렴 속도를 가져오는 최적 수렴상수에 대한 공식을 유도하였다. White 입력 데이터에 대해서 최저 수렴상수는 필터의 탭수, 입력신호 분산, 초기 MSE, 원하는 MSE의 간단한 폐쇄 형태(closed-form)의 함수가 되고 이런 특성으로 인해 실제 적용에서 쉽게 디자인될 수 있다. 또한 컴퓨터 시뮬레이션을 통해서 유도된 결과의 정확성과 유효성을 검증하였다.

  • PDF

수렴속도 개선을 위한 하이브리드 자력 등화기 (Hybrid blind equalizer for improvement of convergence performance)

  • 정교일;임제택
    • 전자공학회논문지A
    • /
    • 제33A권12호
    • /
    • pp.1-8
    • /
    • 1996
  • In this paper, we propose a hybrid blind equalizer with TEA and SG (stop & Go) algorithm with switching point a 0 dB of MSE value for improvement of convergence performance, where TEA is used initially to open the eye and then SG algorithm as rapid convergence is employed. The switching point is selected at the point of 0 dB MSE level because of settling the coefficients of blind equalier. As a result of computer simulatons for 8-PAM in the non-minimum phase channel, the proposed algorithm has better convergence speed as 3,500 ~ 4,500 iterations and has better MsE about 3 ~ 6 dB than those of original TEA. Also, computational cost of proposed algorithm is reduced as 5 ~ 16% than that of original TEA. and, the proposed algorithm has better convergence than SG algorithm as 8,500 ~ 17,500 iteratins but, the MSE is similar to original SG.

  • PDF

Improvement of Minimum MSE Performance in LMS-type Adaptive Equalizers Combined with Genetic Algorithm

  • Kim, Nam-Yong
    • Journal of electromagnetic engineering and science
    • /
    • 제4권1호
    • /
    • pp.1-7
    • /
    • 2004
  • In this paper the Individual tap - Least Mean Square(IT-LMS) algorithm is applied to the adaptive multipath channel equalization using hybrid-type Genetic Algorithm(GA) for achieving lower minimum Mean Squared Error(MSE). Owing to the global search performance of GA, LMS-type equalizers combined with it have shown preferable performance in both global and local search but those still have unsatisfying minimum MSE performance. In order to lower the minimum MSE we investigated excess MSE of IT-LMS algorithm and applied it to the hybrid GA equalizer. The high convergence rate and lower minimum MSE of the proposed system give us reason to expect that it will perform well in practical multi-path channel equalization systems.

Nonconstant Modulus 신호에서 NM-MMA 적응 등화 알고리즘의 성능 해석 (Performance Analysis of NM-MMA Adaptive Equalization Algorithm in Nonconstant Modulus Signal)

  • 임승각
    • 한국인터넷방송통신학회논문지
    • /
    • 제17권2호
    • /
    • pp.113-118
    • /
    • 2017
  • 본 논문에서는 nonconstant modulus 신호에서 기존 MMA 알고리즘의 수렴 속도를 개선하고 SE-MMA 알고리즘의 높은 MSE를 줄일 수 있는 NM-MMA (Novel Mixed-Multi Modulus Algorithm) 알고리즘을 제안하며, 이의 등화 성능을 해석하였다. NM-MMA에서는 비용 함수로서 기존 MMA와 SE-MMA 비용 함수의 gradient vector 를 적절한 가중치의 합으로 구성하여 탭 계수 갱신에 이용하므로서 수렴 속도와 MSE 성능을 개선할 수 있다. 이를 위하여 동일한 채널과 스텝 크기 및 신호대 잡음비를 적용하여 컴퓨터 시뮬레이션을 수행하였으며 성능 해석을 위한 지수로는 등화기 출력 성상도, 잔류 isi, MSE와 SER을 적용하였다. 컴퓨터 시뮬레이션의 결과 제안 NM-MMA는 기존 MMA의 수렴 속도를 개선하고, SE-MMA보다 적은 MSE 성능과 SER 성능을 얻을 수 있음을 확인하였다.

Theoretical Derivation of Minimum Mean Square Error of RBF based Equalizer

  • Lee Jung-Sik
    • 한국통신학회논문지
    • /
    • 제31권8C호
    • /
    • pp.795-800
    • /
    • 2006
  • In this paper, the minimum mean square error(MSE) convergence of the RBF equalizer is evaluated and compared with the linear equalizer based on the theoretical minimum MSE. The basic idea of comparing these two equalizers comes from the fact that the relationship between the hidden and output layers in the RBF equalizer is also linear. As extensive studies of this research, various channel models are selected, which include linearly separable channel, slightly distorted channel, and severely distorted channel models. In this work, the theoretical minimum MSE for both RBF and linear equalizers were computed, compared and the sensitivity of minimum MSE due to RBF center spreads was analyzed. It was found that RBF based equalizer always produced lower minimum MSE than linear equalizer, and that the minimum MSE value of RBF equalizer was obtained with the center spread which is relatively higher(approximately 2 to 10 times more) than variance of AWGN. This work provides an analytical framework for the practical training of RBF equalizer system.

A New Constant Modulus Algorithm based on Maximum Probability Criterion

  • 김남용
    • 한국통신학회논문지
    • /
    • 제34권2A호
    • /
    • pp.85-90
    • /
    • 2009
  • In this paper, as an alternative to constant modulus algorithm based on MSE, maximization of the probability that equalizer output power is equal to the constant modulus of the transmitted symbols is introduced. The proposed algorithm using the gradient ascent method to the maximum probability criterion has superior convergence and steady-state MSE performance, and the error samples of the proposed algorithm exhibit more concentrated density functions in blind equalization environments. Simulation results indicate that the proposed training has a potential advantage versus MSE training for the constant modulus approach to blind equalization.

영확률에 기반한 적응 이퀄라이져의 최적조건 (Optimum Conditions of Adaptive Equalizers Based on Zero-Error Probability)

  • 김남용;이규영
    • 한국통신학회논문지
    • /
    • 제40권10호
    • /
    • pp.1865-1870
    • /
    • 2015
  • 신호처리에서 영확률을 성능기준으로 하는 적응 알고리듬들은 충격성 잡음 환경에서 우수한 성능과 안정된 수렴을 보인다. 이 논문에서는 MSE 성능기준과 비교분석을 통해 영확률 성능기준이 MSE와 동일한 최적해를 가진다는 것을 증명한다. 또한 이 연구를 통해, 영확률 기반 알고리듬의 크기 조정된 입력이 충격성 잡음으로부터 최적해가 방해 받지 않도록 유지해주는 역할을 하고 있음을 보인다.

부가성 잡음이 존재하는 모노펄스 시스템 성능의 3차 테일러 전개 기반 해석적 분석 (Performance Analysis of Monopulse System Based on Third-Order Taylor Expansion in Additive Noise)

  • 함형우;김건영;이준호
    • 융합정보논문지
    • /
    • 제11권12호
    • /
    • pp.14-21
    • /
    • 2021
  • 본 논문은 가산성 잡음이 존재할 경우 모노펄스 알고리즘의 성능분석을 해석적으로 분석한 연구이다. 이전 연구에서는 1차 테일러 급수 전개와 2차 테일러 급수 전개를 통한 진폭비교 모노펄스 알고리즘의 해석적 성능 분석을 진행했다. 본 연구에는 3차 테일러 전개기반 해석적 분석법을 적용하여 1차 및 2차 테일러 근사기반의 해석적 분석보다 실제 모노펄스 알고리즘의 성능 분석 결과에 다가가는 것을 보인다. 성능분석은 평균제곱오차(Mean Squre Error)을 통해 분석되며 몬테카를로(Monte-Calro) 방법을 통한 시뮬레이션 MSE와 3차 테일러 근사기반 해석적 MSE를 서로 비교한다. 3차 테일러 근사기반 해석적 MSE를 적용하였을 경우, 이전 연구에서 제안된 2차 테일러 근사기반의 해석적 MSE의 오차를 89.5% 감소시킨다. 또한 몬테카를로 기반 MSE보다 모든 경우에서 빠른 결과를 보인다. 해당 연구를 통해 잡음 재밍이 적용된 환경에서 모노펄스 레이더의 추정 각도 능력을 명시적으로 분석이 가능하다.

다중소스 데이터 융합 기반의 가스 누출 예측을 위한 선형 보간 및 머신러닝 기법 (Linear interpolation and Machine Learning Methods for Gas Leakage Prediction Base on Multi-source Data Integration)

  • 홍고르출;조겨리;김미혜
    • 한국융합학회논문지
    • /
    • 제13권3호
    • /
    • pp.33-41
    • /
    • 2022
  • 본 논문에서는 다중 요인을 고려한 천연 가스 누출 정도 예측을 위해 관련 요인을 포함하는 기상청 자료와 천연가스 누출 자료를 통합하고, 요인 분석을 기반으로 중요 특성을 선택하는 머신러닝 기법을 제안한다. 제안된 기법은 3단계 절차로 구성되어 있다. 먼저, 통합 데이터 셋에 대해 선형 보간법을 수행하여 결측 데이터를 보완하는 전처리를 수행한다. 머신러닝 모델 학습 최적화를 위해 OrdinalEncoder(OE) 기반 정규화와 함께 요인 분석을 사용하여 필수 특징을 선택하며, 데이터 셋은 k-평균 클러스터링으로 레이블을 지정한다. 최종적으로 K-최근접 이웃, DT(Decision Tree), RF(Random Forest), NB(Naive Bayes)의 네 가지 알고리즘을 사용하여 가스 누출 수준을 예측한다. 제안된 방법은 정확도, AUC, 평균 표준 오차(MSE)로 평가되었으며, 테스트 결과 OE-F 전처리를 수행한 경우 기존 기법에 비해 성공적으로 개선되었음을 보였다. 또한 OE-F 기반 KNN(OE-F-KNN)은 95.20%의 정확도, 96.13%의 AUC, 0.031의 MSE로 비교 알고리즘 중 최고 성능을 보였다.

LOG함수의 특성을 이용한 영상잡음제거(1) (A Study on Image restoration Algorithm using LOG function character)

  • 권기홍
    • 한국컴퓨터산업학회논문지
    • /
    • 제6권3호
    • /
    • pp.447-456
    • /
    • 2005
  • 국부 반복 복원 처리는 영상 전체를 반복 복원하는 기존의 반복 복원과는 달리, 영상을 국부적으로 구분하여, 변화량이 큰 부분은 기존의 반복 복원으로 처리하고 변화량이 적은 부분은 LOG함수의 특성을 이용하여 신장 시킨 다음 처리하고, 다시 압축시키므로, 기존의 반복 복원 처리보다도 MSE(Mean Square Error)를 월등히 줄일 수 있을 뿐 아니라 변화량이 적은 부분도 처리가 잘되고, 또 기존의 반복처리 방법이 갖는, 적은 메모리 용량의 소요, 비선형 제약조건의 사용 가능, 약간의 변형으로 언제나 수렴성을 보장하는 등의 장점을 모두 가진다. 이 방법을 영상에 적용시킨 결과, MSE의 현저한 감소, 반복횟수 감소에 따른 반복시간 단축을 확인 할 수 있었다. 그러므로, 이 방법은 MSE를 줄이고 또한 처리 시간 단축을 목적으로 하는 영상의 복원에 적용될 수 있는 매우 우수한 방법임을 알 수 있다.

  • PDF