DOI QR코드

DOI QR Code

Categorized VSSLMS Algorithm

Categorized 가변 스텝 사이즈 LMS 알고리즘

  • 김선호 (서울대학교 전기컴퓨터공학부) ;
  • 전상배 (서울대학교 전기컴퓨터공학부) ;
  • 임준석 (세종대학교 전자공학과) ;
  • 성굉모 (서울대학교 전기컴퓨터공학부)
  • Published : 2009.11.30

Abstract

Information processing in variable and noisy environments is usually accomplished by means of adaptive filters. Among various adaptive algorithms, Least Mean Square (LMS) has become the most popular for its robustness, good tracking capabilities and simplicity, both in terms of computational load and easiness of implementation. In practical application of the LMS algorithm, the most important key parameter is the Step Size. As is well known, if the Step Size is large, the convergence rate of the algorithm will be rapid, but the steady state mean square error (MSE) will increase. On the other hand, if the Step Size is small, the steady state MSE will be small, but the convergence rate will be slow. Many researches have been proposed to alleviate this drawback by using a variable Step Size. In this paper, a new variable Step Size LMS(VSSLMS) called Categorized VSSLMS (CVSSLMS) is proposed. CVSSLMS updates the Step Size by categorizing the current status of the gradient, hence significantly improves the convergence rate. The performance of the proposed algorithm was verified from the view point of convergence rate, Excessive Mean Square Error(EMSE), and complexity through experiments.

소음이 존재하고, 신호의 전달 시스템이 가변적인 환경에서 신호처리는 일반적으로 적응 알고리즘에 의해 이뤄진다. 다양한 적응 알고리즘들 중에서 LMS 알고리즘은 연산량이 적고, 구현이 쉬우며, 성능이 훌륭해 가장 널리 쓰이는 알고리즘이 되었다. LMS 알고리즘의 성능에 영향을 미치는 가장 중요한 요소 중 하나가 Step Size이다. 일반적으로, Step Size가 크면, 알고리즘 수렴 속도는 빨라지지만, 수렴 오차는 커지게 되고, Step Size가 작으면 수렴 오차는 작아지지만, 수렴 속도는 느려진다. Step Size의 이러한 특성을 상호 보완하고자 많은 방법들이 제안되어 오고 있다. 본 논문에서는 오차 제곱 변화 곡선의 기울기로부터 현재 상태에 대한 카테고리를 분류하여, Step Size를 매 단계마다 적절하게 가변시킴으로써, 결과적으로 수렴 속도와 정확도, 연산량을 향상시킨 새로운 개념의 Categorized 가변 스텝 사이즈 LMS 알고리즘을 제시하고, 그 성능은 실험을 통하여 수렴 속도와 Excessive Mean Square Error (EMSE), 연산량의 관점에서 향상되었음을 검증하였다.

Keywords

References

  1. Wee-Peng Ang, B. Farhang-Boroujeny, "A New Class of Gradient Adaptive Step-Size LMS Algorithms", IEEE Transactionson Signal Processing, vol. 49, no. 4, pp. 805-810, 2001 https://doi.org/10.1109/78.912925
  2. Jeronimo Arenas - Garcia, Vanessa Gomez-Verdejo, Anibal R. Figueiras-Vidal, "New Algorithms for Improved Adaptive Convex Combination of LMS Transversal Filters", IEEE Transactionson lnstrumentation and Measurement, vol. 54, no. 6, pp. 2239-2249, 2005 https://doi.org/10.1109/TIM.2005.858823
  3. Raymond H. Kwong, Edward W. Johnston, "A Variable Step Size LMS Algorithm", IEEE Transactionson Singnal Processing, vol. 40, no. 7, pp. 1633-1642, 1992 https://doi.org/10.1109/78.143435
  4. Yonggang Zhang, Ning Li, Jonathon A. Chambers, Yanling Hao, "New Gradient-Based Variable Step Size LMS Algorithms", Eurasip Journal on Advances in Signal Processing, vol. 2008, 1-9, 2008 https://doi.org/10.1155/2008/529480
  5. Simon Haykin, Adaptive Filter Theory, $4^{th}edition$, Prantice-Hall, NewJersey, 2002
  6. A. Feuer and E. Weinstein, "Convergence analysis of LMS filters with uncorrelated Gaussian data", IEEE Trans. Acoust., Speech, Signal Processing, vol. ASSP-33, no. 1, pp. 222-230, 1985 https://doi.org/10.1109/TASSP.1985.1164493
  7. John R. Treichler, C. Richard Johnson, JR, Michael G. Larimore, THEORY AND DESIGN OF ADAPTIVE FILTERS, Prantice-Hall, NewJersey, 2001