Performance Analysis of MSAGF-MMA Adaptive Blind Equalization Algorithm with Variable Step Size Using Input Power Signal and Decision-Directed Error Signal

입력 전력 신호와 결정지향 오차 신호를 이용한 가변 스텝 크기를 가지는 MSAGF-MMA 적응 블라인드 등화 알고리즘의 성능 분석

Abstract

This paper is concerned with the performance analysis of MSAGF-MMA with variable step size whose step size varies according to input power signal and decision-directed error signal. The proposed algorithm is made to change according to the input power signal which can reliably increase the convergence speed to the steady state by making the step size less affected by the fluctuation of the input signal in the MMA having the binary flag obtained from the modified Stop-and-Go algorithm. At the same time, the step size can be varied according to the decision-directed error signal so that the residual error can be reduced in the steady state. As a result of computer simulations, it is confirmed that the proposed algorithm has a very good performance in the evaluation of residual ISI and averaged-MSE in steady state as well as in terms of convergence speed to steady state compared to MMA and MSAGF-MMA.

본 논문은 입력 전력 신호와 결정지향 오차 신호에 따라 스텝 크기가 변하는 가변 스텝 크기를 가지는 MSAGF-MMA의 성능 분석에 관한 것이다. 제안한 알고리즘은 변형된 Stop-and-Go 알고리즘으로 부터 얻어진 이진 플래그를 가지는 MMA에 스텝 크기가 입력 신호의 변동에 영향을 덜 받도록 함으로써 정상상태로의 수렴 속도를 안정하게 높일 수 있는 입력 전력 신호에 따라 변하도록 하였다. 그와 동시에 정상상태에서 잔류 오차가 작아질 수 있도록 결정지향 오차 신호에 따라 스텝 크기가 가변될 수 있도록 하였다. 컴퓨터 모의실험 결과, 제안한 알고리즘이 MMA 및 MSAGF-MMA와 비교하여 정상상태로의 수렴 속도 면에서 뿐만 아니라 정상상태에서의 잔류 ISI와 averaged-MSE 등의 평가에서 매우 뛰어난 성능을 가짐을 확인하였다.

Ⅰ. 서론

유, 무선 통신 채널에서 대역제한에 의한 시간 분산 (time dispersion) 등의 이유로 발생하는 부호간 간섭(Inter-Symbol Interference)은 심볼 오류율(Symbol Error Rate)의 증가와 송, 수신국간 동기 이탈의 원인이 되며, 이로 인해 전체적인 통신 시스템의 전송 효율 및 성능 저하를 야기한다. 이 문제를 해결하기 위해 등화기 법이 사용된다. 특히 훈련에 사용될 수 있는 알려진 신호 패턴이 없거나 불충분한 전송 시스템에서는 적응 블라인드 등화 기법이 매우 효과적인 방법으로 알려져 있다. 현재 CMA^[1] 그리고 MMA^[2]를 비롯하여 많은 알고리즘들 이 개발되어 졌으며, 더 나은 성능을 위한 지속적인 연구 ^[3][4]가 이루어지고 있다.

적응 블라인드 등화의 성능은 크게 정상 상태로의 수렴 속도와 수렴 후 정상 상태에서의 잔류 오차를 기준으로 결정되는데 보통 수렴 속도를 빠르게 하면 잔류 오차가 크게 되고, 잔류 오차를 작게 하려 하면 수렴 속도가 느려지게 된다. 본 논문은 수렴 속도와 잔류 오차 특성이 양호한 MSAGF-MMA(Modified Stop-and-Go Flagged-MMA)^[5]에 입력 전력 신호와 결정지향 오차 신호에 따라 스텝 크기가 변하는 가변 스텝 크기를 적용함으로써 얼마만큼 수렴 속도 및 정상 상태에서의 ISI(Inter-Symbol Interference) 와 averaged-MSE (mean square error)의 성능이 동시에 향상되는지를 MMA와 MSAGF-MMA와의 비교를 통하여 분석하고자 한다.

본 논문의 구성은 2장에서 기존의 MMA와 MSAGFMMA을 기술하고, 3장에서 제안한 VSS MSAGF-MMA 를 설명한다. 4장에서는 컴퓨터 모의실험 결과를 통하여 기존 알고리즘들과 제안한 알고리즘의 성능을 비교, 분석한다. 마지막으로 5장에서 결론을 맺는다.

Ⅱ. MMA와 MSAGF-MMA

1. MMA

MMA^[2]는 CMA와 유사한 개념을 가지고 있지만 수신 신호를 실수 및 허수부로 나누어 각각 등화 함으로써 등 화 후에 위상 보상기를 별도로 설치하지 않아도 된다는 점에서 CMA의 단점을 개선한 알고리즘으로 널리 알려져 있다.

식 (1)은 MMA의 비용함수를 나타낸다.

\(J_{M M A}=E\left[\left(\left|y_{R}(k)\right|^{2}-R_{M M A, R}^{L}\right)^{2}+\left(\left|y_{I}(k)\right|^{2}-R_{M M A, I}^{L}\right)^{2}\right]\)       (1)

여기서 y_Rk)과 y_I(k)는 각각 등화기 출력 y(k)의 실 수와 허수 성분이며, \(R_{R, M M A}^{2}\)와 \(R_{I, M M A}^{2}\)는 식 (2)로 구해진다.

\(R_{M M A, R}^{2}=\frac{E\left[\left|a_{k, R}\right|^{4}\right]}{E\left[\left|a_{k, R}\right|^{2}\right]}, R_{M M A, I}^{2}=\frac{E\left[\left|a_{k, I}\right|^{4}\right]}{E\left[\left|a_{k, I}\right|^{2}\right]}\)       (2)

\(R_{M M A, R}^{2}\)와 \(R_{M M A, I}^{2}\)는 심볼 레벨 m을 이용하여 \(R_{M M A, R}^{2}\)=\(R_{M M A, I}^{2}\)=(12m²-7)/6^[2]로 부터 구할 수 있다. 256-QAM의 경우 m=8이므로 \(R_{M M A, R}^{2}\)=\(R_{M M A, I}^{2}\)=152.2가 된다.

MMA의 추정 오차 신호는 식 (3)과 같이 나타낼 수 있다.

\(\begin{array}{l} e_{M M A, R}(k)=y_{R}(k)\left(y_{R}^{2}(k)-R_{M M A, R}^{2}\right) \\ e_{M M A, I}(k)=y_{I}(k)\left(y_{I}^{2}(k)-R_{M M A, I}^{2}\right) \end{array}\)       (3)

MMA의 탭 갱신 알고리즘은 식 (4)와 같다

\(\boldsymbol{W}(k+1)=\boldsymbol{W}(k)+\mu\left[e_{M M A, R}(k)+j e_{M M A, I}(k)\right] \mathbf{x}^{*}(k)\)       (4)

2. MSAGF-MA(Modified Stop-and-Go Flagged-MMA

MSAGF-MMA^[5]는 MMA에 의한 추정 오차 신호 e_MMA,R(k) 및 e_MMA,I(k)와 결정지향(DecisionDirected) 알고리즘에 대한 추정 오차 신호 e_DD,R(k) 및 e_DD,I(k) 의 부호를 구하여 동일한 양 또는 음의 오 차를 가지는지를 비교한 후, 같은 방향의 오차만을 탭 갱 신에 사용하여 보다 신뢰성 있는 탭 갱신이 이루어지도 록 함으로써 등화 성능을 개선한 알고리즘이다. 이 알고리즘에서 사용된 이진 플래그 f_MSAG,R(k) 과 f_MSG,I(k) 는 Stop-and-Go 알고리즘[6]을 변형하여 얻어지며 식 (5)와 같이 정의된다.

\(\begin{array}{l} f_{M S A G, R}(k)=\left\{\begin{array}{ll} 1 & \text { if } \operatorname{sgn}\left(e_{M M A, R}(k)\right)=\operatorname{sgn}\left(e_{D D, R}(k)\right) \\ 0 & \text { if } \operatorname{sgn}\left(e_{M M A, R}(k)\right) \neq \operatorname{sgn}\left(e_{D D, R}(k)\right) \end{array}\right. \\ f_{M S A G, I}(k)=\left\{\begin{array}{ll} 1 & \text { if } \operatorname{sgn}\left(e_{M M A, I}(k)\right)=\operatorname{sgn}\left(e_{D D, I}(k)\right) \\ 0 & \text { if } \operatorname{sgn}\left(e_{M M A, I}(k)\right) \neq \operatorname{sgn}\left(e_{D D, I}(k)\right) \end{array}\right. \end{array}\)       (5)

MSAGF-MMA의 추정 오차 함수 e_MSAGF-MMA,R(k) 와 e_MSAGF-MMA,I(k)는 식 (6)으로 구할 수 있으며

\(\begin{array}{l} e_{\operatorname{MSAGF-MMA}, R}(k)=f_{\operatorname{MSAG}, R}(k) \cdot e_{\operatorname{MMA}, R}(k) \\ e_{M S A G F-M M A, I}(k)=f_{M S A G, I}(k) \cdot e{M M A, I}(k) \end{array}\)       (6)

그에 따른 탭 갱신 식은 식 (7)과 같다.

\(\begin{aligned} \boldsymbol{W}(k+1)=\boldsymbol{W} &(k)+\mu\left[f_{M S A G, R} e_{\operatorname{MSAGF}-M M A, R}(k)\right.\\ &\left.+j f_{M S A G, I} e_{S M S A G F-M M A, I}(k)\right] \mathbf{x}^{*}(k) \end{aligned}\)       (7)

Ⅲ. 제안한 가변 스텝크기를 가지는 MSAGF-MMA(VSS MAGF-MMA)

적응 블라인드 등화의 탭 갱신 식에서 큰 고정 스텝 크기를 사용하면 수렴 속도는 빨라지지만 정상 상태에서의 잔류 오차는 커진다. 반대로 작은 크기의 고정 스텝을 사용하면 정상 상태에서의 잔류 오차는 매우 작으나 정상 상태로의 수렴 속도는 매우 느려지게 된다. 따라서 고정 스텝 크기 μ를 등화 상황에 따라 가변적으로 제어될 수 있다면 등화 수렴 속도면에서나 등화 후 정상 상태에서의 잔류 오차면에서 우수한 성능 향상을 가져올 수 있을 것이다.

본 논문에서는 식 (8)과 같이 정의된 가변 스텝 크기를 가지는 MSAGF-MMA 적응 블라인드 등화 알고리즘을 제안한다. 식 (8)을 설명하면 먼저 가변 스텝 크기 μ(k)가 출력 신호점과 추정된 원 신호점과의 차이에 대한 크기를 나타내는 결정 지향 알고리즘의 오차의 크기 값 |e_DD(k)|가 정해진 영역 결정 기준값 λ(0<λ≤1) 범위 밖에 있느냐 아니면 안에 있느냐에 따라 스텝 크기를 다르게 한다. |e_DD(k)|가 λ 범위 밖이면 아직 눈 모형(eye pattern)이 닫혀 있다고 판단하여 μ(k)가 고정 스텝크기 μ₁을 탭 갱신식에 사용하도록 하고, 범위 안이면 눈 모형이 열려 있다고 판단하여 이때부터는 μ(k)가 고정 스텝 크기 μ₂가 |e_DD(k)| 값에 따라 변하는 값을 가지도록 한다. 이와 함께 고정 스텝 크기 μ₁과 μ₂를 등화기의 입력 전력 신호 |x(k)|² 로 정규화함으로써 입력 전력의 변동에 덜 민감하게 하며, 결과적으로 정상 상태로 수렴할 때 보다 강건하고 빠른 수렴 속도를 가질 수 있도록 한다. 이때 입력 신호값 x(k)이 0인 경우 탭 값이 발산하게 되므로 탭 갱신을 못하도록 &mu(k)=0 으로 한다.

\(\mu(k)=\left\{\begin{array}{cc} \frac{\mu_{1}}{|x(k)|^{2}} & \text { if }\left|e_{D D}(k)\right| \geq \lambda \text { and } x(k) \neq 0 \\ \frac{\mu_{2}\left|e_{D D}(k)\right|}{|x(k)|^{2}} & \text { if }\left|e_{D D}(k)\right|<\lambda \text { and } x(k) \neq 0 \\ 0 & \text { if } x(k)=0 \end{array}\right.\)       (8)

여기서 0<λ≤1이고 μ₁>μ₂ 이다.

제안한 가변 스텝 크기를 적용한 알고리즘의 탭 갱신 식은 식 (9)와 같이 쓸 수 있다.

\(\begin{aligned} \boldsymbol{W}(k+1)=\boldsymbol{W} k &+\mu(k)\left[f_{M S A G, R} e_{M S A G F-M M A, R}(k)\right.\\ &\left.+j f_{M S A G, I} e_{M S A G F-M M A, I}(k)\right] \mathbf{x}^{*}(k) \end{aligned}\)       (9)

그림 1은 제안한 알고리즘의 전체 블록도를 나타낸다.

그림 1. 제안한 알고리즘의 블록도

Fig. 1. Block diagram of the proposed algorithm

Ⅳ. 컴퓨터 모의실험 및 고찰

제안한 적응 블라인드 등화 알고리즘의 성능을 분석하기 위하여 MMA 및 MSAGF-MMA와 비교하였다. 성능 지표로는 잔류 ISI(residual inter-symbol interference)[7]와 averaged-MSE(minimum square error)[8]를 사용하였다. 또한 정성적 평가 지표로써 등화 후 출력 신호점도를 사용하였다. 식 (10)과 (11)은 잔류 ISI와 averaged-MSE 에 대한 정의 식을 나타낸다.

\(\text { residual ISI }=\frac{\sum_{n}|s(k)|^{2}-|s(k)|_{\max }^{2}}{|sk)|_{\max }^{2}}\)       (10)

\(\text { averaged }-M S E=\frac{1}{N} \sum_{k=1}^{N} E\left[|y(k)-\hat{a}(k)|^{2}\right]\)       (11)

여기서 s(k)는 채널 h(k)와 등화 필터 W(k)간의 콘볼루션 결과 값을 나타낸다. \(\hat{a}(k)\)는 결정지향 알고리즘에서 추정된 원 신호점이다.

모의실험은 [6]에서 사용된 다중 경로 채널을 대상으로 256-QAM 신호에 대해 이루어졌다. 등화기로는 15 차의 탭 길이를 가지는 복소 FIR 필터를 사용하였으며, 영역 결정 기준값 λ는 실험을 통하여 1로 하였다.

그림 2에서 256-QAM 신호에 대해 각각 100회의 Monte Carlo 수행을 통해 얻은 앙상블 평균한 잔류 ISI를 dB로 나타내었다. 이때 256-QAM 신호에 대한 실수부와 허수부 신호는 각각 ± 1, ± 3, ± 5, ± 7,...., ± (2m-1) 값을 가지도록 하였으며, SNR=40dB로 하였다. 또한 constant modulus \(R_{M M A, R}^{2}\) 과 \(R_{M M A, I}^{2}\) 값은 152.2로 하였다. 스텝 크기 μ, μ₁ , 그리고 μ₂값은 반복적인 실험 통하여 가능한 한 정상 상태로의 빠른 수렴 속도와 정상 상태에서 작은 잔류 ISI 값을 가지는 최적값으로 정하였다. 본 실험에서 MMA에서 μ=3.0 X 10^-8 , MSAGF-MMA에서 μ=8 X 10^-8 , 그리고 제안한 VSS MSAGF-MMA 알고리즘에서 μ₁=μ₂=μ=6.5 X 10⁴ 으로 하였다.

그림 2. 256-QAM 신호에 대한 앙상블한 잔류 ISI 성능 비교

Fig. 2. Performance comparison of an ensemble residual ISI for 256-QAM signal

그림 2에서 MMA는 17880번 정도의 반복 횟수에서 -27.28dB의 ISI 값을 가지며 정상 상태를 유지함을 보인다. 또한 MSAGF-MMA는 7916번의 반복 횟수에서 -38.57dB 정도의 ISI 값을 가지며 정상 상태를 유지함을 보인다. 이와 비교하여 제한 VSS MSAGF-MMA는 256-QAM 신호를 등화하는데 있어서 5884번 정도의 반복횟수에서 –47.51dB 정도의 ISI 값을 가지며 정상 상태를 유지함을 보인다. 결과적으로 제안한 알고리즘이 정상 상태에서 잔류 ISI 측면에서 MMA 알고리즘 보다 20.23dB, 그리고 MSAGF-MMA 보다는 8.94dB의 성능 개선을 이루었다. 수렴 속도면에서는 MMA보다 11996번 정도, MSAGF-MMA보다는 2032번 정도 더 빠르게 정상 상태에 들어감을 보인다. 따라서 제안한 VSS MSAGF-MMA가 정상 상태로의 매우 빠른 수렴 속도를 가짐과 동시에 정상 상태에서의 매우 작은 잔류 IS를 가 지는 우수한 성능을 가짐을 확인할 수 있다.

그림 3에서는 256-QAM 신호에 대한 정상 상태에서 의 앙상블 averaged-MSE값들의 성능을 비교하였다. 실험에서 앙상블 averaged-MSE를 구하기 위하여 식 (11)에서의 M값은 99로 하였다. 그림에서 MMA는 – 4.8987dB, MSAGF-MMA는 –14.8253dB, 그리고 제안한 VSS MSAGF-MMA는 –19.9061dB의 값을 가짐을 보인다. 결과적으로 제안한 알고리즘이 MMA에 비해 -15.0074dB, MSAGF-MMA와 비교해서는 -5.0808dB의 성능을 개선하였다.

그림 3. 256-QAM 신호에 대한 앙상블 averaged-MSE 성능 비교

Fig. 3. Performance comparison of an ensemble averaged-MSE for 256-QAM signal

그림 4에서는 256-QAM 신호에 대한 등화 전과 등화 후의 신호점을 보인다. 그림 4-(a)는 등화 전의 신호점을 나타낸다. 그림 4-(b) MMA의 등화 후 신호점을, 그림 4-(c)는 MSAGF-MMA의 등화 후 신호점을, 마지막으로 그림 4-(d)는 제안한 알고리즘의 등화 후 신호점을 나타낸다. 이들은 각각 SNR=40dB의 조건에서 25,000번 수행 이후의 5,000개의 데이터를 나타내었다. 그림 4-(b)에서 MMA는 256 QAM 신호를 등화한 후 신호점 모습이 눈이 크게 열리지 않은 상태를 보이고 있으며, 그림 4-(c)와 그림 4-(d)에서 MSAGF-MMA와 제안한 VSS MSAGF-MMA는 눈이 크게 열려 신호점들을 완전히 구분할 수 있을 정도로 신호점이 작게 모여 있음을 보인다. 그중에서도 제안한 VSS MSAGF- MMA가 조금 더 작게 뭉쳐져 모여 있음을 알 수 있다.

그림 4. 256-QAM 신호에 대한 신호점도

(a) 등화 전 (b) MMA (c) MSAGF-MMA (d) 제안한 알고리즘

Fig. 4. A constellation for 256-QAM signal

(a) Before an equalization (b) MMA (c) MSAGF-MMA (d) Proposed algorithm

Ⅴ. 결론

본 논문에서는 등화 계수를 갱신할 때마다 입력 전력 신호와 결정지향 오차 신호를 이용하여 스텝 크기가 결정되도록 한 가변 스텝 크기를 가지는 MSAGF- MMA에 대한 성능을 분석하였다. 컴퓨터 모의실험을 통하여 256-QAM 시스템에서 정상 상태로의 수렴 속도면에서 제안한 알고리즘이 MMA와 비교해서 약 3.04배, 그리고 MSAGF-MMA와 비교해서는 약 1.35배 정도 빠른 성능 개선을 이뤘다. 한편 정상 상태에서의 잔류 ISI 면에서 MMA과 비교해서 20.23dB, MSAGF-MMA와 비교하여서는 8.94dB 정도 더 낮은 –47.51dB의 성능을 보였다. 또한 averaged-MSE 비교에서는 MMA보다 15.0074dB 그리고 MSAGF-MMA보다는 5.0808dB 정도 더 낮은 –19.9061dB의 성능을 나타내었다. 수렴속도와 잔류 ISI, averaged-MSE 등을 종합하여 볼 때 제안한 알고리즘이 수렴 속도나 잔류 오차면에서 모두 우수한 성능을 가짐을 확인하였다.