A Performance Improvement of FC-MMA Blind Equalization Algorithm based on Varying Step Size

가변 스텝 크기를 적용한 FC-MMA 블라인드 등화 알고리즘의 성능 개선

Abstract

This paper propose the VSS-FC-MMA algorithm that is possible to improve the equalization performance based on varying step size to the FC-MMA adaptive equalization algorithm in order to reducing the intersymbol interference effect occurred in the nonconstant modulus signal transmission, and improved performance were confirmed. The FC-MMA is possible to improve the convergence speed, and degrades the steady state performance based on the fixed step size and modified dispersion constant considering the level number of signal symbol for obtain the error signal in adaptive equalization compared to MMA. The proposed VSS-FC-MMA uses varying step size and current FC-MMA possible to improve the steady state equalization performance, it was confirmed by computer simulation. For this, the signal recovery capabilities and residual isi, MSE, SER were applied for performance comparison index in the same channel and signal to noise ratio. As a result of computer simulation, the proposed VSS-FC-MMA improve the risidual value in steady state and SER performance than the FC-MMA, but has 1.7 times slow convergence time by using varying step size.

본 논문에서는 nonconstant modulus 신호 전송에서 채널에서 발생되는 부호간 간섭 영향을 줄이기 위한 FC-MMA 적응 등화 알고리즘에 가변 스텝 크기를 적용하여 등화 성능을 개선할 수 있는 VSS-FC-MMA 알고리즘을 제안한 후, 이의 개선된 성능을 확인하였다. FC-MMA 는 적응 등화를 위한 오차 신호를 얻을 때 신호 심볼의 레벨수를 고려한 수정된 dispersion constant와 고정 스텝 크기를 적용하여 MMA의 수렴 속도를 개선할 수 있지만 정상 상태에서 등화 성능이 열화된다. 논문에서 제안하는 VSS-FC-MMA는 기존 FC-MMA와 가변 스텝 크기를 적용하므로서 정상 상태에서 등화 성능을 개선할 수 있으며, 이를 컴퓨터 시뮬레이션을 통해 확인하였다. 이를 위하여 동일한 채널과 신호대 잡음비를 적용할 때 알고리즘의 신호 복원 능력 및 성능 비교를 위한 지수로는 잔류 isi, MSE와 SER을 적용하였다. 시뮬레이션의 결과 제안 VSS-FC-MMA는 FC-MMA보다 잔여량과 SER 성능이 개선되지만, 수렴 속도에서는 1.7배 정도 늦어짐을 확인하였다.

Ⅰ. 서론

통신 시스템에서 등화기는 대역 제한 채널과 다중 경로 페이딩과 같은 비선형 채널에서 발생되는 찌그러짐에 의한 부호간 간섭 영향을 최소화시켜 심볼 오류율 또는 패킷 오류율 증가에 따른 시스템의 전송 효율을 높이기 위하여 수신기에서 사용되는 디지털 필터를 말한다^[1]. 채널의 임펄스 응답과 등화기의 임펄스 응답의 종합 응답이 시간 영역에서는 임펄스 특성 또는 주파수 영역에서는 평탄 통과 특성을 갖게 되어 채널에 의한 찌그러짐을 보상할 수 있게 된다. 이를 위하여 수신 신호에서 채널의 임펄스 응답 추정이 중요한 역할을 하므로, 이를 위하여 학습열의 전송이 널리 사용되었다. 그러나 이로 인한 채널 대역폭의 낭비와 전송 효율이 저하된다. 블라인드 적응 등화기는 이와 같은 문제점을 해결하면서 송신 신호의 통계적 특성치인 dispersion constant를 기반하므로서 찌그러짐을 보상할 수 있지만 등화 성능이 기존 방식 보다 열화되는 문제점을 갖는다. 최근 통신 시스템 설계자들은 이와 같은 블라인드 방식의 장점을 살리면서 단점인 성능 열화를 개선하기 위한 다양한 알고리즘 개발에 많은 관심을 갖고 있다. 블라인드 적응 등화 알고리즘으로 CMA (Constant Modulus Algorithm)를 들 수 있다^[3]. 그러나 진폭 찌그러짐만 보상이 가능하며 위상은 불가능케 되어 별도의 위상 고정 루프 (PLL)를 사용해야 한다. 이를 개선키 위하여 MMA (Multi-Modulus Algorithm)가 등장하였다^[1][4][5]. MMA는 진폭과 위상의 동시 보상 능력과 등화 안정성 측면에서 CMA보다 우월 하지만 수렴 속도, 연산량 등의 성능에서 열화되므로, 이를 더욱 개선시킬 수 있는 다양한 변형 방식이 소개되었다. 이와 같은 변형 방식중에서 수렴 속도를 개선하기 위한 FC-MMA와 연산량을 줄이는 SE-MMA 등을 들 수 있다^[2]. 그러나 이와 같은 수렴 속도나 연산량을 줄이는 방식들은 정상 상태에서 등화 잔여량이 열화되는 공통점을 가지므로 적응 modulus나 varying step size를 적용하여 열화되는 성능을 개선시킬 수 있다. 본 논문에서는 MMA의 느린 수렴 속도를 개선키 위한 FC-MMA 알고리즘에 varying step size를 적용시켜 정상 상태에서 등화 성능 열화를 줄여 성능을 개선할 수 있는 VSS-FC-MMA 알고리즘을 제안하며, 이를 시뮬레이션을 통해 확인하였다. 논문의 구성으로 2장은 적응 등화기를 사용하는 시스템 기저 대역 모델, FC-MMA와 varying step size 개념에 대해 설명한 후, 3장은 시뮬레이션 환경 및 결과를 비교한 후, 4장에서는 결론을 내리겠다.

Ⅱ. 본론

1. 통신 시스템 모델

그림 1은 수신측에서 적응 등화기를 갖는 통신 시스템의 기저 대역 모델을 나타낸 것이다. 송신측에서 기저 대역 신호 s(k)를 전송하면 부호간 간섭을 발생하는 임펄스 응답이 h(k)인 채널을 통하여 수신측에 전달된다. 이때 채널에서는 일정한 SNR을 갖는 잡음 n(k)이 부가되며, 이 과정에서 변복조에 의한 스펙트럼 천이는 이상적으로 간주하였다. 수신측에서는 수신 신호 r(k)는 임펄스 응답이 f(k)인 적응 등화 필터에 인가되어 채널에 의한 부호간 간섭을 최소화시킨 후 결정 장치를 통해 송신 신호의 추정치 s(k)를 얻게 된다. 적응 등화기의 필터 계수 f(k)는 적응 알고리즘부에서 송신 부호의 실수부와 허수부의 modified constant modulus 및 등화기 출력 신호 z(k)를 이용한 오차 신호를 발생하여 새로운 계수 f(k+1)을 얻게 된다. 이와 같은 과정을 스펙트럼 관점에서는 다음 관계식이 성립된다.

그림 1. 통신 시스템 모델

Fig. 1. Communication system model

\(\begin{array}{r} Z(f)=S(f) \cdot H(f) \cdot F(f) \\ H(f) \cdot F(f) \approx 1 \quad \therefore Z(f) \approx S(f) \end{array}\)     (1)

2. FC-MMA 알고리즘

FC-MMA는 MMA의 수렴 속도를 개선시키기 위하여 오차 함수의 (+)와 (-) 영역을 분할하여 송신 신호 성상도에서 중간 심볼 레벨에 강제로 null을 삽입시킨다. null을 삽입시켜 송신 constellation에서 심볼 레벨의 중간에서 오차를 0으로 만들뿐 만 아니라 전체적인 오차 함수를 줄일 수 있게 된다. 이는 기존 MMA 오차 함수의 실수부와 허수부에 다음과 같이 주어지는 항을 곱하여 얻는다.

\(\left(z_{\mathrm{lx}}^{2}-(\mathrm{m}-1)^{2}\right) / \mathrm{R}_{\mathrm{FC}-\mathrm{MMA}}^{2}, \quad\left(z_{\mathrm{ki}}^{2}-(\mathrm{m}-1)^{2}\right) / \mathrm{R}_{\mathrm{FC}-\mathrm{MMA}}^{2}\)       (2)

여기서 m은 송신 신호의 심볼 레벨수를 나타내며 16-QAM에서는 2, 64-QAM에서는 4의 상수값이고, FC-MMA의 실수와 허수부의 비용 함수와 오차 함수는 다음과 같이 된다.

\(\begin{array}{l} \mathrm{J}_{\mathrm{k}, \mathrm{R}, \mathrm{FC}-\mathrm{MMA}}=\mathrm{E}\left[\frac{z_{\mathrm{kR}}^{6}}{6 \mathrm{R}_{\mathrm{R}}}+\frac{(\mathrm{m}-1)^{2} Z_{\mathrm{kR}}^{2}}{2}-\frac{z_{\mathrm{kR}}^{4}}{4}-\frac{(\mathrm{m}-1)^{2} z_{\mathrm{kR}}^{4}}{4 \mathrm{R}_{\mathrm{R}}}+\mathrm{H}_{\mathrm{R}}\right]\\ \mathrm{J}_{\mathrm{k}, \mathrm{I}, \mathrm{FC}-\mathrm{MMA}}=\mathrm{E}\left[\frac{z_{\mathrm{kI}}^{6}}{6 \mathrm{R}_{\mathrm{I}}}+\frac{(\mathrm{m}-1)^{2} \mathrm{z}_{\mathrm{kI}}^{2}}{2}-\frac{z_{\mathrm{kI}}^{4}}{4}-\frac{(\mathrm{m}-1)^{2} z_{\mathrm{kI}}^{4}}{4 \mathrm{R}_{\mathrm{I}}}+\mathrm{H}_{\mathrm{I}}\right]\\ \overline{\mathrm{e}_{\mathrm{k}, \mathrm{FC}-\mathrm{MMA}}}=\frac{\left(\mathrm{z}_{\mathrm{kR}}^{2}-(\mathrm{m}-1)^{2}\right)}{\mathrm{R}_{\mathrm{R}}} \mathrm{z}_{\mathrm{kR}}\left(z_{\mathrm{kR}}^{2}-\mathrm{R}_{\mathrm{R}}\right)+\mathrm{j} \frac{\left(\mathrm{z}_{\mathrm{kI}}^{2}-(\mathrm{m}-1)^{2}\right)}{\mathrm{R}_{\mathrm{I}}} \mathrm{z}_{\mathrm{kI}}\left(\mathrm{z}_{\mathrm{kI}}^{2}-\mathrm{R}_{\mathrm{I}}\right) \end{array}\)       (3)

여기서 H_R, H_I는 J_{k+1,R : I} ≥ 0이 되도록 선택되어지는 적분 상수를 말하며 다음과 같다.

\(\mathrm{H}_{\mathrm{R}: \mathrm{I}}=\frac{\mathrm{R}_{\mathrm{R}: \mathrm{I}}\left[3(\mathrm{~m}-1)^{2}-\mathrm{R}_{\mathrm{R}: \mathrm{I}}\right]}{12}\)       (4)

dispersion constant는 수렴 후 등화기 출력의 통계치가 송신 심볼의 통계치와 matching시키도록 등화기 이득을 조절하는데 중요한 역할을 수행하며 다음과 같다.

\(\mathrm{R}_{\mathrm{R}}=\frac{\mathrm{E}\left[\mathrm{s}_{\mathrm{kR}}^{6}-\mathrm{s}_{\mathrm{kR}}^{4}(\mathrm{~m}-1)^{2}\right]}{\mathrm{E}\left[\mathrm{s}_{\mathrm{kR}}^{4}-\mathrm{s}_{\mathrm{kR}}^{2}(\mathrm{~m}-1)^{2}\right]}, \mathrm{R}_{\mathrm{I}}=\frac{\mathrm{E}\left[\mathrm{s}_{\mathrm{kI}}^{6}-\mathrm{s}_{\mathrm{kI}}^{4}(\mathrm{~m}-1)^{2}\right]}{\mathrm{E}\left[\mathrm{s}_{\mathrm{kI}}^{4}-\mathrm{s}_{\mathrm{kI}}^{2}(\mathrm{~m}-1)^{2}\right]}\)       (5)

식 (3)과 (5)을 이용하면 FC-MMA 알고리즘에서의 탭계수 갱신식은 다음과 같이 된다.

\(\mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu \overline{\mathrm{e}_{\mathrm{k}, \mathrm{FC}-\mathrm{MMA}}} \mathrm{r}_{\mathrm{k}}^{*}\)       (6)

그림 2는 FC-MMA 내부 구조를 나타낸 것으로 식 (5)의 modified dispersion constant가 오차 발생에 사용된다.

그림 2. FC-MMA의 내부 구조

Fig. 2. Internal structure of FC-MMA

그림 3은 FC-MMA의 오차 함수를 나타낸 것으로 2개의 부차적인 0점이 중앙 심볼 레벨에 해당하는 특정한 위치에서 발생된다. 이는 송신 성상도의 중앙 심볼 레벨 점에서 오차를 0으로 할 뿐 만 아니라 모든 오차 함수를 최소화한다.

그림 3. FC-MMA의 오차 함수

Fig. 3. Error function of FC-MMA

3. Varying Step Size 개념

VSS는 식 (6)의 FC-MMA 알고리즘에서 고정 스텝 μ값을 적응적으로 변화시킬 수 있는 능력을 갖는다. 적응 등화 알고리즘에서 식 (3)의 오차 신호를 직접 이용하여 step size를 제어하는데 있어서 다음의 단점을 갖는다. 첫째로 수렴전에 수렴 속도를 개선시키기 위하여 가변 step size의 step 크기를 크게 한다. 이렇게 하면 초기에 큰 오차일수록 수렴 속도가 빨라지지만, 수렴이 진행되면서 오차가 급격히 감소되어도 step size의 크기는 이에 비례하여 급격히 감소되지 않으므로 residual 오차라는 새로운 문제가 발생되며, 이는 interference에 매우 민감하다. 이를 막기 위하여 오차 신호를 적절한 변환 과정을 거쳐 비선형 함수를 이용한 step size 제어에 사용하는 것이 VSS-FC-MMA 알고리즘의 SER 성능 열화를 방지할 수 있게 된다. 제안 VSS-FC-MMA 알고리즘에서 고정 step size μ는 다음과 같이 비선형 함수인 지수 함수를 이용하여 변환한다.

\(\mu_{\mathrm{k}}=\beta\left[1-\exp \left(-\alpha\left|\overline{e_{k}}\right|\right)\right]\)       (7)

여기서 β는 proportionality factor이며 가변 step size μ_k 값을 제어하는데 사용된다. 0\(0 \leqq 1-\exp \left(-\alpha \mid \overline{e_{k}}\right) \leqq 1\)의 범위내에서 μ_k값은 \(0 \leqq \mu_{\mathrm{k}} \leqq \beta\)의 값을 갖게 되며, 알고리즘의 안정된 동작을 보장하기 위하여 step size는 다음의 조건을 만족시켜야 한다.

\(0 \leqq \mu_{\mathrm{k}} \leqq 0.66 \operatorname{tr}\left(\mathrm{R}_{\mathrm{k}}\right)\)       (8)

R_k는 등화기의 입력 신호 r_k의 자동 상관 행렬이다.

그림 4는 식 (7)의 varying step size 개념을 포함한 VSS-FC-MMA의 내부 구조를 나타낸 것으로 그림 2와의 차이점으로는 step size가 고정되지 않고 오차 신호를 이용하여 가변시킬 수 있으며, 그림 5는 VSS-FC-MMA의 오차 함수를 나타낸 것으로 출력 0를 중심으로 기함수 분포함을 알 수 있다.

그림 4. VSS-FC-MMA의 내부 구조

Fig. 4. Internal structure of VSS-FC-MMA

그림 5. VSS-FC-MMA의 오차 함수

Fig. 5. Error function of VSS-FC-MMA

Ⅲ. 컴퓨터 시뮬레이션 및 결과

식 (6)과 (7)에서 정의된 FC-MMA 및 VSS-FC-MMA 적응 등화 알고리즘의 성능을 비교, 확인하기 위하여 컴퓨터 시뮬레이션을 수행하였다. 동일한 채널과 신호대 잡음비를 30dB로 설정한 후, 송신 신호로는 nonconstant modulus 특성의 대역폭 효율이 높은 16-QAM 신호를 사용하였다. 또한 FC-MMA에서 고정 스텝 μ는 0.0006 이며, VSS-FC-MMA에서 적응 스텝 크기 μ의 최댓값으로는 0.0006이었다. 그림 6은 부호 간 간섭을 발생시키는 통신 채널의 임펄스 응답을 나타낸 것이며, 그림 7은 전체적인 신호 처리 과정을 나타낸 것이다.

그림 6. 채널의 임펄스 응답 계수

Fig. 6. Impulse response coefficient of channel

그림 7. 신호 처리 과정

Fig. 7. Signal processing flow

적응 등화기의 성능을 나타내기 위하여 등화기 출력 신호의 군집 능력, 과도 특성을 나타내는 수렴 속도와 정상 상태에서 잔여치의 양을 사용한다. 등화기 출력 신호에서는 군집 능력으로 각 신호점의 폭과 신호점간 거리가 사용되며, 수렴 속도는 등화기의 초기 상태에서 정상 상태에 도달하기 위한 속도를 나타내고, 그 이후의 잔여량의 크기를 사용한다. 이를 위하여 등화기 출력 성상도, 잔류 isi, MSE 및 SER의 성능 지수를 적용하였다. 그림 8은 첫 번째 등화기 출력의 성상도를 각 알고리즘별로 나타내었다. 그림에서는 부호 간 간섭을 줄이면서 동시에 신호점의 군집 능력을 나타내므로 모든 신호점 폭과 신호점간 거리를 직관적으로 비교하면 정성적인 성능 우월성을 알 수 있다. 그림에서 VSS-FC-MMA 알고리즘이 FC-MMA 알고리즘보다 신호점의 폭이 좁고 신호점간 거리가 크므로 우월한 성능을 가짐을 알 수 있다.

그림 8. 출력 신호의 성상도

Fig. 8. Output signal constellation

두 번째 적응 등화기의 성능을 비교하기 위하여 널리 사용되는 지수로는 잔류 isi, MSE가 있다. 이들 곡선에서는 초기의 과도 과정을 지나 특정한 레벨의 정상 상태에 도달할 때까지의 수렴 속도와 그 이후의 잔여량을 알 수 있다. 먼저 잔류 isi는 이론적으로 완전 등화 상태에서 채널과 등화기의 종합 특성이 임펄스가 되어야지만 실제적 으로 잔여 성분들이 존재하므로 이들 성분들의 크기를 나타낸다. 그림 9는 잔류 isi 성능을 나타낸 것으로 -20dB의 정상 상태에 도달하기 위한 수렴 속도에서 FC-MMA는 578회, VSS-FC-MMA는 991회가 소요되어 수렴 속도에서는 varying step size를 적용하므로서 1.8배 정도 늦어지지만, 이후의 잔여량에서는 개선됨을 알 수 있다.

그림 9. 잔류 isi 성능

Fig. 9. Residual isi performance

이와 같이 VSS-FC-MMA가 기존 FC-MMA보다 수렴속도가 늦어지는 것은 과도 구간 동안에는 식(7)의 \(\overline{\mathrm{e}_{\mathrm{k}}}\)가 정상 상태 구간보다 크지만 proportionality factor 에 의해 조절되어서 값이 적어지기 때문이다.

그림 10은 이들 알고리즘의 MSE 성능을 나타낸 것으로, 이는 결정 장치에서 “1”과 “0”를 판별할 때 발생되는 진폭의 흔들림 또는 jitter량을 나타내며 결정 장치의 입력 신호인 등화기 출력 신호와 결정 장치를 통과한 후의 신호 크기의 차이의 자승치로서 일종의 잡음을 나타낸 것이다. MSE 성능에서도 정상 상태에 도달하기 위한 수렴 속도에서는 FC-MMA가 VSS-FC-MMA보다 빠르지만, 정상 상태 이후의 jitter양에서는 이들 알고리즘이 동일함을 알 수 있다.

그림 10. MSE 성능

Fig. 10. MSE performance

마지막 성능 지수로는 적응 알고리즘이 채널에서 부가 되는 잡음에 대한 robustness를 확인하기 위한 심볼 오류율 (SER) 성능을 그림 11에 나타냈다. 그림에서 신호대 잡음비를 0~30dB 까지 5dB 단위로 변화시키면서 20,000개의 심볼을 5회 montecarlo simulation하였으며, 시뮬레이션 결과 신호대 잡음비가 낮은 0~10dB 범위에서는 VSS-FC-MMA는 FC-MMA보다 미미하지만 우월하였으며, 그 이상의 신호대 잡음비에서는 VSS-FC-MMA 가 FC-MMA보다 높은 등화 이득을 얻을 수 있었다.

그림 11. SER 성능

Fig. 11. SER performance

Ⅴ. 결론

논문에서는 채널에서 발생되는 부호간 간섭을 줄이기 위하여 기존 MMA 알고리즘의 수렴 속도를 개선하기 위한 FC-MMA와 FC-MMA에 varying step size 개념을 조합한 VSS-FC-MMA 알고리즘의 블라인드 등화 성능을 비교하였다. 성능 비교 결과 등화기 출력 신호의 군집 능력과 잔류 isi 성능과 MSE 성능에서 정상 상태 이후의 잔여량에서 VSS-FC-MMA가 FC-MMA보다 우월 또는 동등하였으며, SER 성능에서도 높은 등화 이득을 얻을 수 있었다. 그러나 정상 상태에 도달하기 위한 수렴 속도에서는 VSS-FC-MMA는 FC-MMA보다 대략 1.7배 정도 늦어짐을 알 수 있었다. 따라서 수렴 속도와 잔여량 및 SER의 성능을 고려하여 통신 서비스 트래픽의 특성에 따라 알고리즘을 다르게 적용하므로서 원하는 QoS를 얻을 수 있게 될 것으로 기대된다.