A Performance Analysis of Hybrid-DSE-MMA Adaptive Equalization Algorithm based on Adaptive Modulus and Adaptive Stepsize

Adaptive Modulus와 Adaptive Stepsize를 이용한 Hybrid-DSE-MMA 적응 등화 알고리즘의 성능 분석

Abstract

This paper relates with the Hybrid-DSE-MMA (Hybrid-Dithered Signed Error-MMA) that is possible to improving the equalization performance by using the adaptive modulus and adaptive stepsize in DSE-MMA adaptive equalizer. The DSE-MMA possible to improve the robustness performance to external noise of SE-MMA by using the sign after adding the dither signal for get the error signal in order to update the tap coefficient. But it has a drawback of performance degradation in convergence speed and residual isi by using the fixed modulus and fixed stepsize. In this paper, it was confirmed that this equalization performance degradation was improved by applying the adaptive modulus and stepsize in DSE-MMA propotional to the output power of equalizer by computer simulation. In order to compare the improved equalization performance to currently DSE-MMA, the recovered signal constellation that is the output of the equalizer, residual isi, Maximum Distortion, MSE and the SER were used as a performance index. As a result of computer simulation, the Hybrid-DSE-MMA improve the equalization performance in every index, but gives slower convergence speed compared to DSE-MMA.

본 논문은 DSE-MMA (Dithered Sign Error-MMA) 적응 등화기에서 adaptive modulus와 adaptive stepsize를 이용하여 등화 성능을 개선할 수 있는 Hybrid-DSE-MMA에 관한 것이다. DSE-MMA는 탭 계수 갱신을 위한 오차 신호를 얻을 때 dither 신호를 부가한 후 이의 부호만을 이용하므로 SE-MMA의 외부 잡음에 대한 robustness 성능을 개선시키지만, 고정 modulus와 stepsize를 이용하므로 수렴 속도와 잔류 isi 성능이 저하되는 단점이 있다. 논문에서는 등화기 출력 신호의 전력에 비례하는 adaptive modulus와 adaptive stepsize를 DSE-MMA에 적용하므로서 저하되는 등화 성능을 개선할 수 있음을 컴퓨터 시뮬레이션을 통해 확인한다. 개선된 등화 성능을 기존 DSE-MMA와 비교하기 위하여 수신측에서의 등화기 출력 신호인 복원된 신호 성상도, 잔류 isi, MD (Maximum Distortion), MSE 및 외부 잡음에 대한 알고리즘의 강인성을 알 수 있는 SER 성능을 사용하였다. 컴퓨터 시뮬레이션 결과 Hybrid-DSE-MMA 알고리즘은 모든 잔류 isi와 MD, MSE 및 SER등의 모든 성능 지수에서 DSE-MMA 보다 개선 되지만 수렴 속도가 늦어짐을 알 수 있었다.

Ⅰ. 서론

음성 대역급 채널을 통한 디지털 신호를 전송할 때 부가 백색 잡음, 부호간 간섭 및 페이딩, 위상 찌그러짐 같은 비선형 채널 특성을 받게 된다. 이와 같은 비선형 채널 특성은 전송되는 신호를 심각하게 열화시켜 원래의 신호와는 상이해진다. 특정 채널을 통해 신호를 전송할 때 채널은 전달 함수를 갖는 디지털 시스템으로 모델링되어지므로, 비선형 채널 특성을 극복하기 위하여 수신기의 전달 함수는 채널의 전달 함수와는 역함수 관계를가져야 한다^[2][3]. 이와 같은 채널의 함수와 역관계를 갖는 수신 필터를 등화기라고 하며, 통신 시스템 설계자들에게는 매우 중요한 부분으로, 비선형 채널의 시변 특성을 고려할 때 자기 적응 방식이 사용되고, 이는 통신 시스템의 전체 throughput을 결정하는 주요한 요인이 되고 있다^[1]. 그래서 수신측에서 총 연산량의 80% 이상이 적응 등화 알고리즘에서 소요되므로 이를 줄일 수 있는 방식이 필요하다. 현재 널리 사용되고 있는 적응 등화 알고리즘으로는 MMA (Multiple Modulus Algorithm)가 있으며, 이의 연산량을 줄인 SE-MMA, DSE-MMA가 등장하였다^[3][4]. SE-MMA는 기존 MMA와 같이 진폭과 위상의 동시 보상 능력을 가지면서 전체적인 등화 성능이 열화되는 문제점이 있으므로, DSE-MMA는 SE-MMA의 등화 성능중에서 외부 잡음에 대한 robustness를 개선시킨다^[2][5]. 본 논문에서는 DSE-MMA에서 등화기 출력의 실수부와 허수부에 가장 유사한 maximum likelihood에 의한 adaptive modulus와 오차 신호의 비선형성을 이용한 adaptive stepsize를 적용하여 알고리즘 연산량을 줄이고 등화 성능을 개선할 수 있는 Hybrid-DSE-MMA를 제안하며, 이의 개선된 등화 성능을 시뮬레이션을 통해 확인한다.

논문의 구성으로 2장에서는 적응 등화기를 사용하는 통신 시스템 모델과 DSE-MMA 알고리즘과 adaptive modulus와 adaptive stepsize 개념을 설명한 후, 3 장에서는 시뮬레이션 과정 및 적응 등화 성능을 제시한 후, 4장에서는 결론을 내리겠다.

Ⅱ. 본론

1. 통신 시스템 모델

그림 1은 수신기에서 등화기를 사용한 일반적인 통신시스템의 송수신 기저 대역 모델을 나타낸 것이며, 수신모델은 등화 필터, 적응 알고리즘 및 결정 장치로 구성되어 있다. 그림에서 정보원 (source)로부터 발생된 “1”과 “0”의 데이터는 constellation mapping 과정을 통해 16-QAM 신호 s(k)를 발생한다. s(k)는 평균 0인 2 차원 성상도를 가지며, 미지의 SISO (Single In Single Output) 시스템인 채널 h(k)는 비최소 위상 선형으로 전달 함수는 단위원 상에 영점이 존재하지 않는다. 이 신호는 부호간 간섭을 발생시키는 임펄스 응답이 h(k)인 채널을 통하여 수신측에 전달되며 이때 채널에서는 일정한 신호대 잡음 전력비를 갖는 평균 0, 유한 분산값을 갖는 가우시안 잡음 n(k)이 부가된다. 수신측에 수신된 신호 r(k)는 임펄스 응답이 f(k)인 적응 등화기에 인가되어, 부호간 간섭이 최소화된 등화 출력 신호를 얻게 된다. 이때 등화기 탭 계수 f(k)의 전달 함수는 통신 채널의 역 전달 특성을 갖도록 설정된다. 적응 등화기의 출력 신호는 결정 장치를 통해 송신 신호의 추정치 \(\mathrm{s} \widehat{(\mathrm{k})}\)를 얻게 된다. 주파수 영역에서는 채널의 임펄스 응답 h(k)의 퓨리어 변환치를 H(ω), 등화기의 필터 계수 f(k)의 퓨리어 변환치를 F(ω)라면 다음의 관계가 성립된다.

\(\mathrm{H}(\omega) \cdot \mathrm{F}(\omega)=1\)       (1)

그림 1. 기저 대역 통신 시스템 모델

Fig. 1. Baseband communication system model

2. DSE-MMA 알고리즘

DSE-MMA 적응 알고리즘은 SE-MMA 알고리즘에서 오차 신호 발생시 dithering 신호를 인가하여 양자화하는 개념이다. SE-MMA에서 적응 등화를 위한 계수 갱신은 등화기 출력 신호 z(k)와 송신 신호의 dispersion constant 의 차이에 의한 오차 신호의 극성을 이용한다. 등화 필터의 출력 신호 z(k)는 영-오차 윤곽 선상에서 일정한 dispersion constant의 정사각형이 되도록 조정되며 이 constant와 실제 출력 신호 z(k)와의 오차 신호 e(k)를 이용하며 비용 함수, dispersion constant, 양자화된 오차 신호와 탭 계수 갱신식은 다음과 같이 된다.

\(\begin{aligned} &\mathrm{J}=\mathrm{E}\left[\left(\left|z_{(\mathrm{k}) \mathrm{r}}\right|^{2}-\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2}\right)^{2}+\left(\left|z_{(\mathrm{k}) i}\right|-\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2}\right)^{2}\right]\\ &\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2}=\frac{\mathrm{E}\left(\left|\mathrm{s}_{(\mathrm{k}) \mathrm{r}}^{4}\right|\right)}{\mathrm{E}\left(\left|\mathrm{s}_{(\mathrm{k}) \mathrm{r}}^{2}\right|\right)}=\frac{\mathrm{E}\left(\left|\mathrm{s}_{(\mathrm{k})}^{4}\right|\right)}{\mathrm{E}\left(\left|\mathrm{s}_{(\mathrm{k})}^{2}\right|\right)}\\ &\overline{\mathrm{e}_{(\mathrm{k}) \operatorname{SE}-\mathrm{MMA}}}=\operatorname{sgn}\left[\mathrm{z}_{(\mathrm{k}) \mathrm{r}}\left(\left|z_{(\mathrm{k}) \mathrm{r}}\right|^{2}-\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2}\right)\right]+\\ &\mathrm{j} \operatorname{sgn}\left[\mathrm{z}_{(\mathrm{k}) \mathrm{i}}\left(\left|\mathrm{z}_{(\mathrm{k}) \mathrm{i}}\right|^{2}-\mathrm{R}_{\mathrm{SE}}^{2}-\mathrm{MMA}\right)\right]\\ &\mathrm{f}(\mathrm{k}+1)=\mathrm{f}(\mathrm{k})-\mu \overline{\mathrm{e}(\mathrm{k})_{\mathrm{SE}-\mathrm{MMA}}} \mathrm{r}_{\mathrm{k}}^{*} \end{aligned}\)       (2)

여기서 z_(k)r, z_(k)i은 z(k)의 실수와 허수, s(k)r, s(k)i은 s(k)의 실수와 허수를 각각 나타낸다. DSE-MMA에서 dithering은 탭 계수 갱신을 위한 오차 신호를 얻기 위한 양자화 이전에 랜덤 신호를 부가하여 양자화로 인한 손실되는 정보를 보존케 하는 방법으로 사용된다. 부가 잡음이라는 관점에서 dithering은 양자화될 신호와는 무관하게 백색, 평균 0 인 양자화 잡음을 만드는 것이다. 이와 같은 양자화 잡음은 적은 스텝 크기로 인하여 평균적으로 제거되어질 것이므로 평균적으로 unsigned 방식과 동일한 결과를 얻을 수 있다. 이때 부가되는 dithering 신호는 PBE (Pefect Blind Eqaulization) 조건

- source의 정규화 kurtosis \(\mathrm{k}_{\mathrm{S}}=\mathrm{E}\left[\left|\mathrm{S}_{\mathrm{n}}\right|^{4}\right] / \sigma_{\mathrm{S}}^{4}\)는 가우시안 프로세스보다 적은 sub-gaussion process 일 것

- identical, independent distribution, 평균 0 인 \(\mathrm{E}\left[\mathrm{s}_{n}^{2}\right]=0\)

을 만족시키기 위하여 [-1~1] 사이에서 균등 분포 하는 랜덤 변수이어야 한다. 그림 2는 이와 같은 DSE-MMA 의 탭 계수 갱신을 위한 개념도를 나타낸 것이다. 그림에서 DSE-MMA는 오차 함수를 발생하는 블록에서 dither signal을 부가한 후 양자화를 수행한 후 이를 이용하여 탭 계수 갱신을 위하여 사용됨을 알 수 있다.

그림 2. DSE-MMA 구조

Fig. 2. Structure of DSE-MMA

그림에서 1비트 양자화기는 크기는 무시하고 부호만을 취하는 비선형 연산자이므로, SE-MMA에서는 이로 인한 정보 손실에 의해 등화 성능이 열화된다. DSE-MMA에서는 양자화 이전에 dither라는 랜덤 신호를 부가하므로 양자화에 의한 정보 손실을 보상할 수 있으며, 탭 계수 갱신식은 다음과 같다.

\(\mathrm{f}(\mathrm{n}+1)=\mathrm{f}(\mathrm{n})-\mu \cdot \alpha \cdot \operatorname{csgn}\left(\mathrm{y}_{\mathrm{n}}^{*}\left(\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}-\left|\mathrm{y}_{\mathrm{n}}\right|^{2}\right)+\alpha \mathrm{d}_{\mathrm{n}}\right) \mathrm{r}_{\mathrm{n}}\)       (3)

여기서 α는 dither 진폭을 나타내며 robustness와 정상 상태에서 MSE의 절충점이 되도록 \(\alpha>2\left(\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2} / 3\right)^{1.5}\)가 되며, \(\mathrm{d}_{\mathrm{n}}=\mathrm{d}_{\mathrm{n}}^{(\mathrm{R})}+\mathrm{j} \mathrm{d}_{\mathrm{n}}^{(\mathrm{I})}\)로 표현되는 (-1, 1)의 범위내에서 uniform 분포하는 dither process의 실수부와 허수부의 조합이다.

3. Adaptive Modulus와 Adaptive Stepsize

SE-MMA와 DSE-MMA는 고정된 dispersion constant modulus \(\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2}\)를 이용하여 등화기 출력이 modulus를 중심으로 \(\pm \sqrt{\mathrm{R}_{(\mathrm{R}) \mathrm{SE}-\mathrm{MMA}}}\)와 \(\pm \sqrt{\mathrm{R}_{(\mathrm{I}) \mathrm{SE}-\mathrm{MMA}}}\)의 점에 위치하도록 탭 계수를 갱신하지 만, Hybrid-DSE-MMA의 adaptive modulus는 등화기 출력의 실수와 허수부는 그림 3과 같이 해당 실수부와 허수부에 가장 유사한 신호점 기반의 maximum likelihood 원칙을 적용하고 있다. 그림에서 zone 1과 zone 2에 속하는 z_R-1, z_R-2은 신호점의 실수 축에 대한 점이며, z_I-1, z_I-2 는 신호점의 허수축에 대한 점이다. 그림에서 “O"와 같은 등화기 출력을 얻었다면, 실수축에 대해서는 zone 1에 속하며, 허수축에 대해서도 zone 2에 속하게 되어 modulus를 적응적으로 변화시키게 된다.

그림 3. 16-QAM에서 Likelihood zone

Fig. 3. Likelihood zone of 16-QAM

16-QAM 신호에서 이와 같은 개념을 적용한 adaptive modulus는 다음과 같다.

\(\begin{aligned} &\text { If } z_{(\mathrm{k}) \mathrm{r}} \in Z_{\mathrm{R}-1} \quad \text { then } \sqrt{\mathrm{R}_{\mathrm{r} \text { Hybrid-DSE-MMA }}}=\pm 0.3153 \\ &\text { If } z_{(\mathrm{k}) \mathrm{r}} \in Z_{\mathrm{R}-2} \quad \text { then } \sqrt{\mathrm{R}_{\mathrm{r} \text { Hybrid-DSE-MMA }}}=\pm 0.946 \\ &\text { If } z_{(\mathrm{k}) \mathrm{i}} \in Z_{\mathrm{I}-1} \quad \text { then } \sqrt{\mathrm{R}_{\mathrm{i} \text { Hybrid }-\mathrm{DSE}-\mathrm{MMA}}}=\pm 0.3153 \\ &\text { If } z_{(\mathrm{k}) \mathrm{i}} \in Z_{\mathrm{I}-2} \quad \text { then } \sqrt{\mathrm{R}_{\mathrm{i} \text { Hybrid }-\mathrm{DSE}-\mathrm{MMA}}}=\pm 0.946 \end{aligned}\)       (4)

DSE-MMA에서는 \(\sqrt{\mathrm{R}_{\mathrm{DSE}-\mathrm{MMA}}}=0.33\)을 고정적으로 사용하지만 제안하는 Hybrid-DSE-MMA에서는 등 화기 출력 신호의 값에 따라 modulus를 식 (6)과 같이 변화시킨다. Hybid-DSE-MMA 알고리즘에서 adaptive stepsize μ는 다음과 같이 비선형 함수인 지수 함수를 이용하여 변환되어진다.

\(\mu_{\mathrm{k}}=\beta\left[1-\exp \left(-\alpha\left|\overline{e_{k}}\right|\right)\right]\)

\(\overline{\mathrm{e}_{\mathrm{k}}}=\mathrm{z}_{(\mathrm{k}) \mathrm{r}}\left(\left|z_{(\mathrm{k}) \mathrm{r}}\right|^{2}-\mathrm{R}_{\mathrm{DSE}-\mathrm{MMA}}^{2}\right)+\mathrm{j} z_{(\mathrm{k}) \mathrm{i}}\left(\left|z_{(\mathrm{k}) \mathrm{i}}\right|^{2}-\mathrm{R}_{\mathrm{DSE}-\mathrm{MMA}}^{2}\right)\)       (5)

여기서 β는 adaptive stepsize μ_k값의 범위을 제어하며, α는 stepsize 변화의 속도를 제어한다.

Ⅲ. 컴퓨터 시뮬레이션 및 결과

고정 step size에 의한 DSE-MMA와 adaptive modulus와 adaptive stepsize를 적용한 Hybrid-DSE-MMA 알고리즘의 성능을 시뮬레이션을 통해 비교, 평가하였으며, 채널 상에서 SNR을 30dB, 스텝 크기로 DSE-MMA는 μ = 0.0015, α = 0.2514, Hybrid-DSE-MMA는 최대 μ = 0.04, α = 0.284를 적용하였다. 그림 4는 채널의 임펄스 응답 계수의 실수와 허수부를 나타낸 것이며, 이에 의해 부호간 간섭의 영향이 송신 신호에 부가되며, 그림 5는 전체적인 신호 처리 도를 나타낸 것이다. 송신측에서는 20, 000개의 16-QAM 신호를 발생한 후, 그림 4의 채널을 통과시키고 원하는 원하는 SNR을 갖도록 잡음을 부가시켜 수신 신호를 얻었다. 수신 신호는 그림 2의 r_k가 된 후 dither 신호를 더하여 오차 신호를 얻었다. 오차 신호를 얻을 때 adaptive modulus와 adaptive step size가 적용되며, 이를 1 비트 양자화기를 통하여 탭 계수 갱신을 위하여 사용되도록 알고리즘을 구성하여 처리하였다. 이때 적응 등화 알고리즘의 성능을 나타내도록 복원 성상도, 잔류 isi 및 MD, MSE 및 SER을 사용하였다.

그림 4. 통신 채널의 계수

Fig. 4. Coefficient of communication channel

그림 5. 신호 처리도

Fig. 5. Signal processing flowdiagram

이상과 같은 환경하에서 DSE-MMA와 Hybrid-DSE-MMA 알고리즘의 등화 성능을 비교하였다. 첫 번째 지수인 적응 등화기의 출력 신호 성상도를 그림 6에 나타내었다. 출력 신호의 성상도에서 총 16개 신호점을 명확히 알 수 있고 신호점의 폭이 좁으며 각 신호점간의 거리가 멀수록 등화 성능이 우월하게 된다.

그림 6. 등화기 출력 신호 성상도

Fig. 6. Output signal constellation of equalizer

그림에서 신호점의 폭과 거리에서 Hybrid-SE-MMA가 DSE-MMA보다 신호점의 군집 능력에서 개선되므로 등화 성능이 우월함을 알 수 있다.

두번째 성능 비교를 위한 지수로는 적응 등화기가 초기의 과도 과정을 지나 정상 상태에 도달할 때 까지의 수렴 속도와 그 양을 나타내는 잔류 isi, 최대 찌그러짐, MSE 성능으로 등화기의 성능을 나타내는데 중요한 지수이다.

수렴 속도는 적응 등화기가 정상적으로 동작중에 채널의 비정상적인 상태에 신속하게 정상 상태까지 도달할 수 있는 능력을 나타낸다. 그림 7의 잔류 isi 성능에서 -20dB의 정상 상태에 도달하는데 DSE-MMA는 2952 회, Hybrid-DSE-MMA는 3394회가 소요되며 정상 상태 이후부터 잔류량에서 Hybrid-DSE-MMA가 -0.7dB 개선됨을 알 수 있다. 최대 찌그러짐 성능에서도 0.3의 정상 상태에 도달하는데 DSE-MMA는 4746회, Hybrid-DSE-MMA는 3853회가 소요되며 정상 상태 이후부터는 대략 0.05정도 개선됨을 알 수 있다. 그림 9의 MSE 성능에서 –19dB의 상 상태에 도달하는데 DSE-MMA는 3174회, Hybrid-DSE-MMA는 3739회가 소요되어 정상 상태 이후의 잔여량에서는 –0.6dB 정도 개선된다.

그림 7. 잔류 isi 성능

Fig. 7. Residual isi performance

그림 8. 최대 찌그러짐 성능

Fig. 8. Maximum distortion performance

그림 9. MSE 성능

Fig. 9. MSE performance

마지막 성능 지수인 외부 잡음에 대한 등화 알고리즘의 강인성을 나타내는 신호대 잡음비에 대한 SER 성능을 그림 10에 나타내었다. 신호대 잡음비는 0dB에서 5dB 단위로 35dB까지 변화시키면서 20, 000개의 심볼은 10 회 랜덤하게 발생시켜 오류율을 계산한 것이다. 0~25dB 에서는 이들 알고리즘의 SER 성능은 유사하지만, 신호대 잡음비가 커질수록 adaptive modulus와 adaptive stepsize 방식의 Hybrid-DSE-MMA가 DSE-MMA보다 SER 성능이 우수하여 등화 이득이 증가함을 알 수 있다.

그림 10. SER 성능

Fig. 10. SER performance

Ⅳ. 결론

본 논문은 고정 stepsize의 기존 DSE-MMA 적응 등화 알고리즘의 성능을 개선시키기 위한 adaptive modulus와 adaptive stepsize 개념을 적용한 Hybrid-DSE-MMA 알고리즘에 관한 것이다. DSE-MMA 알고리즘은 기존 MMA 의 연산량을 줄이기 위하여 dither 신호를 부가한 후 1 비트 양자화기를 사용하여 적응 등화기의 탭 계수를 갱신시킬 수 있지만, 이로 인하여 등화 성능이 열화된다. 이를 개선시키도록 고정 modulus와 stepsize를 adaptive modulus와 adaptive stepsize를 이용하는 Hybrid 개념을 DSE-MMA에 응용하였으며, 이의 개선된 성능을 확인하였다. 등화기의 내부 성능 지수를 의미하는 잔류 isi에서는 –0.7dB, 최대 찌그러짐은 -0.05, MSE는 –0.6dB 정도 개선되며, 이는 등화기 출력 성상 도에서 정성적으로 확인되었다. 적응 등화 알고리즘의 외부 잡음에 대한 강인성을 나타내는 SER 성능에서도 신호대 잡음비가 0~25dB 범위에서는 이들 알고리즘은 거의 유사하였으나, 그 이상의 범위에서는 Hybrid-DSE-MMA가 기존 DSE-MMA보다 훨씬 강인함을 우월함을 알 수 있었다. Hybrid 방식의 적응 등화 알고리즘은 정상 상태 이후의 내부와 외부 성능 지수가 기존 DSE-MMA보다개선되지며, SER 성능에서는 요구되는 신호대 잡음 비가 높아짐을 알 수 있다. 이는 적응 등화 알고리즘이 적용되기 위한 채널 환경에서 높은 신호대 잡음 전력이 요구되는 환경에 적용 가능함을 의미하므로, 신호대 잡음 비가 낮은 환경에서도 적용되기 위한 새로운 적응 알고리즘연구가 향후 필요한 것이다.