A Performance Evaluation of mDSE-MMA Adaptive Equalization Algorithm in QAM Signal

QAM 신호에서 mDSE-MMA 적응 등화 알고리즘의 성능 평가

Abstract

This paper related with the performance evaluation of mDSE-MMA adaptive equalization algorithm which is possible to reduce the distortion that occurs in nonlinear communication channel like as additive noise, intersymbol interference and fading when transmitting the QAM signal. The DSE-MMA algorithm is possible to reduce the computational load compared to the presently MMA algorithm, it has the degraded equalization performance by this. In order to improve the performance degradation of DSE-MMA, the mDSE-MMA controls the step size according to the existence of arbitrary radius circle of equalizer output is centered at transmitted symbol point. The performance of proposed mDSE-MMA algorithm were compared to present DSE-MMA using the same channel and noise environment by computer simulation. For this, the recoverd signal constellation which is the output of equalizer, residual isi and MD, MSE learning curve which is represents the convergence performance and SER were applied as performance index. As a result of simulation, the mDSE-MMA has more superior to the DSE-MMA in every performance index.

본 논문은 QAM 신호 전송시 부가 잡음, 부호간 간섭 및 페이딩등 비선형 통신 채널에서 발생되는 찌그러짐을 줄일 수 있는 mDSE-MMA (modified Dithered Signed Error-MMA) 적응 등화 알고리즘의 성능 평가에 관한 것이다. DSE-MMA 적응 등화 알고리즘은 기존 MMA의 연산량을 줄일 수 있지만, 이로 인하여 등화 성능의 열화되는 문제점이 있다. 이런 DSE-MMA의 성능 열화를 개선하기 위하여 mDSE-MMA는 적응을 위한 스텝 크기를 등화기의 출력이 송신 신호점을 중심으로 임의 반경내의 존재 여부에 따라 조절하게 된다. 제안 mDSE-MMA 알고리즘의 성능을 기존 DSE-MMA 알고리즘의 성능 평가를 위하여 동일한 채널과 잡음 환경하에서 컴퓨터 시뮬레이션을 수행하였으며, 이를 위한 지수로는 수신측에서의 등화기 출력 신호인 복원된 신호 성상도, 수렴 성능을 나타내는 잔류 isi, MD 및 MSE learning 곡선과 SER을 사용하였다. 시뮬레이션 결과 모든 성능 지수에서 mDSE-MMA가 DSE-MMA 보다 우월함을 확인하였다.

Ⅰ.서론

디지털 이동 정보 시스템을 이용한 다양한 동영상, 다자간 화상 회의등의 광대역 정보 전송에 대한 수요가 증대되고 있다. 이를 위해서는 정보의 압축과 신장, 고효율의 부호 사용과 고속 전송 속도가 필요하게 되지만, 이들은 대역 제한과 다중 경로 및 페이딩, 도플러 효과등의 비선형 특성을 갖는 채널에서 심한 부호간 간섭의 영향을 받게 된다. 부호간 간섭은 수신기의 결정 장치에서 이전 부호의 영향이 다음 부호의 결정에 영향을 미쳐 비트 오류율의 직접적인 원인이 되어 시스템의 throughput을 열화시키므로 이에 대한 적절한 기술적 대응책이 필요하게 된다^[1]. 부호간 간섭을 제거하거나 최소화하기 위한 방법으로 송수신 필터의 파라메터 조정과 부분 응답 부호화 사용등을 들 수 있지만, 실제의 통신 환경에서 파라메터의 조정은 현실적으로 어려우며 부분 응답 부호화는 높은 송신 전력이 요구된다. 이외의 다른 현실적 대안으로 적응 등화기를 들 수 있으며, 등화기는 채널 전달 함수의 역함수를 갖는 디지털 필터를 말한다. 초기의 등화기는 송수신국간에 약속된 학습열에 의한 채널 전달 함수를 추정하여 이의 역특성을 갖도록 등화기의 필터 계수를 설정하고 데이터 전송을 개시하며, 전송 완료 전까지 계수를 변경하지 않는다.

그러나 시변 채널인 경우 전달 함수가 변동하므로 등화기 필터 계수를 수시로 변화시키기 위한 학습열 전송이 데이터 전송 중에 수시로 이루어져야 한다. 이로 인한 채널 용량을 충분히 이용할 수 없고, 전송 효율이 저하되므로 이를 개선키 위해 블라인드 적응 등화기가 사용되었다^[2][4]. 블라인드 적응 등화를 위한 알고리즘으로는 CMA와 MMA 등을 들 수 있다. CMA는 연산량이 적은 반면 채널에 의한 진폭 찌그러짐만을 보상 가능하므로 PLL과 같은 별도의 위상 찌그러짐 보완책이 별도로 필요하게 된다. 반면 MMA는 연산량이 CMA보다 증가되지만 진폭과 위상 찌그러짐을 동시 보상이 가능하며, 등화 성능에서는 CMA보다 열화된다. 이와 같이 연산량과 등화 성능간의 tradeoff 조건이 존재하므로, MMA의 연산량을 간소화시키며 진폭과 위상의 동시 보상이 가능한 SE-MMA가 등장하였다[5]. SE-MMA는 MMA의 연산량을 줄이고 진폭과 위상의 동시 보상이 가능하지만 등화 성능이 열화된다. 이를 해결하기 위해 등화기의 출력을 송신 심볼점을 중심으로 일정 반경내에 존재할 때 적응 스텝 크기를 가변하는 mSE-MMA 알고리즘이 등장하였다. 그러나 개선된 등화 성능에서 외부 잡음에 의한 SER 성능을 보완하기 위해 dither 신호를 이용하는 DSE-MMA가 등장하여 적응 등화기의 robustness를 개선시켰다.^[3][5] 논문에서는 16-QAM 신호 방식에서 DSE-MMA에 mSE-MMA의 modified step size 개념을 조합시킨 mDSE-MMA 알고리즘을 제안한 후, 이의 성능을 기존 DSE-MMA와 비교하여 등화 성능이 개선됨을 시레이션을 통해 확인한다. 이를 위해 2장에서는 블라인드 적응 등화기를 사용하는 기저 대역 통신 모델과 DSE-MMA와 mDSE-MMA 알고리즘에 대해 설명한다. 3장에서는 컴퓨터 시뮬레이션을 위한 환경과 적응 등화기의 성능 지수인 복원 성상도, 잔류 isi 와 MD, MSE 및 SER에 대한 시뮬레이션 결과를 제시하고, 4장에서는 결론을 내리겠다.

Ⅱ.본론

1. 통신 시스템 모델

그림 1은 적응 등화기를 사용한 통신 시스템의 기저 대역 모델을 나타낸 것이다. 송신측에서 기저 대역 신호 s_k를 발생하면 이는 송신 필터를 통과되어 스펙트럼 제한시킨 후, 찌그러짐에 의해 부호간 간섭을 발생하는 임펄스 응답 계수가 h_k인 채널을 통하여 수신측에 전달된다. 이때 채널에서는 일정한 신호대 잡음 전력비를 갖는 부가 잡음 n_k 및 다른 간섭 신호가 더해진 후 수신측으로 전송된다. 수신측에서는 수신 필터를 통과하여 잡음과 간섭의 영향을 줄인 후 등화기에 인가된다. 이때 계수가 f_k 인 등화기의 전달 함수 F(ω)는 통신 채널의 역함수 1/H(ω)를 갖도록 설정된다. 이 과정에서 송신 필터와 수신 필터는 이상적으로 간주하며 등화기에 의해 발생되는 지연 시간은 무시하여 시뮬레이션에서는 제외하였고, 시변 채널인 경우 적응 등화기의 출력 Z_k를 이용하여 오차 신호를 발생한 후 새로운 등화기 탭 계수 f_k+1을 update하며, 등화기 출력은 결정 장치를 통해 송신 신호의 추정치 \(\hat { { s }_{ k } } \)를 얻게 된다. 완전 등화 상태에서 채널의 임펄스 응답 h_k와 등화기의 디지털 필터 계수 f_k의 선형 convolution 결과는 시간 영역에서는 임펄스, 주파수 영역에서는 평탄한 전달 특성을 얻을 수 있다.

그림 1. 통신 시스템 모델

Fig. 1. Communication system model

2. DSE-MMA

DSE-MMA는 적응 등화 알고리즘의 탭 계수를 갱신하기 위한 오차 신호를 얻는 과정에서 SE-MMA와 dither 신호를 조합한 형태를 말하며 이들은 기존 MMA를 변형시켰다. 먼저 MMA 적응 등화 알고리즘에서는 다음과 같이 정의되는 비용 함수 J를 최소화시키도록 반복하면서 등화기 탭 계수를 갱신한다.

\(\begin{array}{l} \mathrm{J}=\mathrm{E}\left[\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)^{2}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)^{2}\right] \\ \mathrm{R}_{\mathrm{MMA}}^{2}=\frac{\mathrm{E}\left(\left|\mathrm{s}_{\mathrm{kr}}^{4}\right|\right)}{\mathrm{E}\left(\left|\mathrm{s}_{\mathrm{kr}}^{2}\right|\right)}=\frac{\mathrm{E}\left(\left|\mathrm{s}_{\mathrm{ki}}^{4}\right|\right)}{\mathrm{E}\left(\left|\mathrm{s}_{\mathrm{ki}}^{2}\right|\right)} \end{array}\)       (1)

여기서 z_kr, z_ki은 z_k의 실수와 허수를, s_kr, s_ki은 s_k의 실수와 허수를 각각 나타내며 이들을 이용하여 오차 신호와 등화 필터 계수의 갱식은 다음과 같다.

\(\begin{array}{l} \overline{\mathrm{e}_{\mathrm{kMMA}}}=z_{\mathrm{kr}}\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)+\mathrm{j} z_{\mathrm{ki}}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right) \\ \mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu \overline{\mathrm{e}_{\mathrm{kMMA}}} \mathrm{r}_{\mathrm{k}}^{*} \end{array}\)       (2)

SE-MMA는 식(2)의 MMA 오차 함수에서 이들의 부호만을 이용하여 등화 필터 계수의 갱신에 사용되기 때문에 붙여진 이름이며, 오차 함수와 갱신식을 쓰면 다음과 같다.

\(\begin{array}{l} \overline{\mathrm{e}_{\mathrm{kSE}-\mathrm{MMA}}}=\operatorname{sgn}\left[z_{\mathrm{la}}\left(\left|z_{\mathrm{lr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)\right]+\mathrm{j} \operatorname{sgn}\left[z_{\mathrm{i}}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)\right] \\ \mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu \overline{\mathrm{e}_{\mathrm{kSE}-\mathrm{MMA}}} \mathrm{r}_{\mathrm{k}}^{*} \end{array}\)       (3)

여기서 sgn은 signium 함수를 나타낸다. DSE-MMA는 식(3)의 SE-MMA에 dither 신호를 부가한 형태를 말하며 오차 신호를 얻을 때 sgn만을 이용하면 정보 손실로 인하여 원하지 않는 동작 결과를 얻을 수 있게 된다. DSE-MMA는 이를 해결하기 위하여 양자화 전에 dither라는 랜덤 신호를 부가하므로 양자화에 의한 정보 손실을 보상할 수 있으며, 이는 적은 스텝에서는 평균적으로 무시할 수 있어서 SE-MMA 보다 개선된 등화 성능을 보장한다. 적응 상수가 고정될 때 탭 갱신을 위한 오차 함수를 곱하는 과정을 단순히 부호만을 고려하게 되어 알고리즘의 연산량을 줄일 수 있게 되어 수렴 속도를 개선시킬 수 있는 장점이 있다. DSE-MMA에서 오차 함수와 갱신식은 다음과 같다.

\(\begin{aligned} \overline{\mathrm{e}_{\mathrm{kDSE}-\mathrm{MMA}}}=& \alpha \cdot \operatorname{sgn}\left[z_{\mathrm{kr}}\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)+\alpha \mathrm{d}_{\mathrm{kr}}\right] \\ &+\mathrm{j} \alpha \cdot \operatorname{sgn}\left[z_{\mathrm{ki}}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)+\alpha \mathrm{d}_{\mathrm{ki}}\right] \\ \mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu & \cdot \alpha \cdot \operatorname{csgn}\left(\mathrm{y}_{\mathrm{k}}^{*}\left(\mathrm{R}_{\mathrm{MMA}}-\left|\mathrm{y}_{\mathrm{k}}\right|^{2}\right)+\alpha \mathrm{d}_{\mathrm{k}}\right) \mathrm{r}_{\mathrm{k}}^{*} \end{aligned}\)       (4)

여기서 d_k = d_kr + jd_ki는 (-1,1)의 범위내에서 uniform 분포하는 dither process의 실수부와 허수부의 조합을 나타내며, α는 dither amplitude를 나타내며 MMA와 같은 Roburstness와 정상 상태 MSE 간의 절충점이 되도록 설정하여 \(\alpha >2{ ({ r }_{ mma }^{ 2 }/3) }^{ 1.5 }\)가 되며, 그림 2는 DSE-MMA의 내부 구조를 나타낸 것으로 오차 함수를 얻을 때 dither 신호가 부가됨을 알 수 있다.

그림 2. DSE-MMA 내부 구조

Fig. 2. Internal structure of DSE-MMA

3. mDSE-MMA

mDSE-MMA 알고리즘에서 modified의 개념은 식 (3)의 고정된 스텝 크기 μ를 송신 신호점을 중심으로 일정한 영역내에 등화기 출력의 존재 여부에 따라 이를 가변시키는 원리이다. 그림 4에서 검은 색의 송신 신호점을 기준으로 등화기 출력 신호점이 직경 D의 원내에 존재하는 경우 스텝 크기 μ를 적게 설정하여 등화기 탭 계수를 갱신하며, 직경 D의 범위를 벗어나면 과도 상태로 판단하여 원래의 고정 스텝 크기 μ로 탭 계수를 갱신한다.

그림 3. mDSE-MMA의 적응 스텝

Fig. 3. Adaptive step size of mDSE-MMA

이를 식으로 표현하면 다음과 같다.

\(\begin{aligned} \mu_{\mathrm{k}}=\mu_{0}, & \text { when } z_{\mathrm{k}} \not \subset \mathrm{D} \\ \mu_{k}=\mu_{1}, & \text { when } z_{\mathrm{k}} \in \mathrm{D} \\ & \mu_{0}>\mu_{1} \end{aligned}\)       (4)

mDSE-MMA의 오차 함수와 탭 계수 갱신식을 쓰면 다음과 같이 된다.

\(\begin{array}{r} \overline{\mathrm{e}_{\mathrm{k}} \mathrm{mDSE}-\mathrm{MMA}}=\alpha \cdot \operatorname{sgn}\left[z_{\mathrm{kr}}\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)+\alpha \mathrm{d}_{\mathrm{kr}}\right] \\ +\mathrm{j} \alpha \cdot \operatorname{sgn}\left[z_{\mathrm{ki}}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)+\alpha \mathrm{d}_{\mathrm{ki}}\right] \\ \mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu_{\mathrm{k}} \cdot \alpha \cdot \operatorname{csgn}\left(\mathrm{y}_{\mathrm{k}}^{*}\left(\mathrm{R}_{\mathrm{MMA}}-\left|\mathrm{y}_{\mathrm{k}}\right|^{2}\right)+\alpha \mathrm{d}_{\mathrm{k}}\right) \mathrm{r}_{\mathrm{k}}^{*} \end{array}\)       (5)

그림 4는 mDSE-MMA 알고리즘의 내부 구조를 나타낸 것으로 식(4)의 오차 신호를 발생한 후, 이를 양자화시킨다. 양자화된 신호는 z_k와 송신 신호점 s_k간의 거리를 비교하여 양자화 스텝 크기를 결정한 후 탭 계수의 갱신을 위하여 사용한다.

그림 4. mDSE-MMA 내부 구조

Fig. 4. Internal structure of mDSE-MMA

Ⅲ. 컴퓨터 시뮬레이션 및 결과

고정된 스텝 방식의 DSE-MMA와 mDSE-MMA 알고리즘 성능 비교를 위하여 컴퓨터 시뮬레이션을 수행하였다. 시뮬레이션을 위한 파라미터로는 신호대 잡음비를 30dB, DSE-MMA에서 고정 스텝의 크기를 μ=0.004, mDSE-MMA에서 D=0.25와 μ₀=0.0013, μ₁=0.00026이었으며, 등화 필터로는 안정성이 보장되는 15차 FIR 필터를 공통으로 적용하였다. 그림 5는 부호간 간섭을 발생시키는 통신 채널의 진폭 전달 함수와 위상 전달 함수 및 영점 분포를 나타낸 것이며, 이와 같은 찌그러짐 특성에 의하여 수신 신호에는 부호간 간섭 영향이 발생된다.

그림 5. 채널의 주파수 전달 함수와 영점 분포

Fig. 5. Frequency transfer function & zero distribution of channel

그림 6은 시뮬레이션을 위한 신호 처리 과정을 나타낸 것으로 송신측에서는 20000개의 16-QA 신호를 발생한 후, 그림 5의 통신 채널을 통과한 후, 30dB의 신호대 잡음 전력비를 갖도록 잡음을 부가시켜 수신 신호 r_k를 얻었다. 이와 같은 수신 신호는 DSE-MMA와 mDSE-MMA 알고리즘으로 처리한 후, 등화 알고리즘의 성능을 나타내는 등화기 출력 z_k의 성상도, 잔류 isi 와 MD, MSE 및 SER을 계산하였다. 그림 7은 이들 알고리즘을 첫 번째 성능 비교를 위하여 정상 상태 이후의 등화기 출력 신호의 성상도를 나타낸 것이다. 그림에서는 각 신호점들의 폭이 좁고, 신호점간 거리가 멀수록 우수한 성능의 알고리즘이 된다. 정성적으로 mDSE-MMA가 DSE-MMA보다 양호한 성능을 가짐을 알 수 있다.

그림 6. 신호 처리 흐름도

Fig. 6. Flowdiagram of sinal processing

그림 7. 등화기 출력 신호 성상도

Fig. 7. Output signal constellation of equalizer

두 번째 성능 비교를 위한 지수로 잔류 isi와 MD, MSE 를 사용하였으며, 초기 과도 과정을 지나 정상 상태에 도달할 때까지의 수렴 속도와 정상 상태에서의 잔류량을 알 수 있다.

잔류 isi는 통신 채널과 적응 등화기가 완전 등화 시 이들의 종합 특성은 시간 영역에서는 임펄스 특성이 된다. 이는 이론적이며 실제적으로는 완전 임펄스 특성을 갖지 못하고 잔류 성분들이 존재하게 되므로 이들의 전력 크기를 의미한다. 그림 8은 잔류 isi 성능을 나타낸 것으로서 -20dB를 정상 상태로 정할 때 DSE-MMA는 1604회, mDSE-MMA는 2338회에 달성하므로, 수렴 속도에서는 DSE-MMA가 mDSE-MMA보다 약 1.5배 정도 빠르지만, 수렴후의 양에서는 mDSE-MMA가 DSE-MMA보다 약 1dB 정도 훨씬 적어지므로 misadjustment에 의한 등화 잡음이 적게 되어 jitter가 감소됨을 알 수 있다.

그림 8. 잔류 isi 성능

Fig. 8. Residual isi performance

그림 9는 잔여 isi 성분들의 크기를 전압으로 나타내는 MD 성능을 나타내었으며, 그림 8의 잔류 isi와 거의 유사하게 분포함을 알 수 있다.

그림 9. 최대 찌그러짐 성능

Fig. 9. Maximum distortion performance

그림 10은 등화기 출력과 결정 장치의 출력간에 발생되는 진폭의 차이를 나타내는 평균 자승 오차 (MSE) 성능을 나타낸 것이다. 여기서 정상 상태를 -19dB로 설정할 때 DSE-MMA는 1675회, mDSEMMA는 2569회가 소요되어 수렴 속도에서 DSE-MMA가 약 1.5배 빠르지만, 정상 상태 이후 잔류양에서는 약 0.9dB 정도 mDSE-MMA가 개선됨을 알 수 있다.

그림 10. MSE 성능

Fig. 10. MSE performance

마지막으로 통신 채널에서 부가되는 잡음에 대한 강인성을 알아보기 위하여 신호대 잡음비를 0에서 35dB까지 5dB 단위로 변화시킬 때 SER 성능을 그림 11에 나타내었다. 전체적으로 mDSE-MMA가 DSE-MMA보다 성능이 우월하여 개선된 등화 이득을 얻을 수 있어서, 심볼 오류율 10^-2에서 이득이 약 2dB 정도이며, 신호대 잡음비가 증가할수록 우월하여, 등화기 외부의 잡음에 대한 robustness가 크게 개선됨을 알 수 있다.

그림 11. SER 성능

Fig. 11. SER performance

Ⅳ.결론

본 논문은 DSE-MMA 적응 등화 알고리즘의 성능을 개선하는 mDSE-MMA에 관한 것이다. DSE-MMA는 기존 MMA 알고리즘의 연산량을 줄여 실시간 응용을 가능케 하기 위하여 등장하였지만, 이로 인하여 성능이 열화된다. mDSE-MMA 알고리즘은 DSE-MMA와 같이 연산량을 줄이면서도 성능 열화를 방지하기 위하여 적응을 위한 스텝 크기를 변화시킨다. 이를 위하여 송신 신호점을 기준으로 등화기 출력 신호가 일정 반경내에 위치하는 경우 스텝 크기를 더욱 줄이는 원리를 적용하며, 정상 상태 이후 개선된 성능을 확인하였다. 성능 지수에서 mDSE-MMA는 DSE-MMA보다 수렴 속도는 대략 1.5배 정도 늦지만, 정상 상태 이후부터의 잔여량에서는 약 0.5~2dB 정도 개선되며, SER 성능에서도 robustness가 개선됨을 확인하였다. DSE-MMA 알고리즘에서 송신 신호점과 등화 출력간의 거리를 계산하는 기능의 부가만으로 연산량이 크게 증가없이 성능을 개선할 수 있는 mDSE-MMA 알고리즘의 수렴 속도를 빠르게 할 수 있는 다른 방안에 대한 향후 지속적인 연구가 필요하다.