Abstract
ITL (information-theoretic learning) has been applied successfully to adaptive signal processing and machine learning applications, but there are difficulties in deciding the kernel size, which has a great impact on the system performance. The correntropy algorithm, one of the ITL methods, has superior properties of impulsive-noise robustness and channel-distortion compensation. On the other hand, it is also sensitive to the kernel sizes that can lead to system instability. In this paper, considering the sensitivity of the kernel size cubed in the denominator of the cost function slope, a new adaptive kernel estimation method using the rate of change in error power in respect to the kernel size variation is proposed for the correntropy algorithm. In a distortion-compensation experiment for impulsive-noise and multipath-distorted channel, the performance of the proposed kernel-adjusted correntropy algorithm was examined. The proposed method shows a two times faster convergence speed than the conventional algorithm with a fixed kernel size. In addition, the proposed algorithm converged appropriately for kernel sizes ranging from 2.0 to 6.0. Hence, the proposed method has a wide acceptable margin of initial kernel sizes.
적응 신호 처리 및 머신 러닝 등에 활용되고 있는 정보 이론적 학습법(ITL, information theoretic learning)은 커널 사이즈(��) 설정이 성능에 큰 영향을 미친다. ITL 기반의 학습법의 하나인 코렌트로피 알고리듬은 충격성 잡음에 강인성과 채널 왜곡 보상 특성을 함께 지니고 있으나 커널 사이즈 선택에 매우 민감하거나 불안정한 특성도 지니고 있다. 이에, 이 논문에서는 기울기 분모에 나타나는 커널 사이즈의 세제곱이 미치는 민감성을 고려하고, 커널 사이즈의 미세 변동에 대한 오차 전력 변화율을 이용하여 커널 사이즈를 적응적으로 갱신하는 방법을 제안하여 코렌트로피 알고리듬에 적용하였다. 제안된 적응 커널 사이즈 추정 방법을 다중 경로 채널과 충격성 잡음 환경에 대해 실험하였다. 제안한 방식은 고정 커널사이즈의 기존 알고리듬에 비해 2배 빠른 수렴 속도를 나타냈고 초기 커널 사이즈 2.0 에서 6.0 에 대해 모두 적절히 수렴하는 능력을 보였다. 이에 초기 커널 사이즈 선택에 큰 여유도를 가지고 성능을 향상시킬 수 있음을 입증하였다.
