Abstract
Many image compression standards such as JPEG, MPEG or H.263 are based on the discrete cosine transform (DCT) and quantization method. Quantization error. is the major source of image quality degradation. The current dequantization method assumes the uniform distribution of the DCT coefficients. Therefore the dequantization value is the center of each quantization interval. However DCT coefficients are regarded to follow Laplacian probability density function (pdf). The center value of each interval is not optimal in reducing squared error. We use mean of the quantization interval assuming Laplacian pdf, and show the effect of correction on image quality. Also, we compare existing quantization error to corrected quantization error in closed form. The effect of PSNR improvements due to the compensation to the real image is in the range of 0.2 ∼0.4 ㏈. The maximum correction value is 1.66 ㏈.
MPEG이나 JPEG 영상 압축 표준에서는 영상을 블록 단위로 나누어서 DCT를 하고 양자화 시킨다. 그리고 역양자화 값으로 양자화 구간의 중앙값을 사용한다. DCT 평균제곱 오차를 줄이려면 평균값을 사용하는 것이 최적이나 현재에는 uniform 분포를 가정하고 중앙값을 사용한다. 따라서 본 논문에서는 DCT 계수의 확률 분포함수가 Laplacian 분포를 따른다고 가정하고 역양자화 값으로 평균값을 사용했을 때 PSNR 개선 정도를 살펴왔다. 그리고 보정전의 양자화 오차와 보정 후의 양자화 오차를 이론적인 수식으로 나타내 보았다. 보정으로 인한 양자화잡음의 감소치의 이론적인 최대 값은 1.66 ㏈이다. 실험결과 제안된 대표값을 취했을 경우 기존의 방법보다 PSNR이 0.2∼0.4 ㏈정도 향상된다.
