• 대한수학회논문집
• /
• 제37권3호
• /
• pp.765-800
• /
• 2022

Quantization for probability distributions concerns the best approximation of a d-dimensional probability distribution P by a discrete probability with a given number n of supporting points. In this paper, we have considered a probability measure generated by an infinite iterated function system associated with a probability vector on ℝ. For such a probability measure P, an induction formula to determine the optimal sets of n-means and the nth quantization error for every natural number n is given. In addition, using the induction formula we give some results and observations about the optimal sets of n-means for all n ≥ 2.

• 대한전자공학회:학술대회논문집
• /
• 대한전자공학회 2003년도 신호처리소사이어티 추계학술대회 논문집
• /
• pp.461-464
• /
• 2003

This paper proposes the multi-level vector error diffusion for smear artifact reduction in the boundary regions. Smear artifact mainly results from a large accumulation of quantization error. Accordingly, to reduce these artifacts, the proposed method excludes the large quantization error in the error diffusion process by comparing the magnitude of the error vector with predetermined first threshold. In addition, if the vector norm of the difference between the error adjusted input vector and the primary co]or that has minimum vector norm for the error adjusted input vector is larger than second threshold, the error is excluded. As a result, the proposed method reduce smear artifact in the boundary region and produces visually pleasing halftone pattern.

• 한국통신학회논문지
• /
• 제26권11A호
• /
• pp.1957-1962
• /
• 2001

영상 압축 또는 영상 부호화에서 후처리, 복원, transcoding을 하는 경우, DCT 계수의 양자화 잡음 모델이 필요하다. 양자화 된 계수만 알고 있는 경우에는 양자화 되기 전의 분포를 구할 수 없다. 본 논문에서는 양자화 되기 전의 DCT 계수의 확률 분포함수를 Laplacian으로 가정하고, 양자화된 계수로부터 분산을 구하고 이를 사용하여 양자화 이전의 분산을 추정하는 방법을 제시하였다. 여러 영상을 사용한 실험을 통하여 제안된 방법의 결과가 기존의 방법에서는 분산이 작게 나오는 단점을 보완하는 것을 확인하였다.

• Journal of Electrical Engineering and information Science
• /
• 제2권6호
• /
• pp.138-145
• /
• 1997

This paper proposes an adaptive algorithm for the quantization step size control of MPEG-2, using the information obtained from the previously encoded picture. Before quantizing the DCT coefficients, the properties of reconstruction error of each macro block (MB) is predicted from the previous frame. For the prediction of the error of current MB, a block with the size of MB in the previous frame are chosen by use of the motion vector. Since the original and reconstructed images of the previous frame are available in the encoder, we can calculate the reconstruction error of this block. This error is considered as the expected error of the current MB if it is quantized with the same step size and bit rate. Comparing the error of the MB with the average of overall MBs, if it is larger than the average, small step size is given for this MB, and vice versa. As a result, the error distribution of the MB is more concentrated to the average, giving low variance and improved image quality. Especially for the low bit application, the proposed algorithm gives much smaller error variance and higher PSNR compared to TM5 (test model 5).

• 방송공학회논문지
• /
• 제25권2호
• /
• pp.157-165
• /
• 2020

본 논문에서는 임베디드 시스템에서의 양자화 기계학습을 수행할 경우 발생하는 양자화 오차를 효과적으로 보상하기 위한 방법론을 제안한다. 경사 도함수(Gradient)를 사용하는 기계학습이나 비선형 신호처리 알고리즘에서 양자화 오차는 경사 도함수의 조기 소산(Early Vanishing Gradient)을 야기하여 전체적인 알고리즘의 성능 하락을 가져온다. 이를 보상하기 위하여 경사 도함수의 최대 성분에 대하여 직교하는 방향의 보상 탐색 벡터를 유도하여 양자화 오차로 인한 성능 하락을 보상하도록 한다. 또한, 기존의 고정 학습률 대신, 내부 순환(Inner Loop) 없는 비선형 최적화 알고리즘에 기반한 적응형 학습률 결정 알고리즘을 제안한다. 실험 결과 제안한 방식의 알고리즘을 로젠블록 함수를 통한 비선형 최적화 문제에 적용할 시 양자화 오차로 인한 성능 하락을 최소화시킬 수 있음을 확인하였다.

• 한국통신학회논문지
• /
• 제30권8C호
• /
• pp.832-837
• /
• 2005

본 논문은 W 비트 입력으로부터 W 비트를 출력하늘 고정길이 제곱기의 디자인 방법을 제안한다. 효율적으로 양자화 오차를 보상하기 위해 modified Booth 인코더의 출력정보를 이용하여 오차보상 바이어스를 생성한다. 절사(truncation)된 부분이 양자화 오차에 미치는 영향에 따라 두 그룹(major/minor group)으로 나누고, 각 그룹에 서로 다른 오차보상 방법을 적용하여 절사된 부분을 보상한다. 시뮬레이션을 통해 제안한 오차보상 방법이 기존의 방법에 비해 절대 양자화 최대오차, 평균오차, 분산과 각은 성능 비교 파라미터에서 각각 $30\%,\;24\%,\;43\%$ 정도 적음을 보인다. 또한, 제안한 고정길이 제곱기는 이상적인 제곱기보다 면적과 전력소모 면에서 각각 약 $28\%,\;27\%$ 까지 적음을 보인다.

• 한국통신학회논문지
• /
• 제21권7호
• /
• pp.1685-1695
• /
• 1996

The postprocessing of compressed images based on the projections onto convex sets and the constrained minimization imposes several constraints on the procesed data. The quantization constraint has been commonly used in various algorithms. Quantization is many-to-one mapping, by which all the dat in a quantization region are mapped to the corresponding representative level. The basic idea behind the projection onto the QCS(quantization constraint set) is to prevent the processed data from diverging from the original quantization region in order to redue the artifacts caused by filtering in postprocessing. However, there have been few efforts to analye the POQCS(projection onto the QCS). This paper analyzed mathematically the POQCS of filtered data from the viewpoint of minimizing the mean square error. Our analysis shows that a proper filtering technique followed by the POQCS can reduce the quantization distortion. In the conventional POQCS, the outside data of each quantization region are mapped into the corresponding boundary. Our analysis also shows that mappingthe outside data to the boundary of a subregion of the quantization region yields lower distortion than does the mapping to the boundary of the original region. In addition, several examples and discussions on the theory are introduced.

• 한국통신학회논문지
• /
• 제26권12A호
• /
• pp.2085-2091
• /
• 2001

손실압축 기법을 사용하는 대부분의 표준 동영상 압축 방법에서는 이미지 변환 후, 변환된 계수들의 양자화를 수행하게 된다. 양자화 과정에서 발생하는 양자화 잡음으로 인한 영상정보의 손실은 복구 영상의 화질을 저하시킨다. 본 논문에서는 H.26L의 테스트 모델인 TML-2를 기반으로 양자화 잡음의 평균값을 추가 보상함으로써 부호화기의 성능을 개선하는 방법을 제안한다. 실험 결과 비트율에서 평균 1.29% 개선과 PSNR에서 평균 0.93%개선이 있었으며, 특히 움직임이 적은 영상에서 더 큰 개선 효과가 있었다.

• 전자공학회논문지A
• /
• 제28A권1호
• /
• pp.1-7
• /
• 1991

Degradation of communication quality is due to transmission error rather than quantization noise when DPCM signal is transmitted over a heavily noise channel. The communication quality can be improved by employing an error correcting code to the DPCM signal transmission over such a channel. We considered both quantization noise and transmission error simultaneously in evaluating the signal to noise ratio. To efficiently improve the signal to noise ratio, we analyze the unequal symbol error probability of convolutional code, and encoded to more protect significant symbols from channel errors than least ones, so that the signal to noise ratio is improved. We derived related formulas and also made computer simulations.

• 전자공학회논문지B
• /
• 제28B권5호
• /
• pp.318-326
• /
• 1991

A Quantizer reconstruction level control method for block artifact reduction in DCT image coding is described. In our scheme, quantizer reconstruction level control is obtained by adding quantization level step size to the optimum quantization level in the direction of reducing the block artifact by minimizing the mean square error(MSE) and error difference(EDF) distribution in boundary without the other additional bits. In simulation results, although the performance in terms of signal to noise ratio is degraded by a little amount, mean square of error difference at block boundary and mean square error having relation block artifact is greatly reduced. Subjective image qualities are improved compared with other block artifact reduction method such as postprocessing by filtering and trasform coding by block overlapping. But the addition calculations of 1-dimensional DCT become to be more necessary to coding process for determining the reconstruction level.