• 융합신호처리학회 학술대회논문집
• /
• 한국신호처리시스템학회 2000년도 추계종합학술대회논문집
• /
• pp.85-88
• /
• 2000

Signal splitting and perfect reconstruction in subband coding is based on the assumption that quantization errors are negligible. But if subband signal is quantized, 4 types of errors occurs thus it is not impossible to do perfect reconstruction. These errors are QMF design error, aliasing error, signal error and random error. By using the QMF for subband splitting, the QMF error does not present. and by using the Lloyd-Max quantizer for the quantization and by using an appropriate synthesis filter, all signal dependent errors can be cancelled and the remaining error is random error which is uncorrelated with the original image〔1〕. In this thesis, Lenna and Camera-Man image are devided into 10 subbands by using the D4 and D20 wavelet And the subband signals are quantized by using the Lloyd-Max quantizer and the quantization errors are compared. and evaluated.

• 한국통신학회논문지
• /
• 제15권2호
• /
• pp.155-165
• /
• 1990

디지틀 필터 설계에 있어 最小化 誤差 문제는 유한 어장의 실제적 필요성 때문에 제기되는데 이들 오차는 係數 量子化 誤差와 Round off 誤差로 분류된다. 본 논문에서는 이들 오차를 분석하고 감소시키기 위하여 임펄스 설계 명세로부터 직접 최소 係數 量子化 실현을 유도하고 또한 최소 量子化 誤差와 최소 Round off 誤差 실현 사이의 등가 변환 관계로부터 最適 實現 狀態 空間 디지틀 필터를 설계한다. 이러한 방법은 근사화된 3차 모델의 시뮬레이션에 의하여 분석되어 지는데 量子化 誤差 문제에 있어서 직접형이나 종속형 실현보다 우수한 특성을 갖는다.

• 한국통신학회논문지
• /
• 제29권7A호
• /
• pp.794-806
• /
• 2004

본 논문에서는 IEEE 802.11a의 OFDM 통신시스템에 대한 송수신 주파수편차의 교정기법을 연구하고 편차주파 수들의 교정오차에 의한 잡음을 분석한다. 반송주파수편차에 의한 심볼당 회전위상을 짧은 훈련신호(short preamble)의 자기상관에서 추정한다. 잡음의 영향을 줄이기 위하여 짧은 훈련신호(short preamble)를 과도표본화 (over-sampling)한다. 파일롯(pilot) 신호를 도입하여 추정된 반송주파수편차의 오차와 표본화 주파수편차에 의한 OFDM 심볼당 회전위상을 추정한다. 이러한 회전위상의 추정과 교정에 CORDIC(Coordinated Rotational Digital Computer) 프로세서 또는 각도와 복소수의 환산표를 사용하고 이것들의 구현기법과 장단점을 비교한다. 복소수와 위상은 CORDIC 프로세서와 환산표에서 한정된 비트(bit) 개수로 계산되므로 각도양자화 오차가 있게 된다. 비트개수에 따른 각도양자화 오차를 OFDM 신호의 SNR로 나타내고 IEEE 802.11a의 편차주파수 교정에서 요구되는 최소한의 비트 개수를 제시한다. 끝으로, 모의실험을 통하여 짧은 훈련신호로 반송주파수편차를 추정하고 CORDIC 프로세서와 환산표에서 사용된 비트 개수에 따른 양자화 잡음을 검증한다.

• 전자공학회논문지B
• /
• 제30B권9호
• /
• pp.54-63
• /
• 1993

Quantization error, generated by the quantization process of an image, is inherent in computer vision. Because, especially in stereo vision, the quantization error in a 2-D image results in position errors in the reconstructed 3-D scene, it is necessary to analyze it mathematically. In this paper, the analysis of the probability density function (pdf) of quantization error for a line-based stereo matching scheme is presented. We show that the theoretical pdf of quantization error in the reconstructed 3-D position information has more general form than the conventional analysis for pixel-based stereo matching schemes. Computer simulation is observed to surpport the theoretical distribution.

• The Journal of the Acoustical Society of Korea
• /
• 제16권1E호
• /
• pp.41-48
• /
• 1997

The very purpose of subband codec is the attainment of data rate compression through the use of quantizer and optimum bit allocation for each decimated signal. Yet the question of floating-point quantization effects in subband codec has received scant attention. There has been no direct focus on the analysis of quantization errors, nor on design with quantization errors embedded explicitly in the criterion. This paper provides a rigorous theory for the modelling, analysis and optimum design of the general M-band subband codec in the presence of the floating-point quantization noise. The floating-point quantizers are embedded into the codec structure by its equivalent multiplicative noise model. We then decompose the analysis and synthesis subband filter banks of the codec into the polyphase form and construct an equivalent time-invariant structure to compute exact expression for the mean square quantization error in the reconstructed an equivalent time-invariant structure to compute exact expression for the mean square quantization error in the reconstructed output. The optimum design criteria of the subband codec is given to the design of the analysis/synthesis filter bank and the floating-point quantizer to minimize the output mean square error. Specific optimum design examples are developed with two types of filter of filter banks-orthonormal and biorthogonal filter bank, along with their perpormance analysis.

• 한국통신학회논문지
• /
• 제39A권3호
• /
• pp.155-157
• /
• 2014

In this paper, a novel codebook generation strategy is proposed. With the given codebooks, two codeword selection procedures are proposed and analyzed for generating the quantized multiple-input multiple-output (MIMO) channel state information (CSI). Furthermore, three different quantization and normalization strategies are analyzed. The simulation results suggest that the proposed 'quantized channel generation method 2' is the best strategy to reduce the quantization and normalization errors to generate the final quantized MIMO CSI.

• 한국항행학회논문지
• /
• 제15권5호
• /
• pp.850-856
• /
• 2011

오차 확산 방법은 디지털 하프토닝 방법 중 하나로 현재 처리하는 픽셀의 양자화 오차를 아직 처리하지 않은 주변 이웃 화소에 확산시켜 변환된 흑백 영상의 품질을 높이는 방법이다. 이러한 방법은 발생한 양자화 오차를 주변으로 분산하는 과정에서 부분적으로 오차의 합이 증가하거나 감소하는 경우가 발생하게 된다. 본 논문에서는 오차 확산의 대표적인 방법인 Floyd-Steinberg 방법과 Jarvis-Judice-Ninke의 방법, Stucki의 방법, Shiau-Fan의 방법을 분석하고 이에 대한 해결 방법을 제시한다.

• 전자공학회논문지S
• /
• 제34S권4호
• /
• pp.50-56
• /
• 1997

In this paper, efficient quantization methods of line spectrum pairs (LSP) which has good performances and low complexity and memory are proosed for vocoder of mobile communication system. The adaptive quantization method utilizing the ordering property of LSP parameters is used in a scalar quantizer and a vector-scalar hybrid quantizer. The proposed scalar quantization algorithm needs 31 bits/frame to maintain the transparent quality of speech. The improved vector-scalar quantizer achieves an average spectral distortion of 1dB using 26 bits/frame. The proposed methods are evaluated in the channel errors and changed the predictor structure to maintain the robustness to channel errors.

• 한국통신학회논문지
• /
• 제17권4호
• /
• pp.387-397
• /
• 1992

저차원분해을 이용한 분모분란형 디지틀 필터(SDDF)의 공간영역설계는 특이치분해(SVD)에 의하여 주어진 2차원 임펄스 응답설계명세조건이 한쌍의 1차원 설계명세조건으로 분해될 때 실현될 수 있는데, 1차원 설계 알고리즘으로서 평형형근사와 등가변환을 사용하기 때문에 알고리즘이 수치적으로 안정하며 양자화 오차를 최소화할 수 있다. 본 논문에서는 이들 오차를 분석하고 감소시키기 위하여 임펄스 응답 설계명세조건으로부터 직접 최소 계산양자화 실현을 유도하고 또한 최소계산양자화 오차와 최소 Round off 오차 실현 사이의 등가변환 관계로부터 SDDF를 최적실현한다. 이러한 알고리즘은 시뮬레이션에 의하여 분석되어지는데 양자화오차 문제에 있어서 직접형이나 평형형 실현보다 우수한 특성을 갖는다.

• 대한수학회논문집
• /
• 제38권2호
• /
• pp.431-450
• /
• 2023

The basic goal of quantization for probability distribution is to reduce the number of values, which is typically uncountable, describing a probability distribution to some finite set and thus to make an approximation of a continuous probability distribution by a discrete distribution. It has broad application in signal processing and data compression. In this paper, first we define the uniform distributions on different curves such as a line segment, a circle, and the boundary of an equilateral triangle. Then, we give the exact formulas to determine the optimal sets of n-means and the nth quantization errors for different values of n with respect to the uniform distributions defined on the curves. In each case, we further calculate the quantization dimension and show that it is equal to the dimension of the object; and the quantization coefficient exists as a finite positive number. This supports the well-known result of Bucklew and Wise [2], which says that for a Borel probability measure P with non-vanishing absolutely continuous part the quantization coefficient exists as a finite positive number.