• Proceedings of the Acoustical Society of Korea Conference
• /
• 1998.06c
• /
• pp.197-200
• /
• 1998

본 논문에서는 유전자 알고리즘(genetic Algorithm)을 사용하여 벡터 양자화(vector quantization : VQ)를 수행하는 방법을 제안하고자 한다. 벡터 양자화를 수행하여 코드북(codebook)을 생성할 때 생성된 코드북과 학습벡터(training vector)사이에는 반드시 양자화 오차(quantization error)가 발생하는데 기존의 K-means 알고리듬을 사용하여 코드북을 생성했을 경우 양자화 오차를 줄이는데 한계가 있었다. 본 논문에서 제안하는 유전자 알고리즘을 이용한 벡터 양자화는 이 양자화 오차를 감소시키기 위해서 연구되었다. 제안한 방법의 성능을 평가하기 위해 음성데이터를 기존의 K-means 알고리즘에서 클러스터의 중심을 선택하는 방법중의 하나인 Minimax방법으로 코드북을 생성하여 제안한 방법과 양자화 오차를 비교한 결과 양자화 오차가 감소됨을 알 수 있었다.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2019.11a
• /
• pp.110-113
• /
• 2019

본 논문에서는 임베디드 시스템에서의 양자화 기계학습을 수행할 경우 발생하는 양자화 오차를 효과적으로 보상하기 위한 방법론을 제안한다. 경사 도함수(Gradient)를 사용하는 기계학습이나 비선형 신호처리 알고리즘에서 양자화 오차는 경사 도함수의 조기 소산(Early Vanishing Gradient)을 야기하여 전체적인 알고리즘의 성능 하락을 가져온다. 이를 보상하기 위하여 경사 도함수의 최대 성분에 대하여 직교하는 방향의 보상 탐색 벡터를 유도하여 양자화 오차로 인한 성능 하락을 보상하도록 한다. 또한, 기존의 고정 학습률 대신, 내부 순환(Inner Loop) 없는 비선형 최적화 알고리즘에 기반한 적응형 학습률 결정 알고리즘을 제안한다. 실험결과 제안한 방식의 알고리즘을 비선형 최적화 문제에 적용할 시 양자화 오차로 인한 성능 하락을 최소화시킬 수 있음을 확인하였다.

• Proceedings of the Acoustical Society of Korea Conference
• /
• 1998.06e
• /
• pp.207-210
• /
• 1998

기존의 DPCM에 의한 압축방법은 예측오차를 양자화하여 전송한 후 복원하는 것으로 8레벨로 양자화하는 경우 3bpp의 비트율을 갖는다. 본 논문에서는 화소값의 압축에 의해 기존의 DPCM보다 예측오차값의 분포를 0을 중심으로 더 집중시킴으로써 더 낮은 비트율을 갖는 압축방법을 제안한다. 압축된 각 화소의 예측오차값은 DPAM방법에 의해 8-레벨로 양자화되고, 양자화된 예측오차의 열을 4와 2 단위로 분할하여 예측오차의 학습된 열로 구성된 각각의 코드북과 비교한다. 비교 결과 코드북의 주소를 생성하여 전송하고, 복원시 화소값을 확장한다. 제안된 방법은 DPCM방법보다 2.4~4.06dB 낮은 복원 영상의 화질을 보이지만, 비트율은 2.17~2.34bpp를 얻음으로써 0.66~0.83bpp정도 개선할 수 있다.

• Journal of the Korean Society for Aeronautical & Space Sciences
• /
• v.42 no.1
• /
• pp.82-89
• /
• 2014

This paper discusses the methods for reducing the sampling time quantization errors of the body dither type ring laser gyroscope. A ring laser gyroscope has the angle quantization error which is generated by the frequency counting method of the laser beat signal and sampling time quantization error which is generated by the demodulation method for eliminating the body dithering in which the sampling periods are fitted to the dither periods. Generally, because the dither periods are longer than the calculation periods of the inertial navigation system, vehicle navigation errors are produced by long time attitude update missing during the vehicle move with a high dynamical motion. In this paper, the double demodulation method is proposed for reducing the sampling time quantization error and its effects under the dynamic situation are confirmed by simulation.

• The Journal of the Acoustical Society of Korea
• /
• v.17 no.8
• /
• pp.68-72
• /
• 1998

본 논문에서는 기존의 DPCM에 의한 압축방법보다 더 낮은 비트율을 갖는 압축방 법을 제안한다. 각 화소의 예측오차 값은 DPCM방법에 의해 양자화되고, 양자화된 예측오차 의 열은 예측오차의 학습된 열로 구성된 코드북과 비교된다. 비교과정은 벡터양자화 방법과 동일하고, 그 결과 코드북의 주소를 생성한다. 제안된 방법은 DPCM과 동일한 복원 영상의 화질을 보이지만, 더 낮은 비트율을 얻을 수 있다.

• Journal of the Korean Institute of Telematics and Electronics S
• /
• v.36S no.5
• /
• pp.42-47
• /
• 1999

연속 계조도 영상을 이진 영상(하프톤 영상)으로 변환하는 하프톤 기법중 대표적인 두 방법은 순차적 디더법과 오차 확산법이 있다. 이 중에서 오차확산법은 예리한 하프톤 영상을 얻기위한 우수한 하프톤 기법으로 잘 알려져 있다. 그러나 알고리듬에 기인하는 여러 인공잡음들이 발생하므로 이를 개선하기 위한 방법으로 최적의 필터 계수를 얻기 위한 많은 연구가 진행되었다. 본 논문에서는 연속 계조도 입력 영상과 하프톤 영상사이의 양자화 오차를 영상에 적응적이며 최적으로 확산시키기 위해 양자화 오차를 초기 가능성의 퍼지 부분 집합으로 정의하였다. 이러한 퍼지 부분 집합의 중심화소에 대해 이웃한 화소의 오차 가능성을 고려한 후 FAM 규칙을 이용하여 각각 화소들의 오차 가능성을 영상에 따라 적응적으로 갱신하였으며 이를 원영상에 더하여 다시 양자화 과정을 번복하는 퍼지 이완 알고리듬을 이용한 오차 확산법을 제안하였다. 제안한 방법을 이용하여 얻은 결과를 최적 필터 계수를 구하기 위한 기존의 방법의 결과 영상과 비교 분석하였다.

• Journal of the Institute of Electronics Engineers of Korea SP
• /
• v.41 no.3
• /
• pp.111-120
• /
• 2004

This paper proposes a vector error diffusion method for smear artifact reduction in the boundary region. This artifact mainly results from a large accumulation of quantization errors. In particular, color bands with a smear artifact, the width of a few pixels appear along the edges. Accordingly, to reduce this artifact, the proposed halftoning process excludes the large accumulated Quantization error by comparing the vector norms and vector angles between the error-corrected vector and eight primary color patches. When the vector norm of the error corrected vector is larger than those of eight primary color patches, the quantization error vector is excluded from the quantization error distribution process. In addition, the quantization error is also excluded when the angle between eight primary color patches and error corrected vector is large. As a result, the proposed method enables a visually pleasing halftone pattern to be generated by all three color separations into account in a device- independent color space and reduces smear artifact in the boundary regions.

• Journal of Broadcast Engineering
• /
• v.25 no.2
• /
• pp.157-165
• /
• 2020

In this paper. we propose an effective compensation scheme to the quantization error arisen from quantized learning in a machine learning on an embedded system. In the machine learning based on a gradient descent or nonlinear signal processing, the quantization error generates early vanishing of a gradient and occurs the degradation of learning performance. To compensate such quantization error, we derive an orthogonal compensation vector with respect to a maximum component of the gradient vector. Moreover, instead of the conventional constant learning rate, we propose the adaptive learning rate algorithm without any inner loop to select the step size, based on a nonlinear optimization technique. The simulation results show that the optimization solver based on the proposed quantized method represents sufficient learning performance.

• Proceedings of the Acoustical Society of Korea Conference
• /
• 1998.08a
• /
• pp.438-441
• /
• 1998

최근 미국 내 표준안으로서 많이 사용되고 있는 AC-3 오디오 알고리듬은 그 복잡성으로 인하여 실시간 구현을 위해선 프로세서로 구현하는 것이 적합하다. AC-3 복호화 알고리듬은 많은 부분이 실수연산으로 이루어져 있으므로 소수점을 고려한 연산이 필요한데, 프로세서로 구현할 때는 적은 비용과 빠른 속도로 실수연산을 수행하기 위해서 부동소수점보다는 고정소수점 연산이 유리하다. 그러나 고정소수점 연산시 발생하는 유한 단어길이 효과로 인하여 양자화 오차가 발생하므로 복호화된 오디오 신호의 음질저하를 최소화하기 위해서는 최적화가 필요하다. 본 논문에서는 AC-3 복호화 알고리듬의 부분별 양자화 오차를 분석하고 그 결과 가장 많은 오차를 발생시키는 역 TDAC 변환의 오차를 최적화하였다. Fast TDAC 변환이 FFT로 이루어져 있으므로 고정 소수점 연산시 오차가 적은 FFT 구조를 제안하였다. 제안된 구조를 사용하여 AC-3 고정소수점 복호화기를 C 언어를 사용하여 구현하였으며, AC-3 부동소수점 복호화기와 최종 PCM을 비교하여 그 성능을 평가하였다.

• The Journal of Korean Institute of Communications and Information Sciences
• /
• v.29 no.2C
• /
• pp.298-305
• /
• 2004

This paper presents an error compensation method for a fixed-width modified Booth multiplier that receives a W-bit input and produces a W-bit product. To efficiently compensate for the quantization error, Booth encoder outputs (not multiplier coefficients) are used for the generation of error compensation bias. The truncated bits are divided into two groups depending upon their effects on the quantization error. Then, different error compensation methods are applied to each group. By simulations, it is shown that quantization error can be reduced up to 50％ by the proposed error compensation method compared with the existing method with approximately the same hardware overhead in the bias generation circuit. It is also shown that the proposed method leads to up to 40％ reduction in area and power consumption of a multiplier compared with the ideal multiplier.