• ETRI Journal
• /
• 제33권5호
• /
• pp.814-817
• /
• 2011

In this letter, the distributions of direct current (DC) coefficients for P-frames in H.264/AVC are analyzed, and the distortion model of the Gaussian source under the quantization of the dead-zone plus-uniform threshold quantization with uniform reconstruction quantizer is derived. Experimental results show that the DC coefficients of P-frames are best approximated by the Laplacian distribution and the Gaussian distribution at small quantization step sizes and at large quantization step sizes, respectively.

• 제어로봇시스템학회:학술대회논문집
• /
• 제어로봇시스템학회 1997년도 한국자동제어학술회의논문집; 한국전력공사 서울연수원; 17-18 Oct. 1997
• /
• pp.1512-1515
• /
• 1997

One of the advantages of master-slave teleoperation is scaling concept such as position scaling, force scaling Meanuhile, lots of quantization effects are generated from position and force sensors in the master and slave manipulator. In this paper, to show the output error caused by the quantizaion effects from the position sensor and position scaling factor, simulation is done for free motion without contact in slave side. Transfer functiion model in which the quantization effect is assumed to be a disturbance input to the system is derived. Model shows that Jacobian, scaling factors, and controller affect the output by quantization effects form esnsors. One dof master and slave are used for simulation. In our study, the higher sensor resolution decreases the output error form quantization. Scaling factors can amplify the quantizatiion effects form the sensors in master and slave manipulators.

• 한국음향학회지
• /
• 제31권2호
• /
• pp.93-99
• /
• 2012

음성코딩 시 성도는 Linear Predictive Coding (LPC) 계수를 이용해서 모델링 한다. 일반적으로 LPC 계수는 양자화와 선형보간 관점에서 유리한 Line Spectral Frequency (LSF) 파라미터로 변경하여 사용한다. 10차 이상의 다차원 LSF 데이터를 벡터 양자화를 이용하여 직접 코딩하게 되면 벡터 내 상관관계 (intra-frame correlation)를 모두 이용할 수 있으므로 rate-distortion 관점에서는 높은 효율을 기대할 수 있다. 하지만, 계산량과 메모리 요구량이 높아져서 실제 코딩 시스템에서는 사용할 수 없게 되므로, 차원을 나누어 압축하는 Split Vector Quantization (SVQ)이 이용된다. 또한, LSF 데이터는 과거 벡터와의 벡터 간 상관관계 (inter-frame correlation)가 높으므로, 이를 이용한 Predictive Split Vector Quantization (PSVQ)이 사용되고 있다. PSVQ는 SVQ 보다 높은 rate-distortion 성능을 보인다. 본 논문에서는 음성 저장 장치를 위한 최적의 PSVQ를 구현하기 위해서 다수의 과거 프레임 정보와의 벡터 간상관관계 (inter-frame correlation)를 고려한 Multi-Frame AR-model 기반 SVQ (MF-AR-SVQ)를 제안하였다. 기존 PSVQ와 비교해 보았을 때, MF-AR-SVQ는 계산량과 메모리 요구량의 큰 증가 없이, 평균 spectral distortion 관점에서 약 1비트의 성능 향상을 보였다.

• 제어로봇시스템학회:학술대회논문집
• /
• 제어로봇시스템학회 1991년도 한국자동제어학술회의논문집(국내학술편); KOEX, Seoul; 22-24 Oct. 1991
• /
• pp.131-135
• /
• 1991

A quantization error model is suggested for analog to frequency(A/F) converter in strapdown inertial navigation system(SDINS),which is characterized by some white noise exciting the state variables. Also, effects on the performance of SDINS by analog to digital(A/D) converter and A/F converter are analyzed and compared via covariance simulation. As a result, A/F converter turns out to be superior to the A/D converter with respect to the induced navigation error and the difficulty in circuit realization. The quantization error model developed in this paper appears to be useful for optimal filter design.

• 반도체디스플레이기술학회지
• /
• 제20권4호
• /
• pp.151-156
• /
• 2021

Low-end IoT devices do not have enough computation and memory resources for DNN learning and inference. Integer quantization of real-type neural network models can reduce model size, hardware computational burden, and power consumption. This paper describes the design and implementation of a web-based quantization platform for CNN deep learning accelerator chips. In the web service platform, we implemented visualization of the model through a convenient UI, analysis of each step of inference, and detailed editing of the model. Additionally, a data augmentation function and a management function of files that store models and inference intermediate results are provided. The implemented functions were verified using three YOLO models.

• 사물인터넷융복합논문지
• /
• 제9권1호
• /
• pp.9-17
• /
• 2023

많은 연산량을 가진 딥러닝은 초소형 IoT 장치나 모바일 장치에 구현하기가 어렵다. 최근에는 이러한 장치에서도 딥러닝을 구현할 수 있도록 모델의 연산량을 줄이는 딥러닝 경량화 기술이 소개되었다. 양자화는 연속적인 분포를 가지는 파라미터 값들을 고정된 비트의 이산 값으로 표현하여 모델의 메모리 및 크기 등을 줄여 효율적으로 사용할 수 있는 경량화 기법이다. 그러나 양자화로 인한 이산 값 표현으로 인해 모델의 정확도가 낮아지게 된다. 본 논문에서는 정확도를 개선할 수 있는 다양한 양자화 기술을 소개한다. 먼저 기존 양자화 기술 중 APoT와 EWGS를 선택하여 동일한 환경에서 실험을 통해 결과를 비교 분석하였다. 선택된 기술은 ResNet모델에서 CIFAR-10 또는 CIFAR-100 데이터 세트로 훈련되고 테스트 되었다. 실험 결과 분석을 통해 기존 양자화 기술의 문제점을 파악하고 향후 연구에 대한 방향성을 제시하였다.

• Journal of Internet Technology
• /
• 제21권1호
• /
• pp.203-219
• /
• 2020

Compressed video sensing (CVS) is one of the 5G application of compressed sensing (CS) to video coding. Block-based residual reconstruction is used in CVS to explore temporal redundancy in videos. However, most current studies on CVS focus on random measurements without quantization, and thus they are not suitable for practical applications. In this study, an efficient ratecontrol scheme combining measurement rate and quantization for residual reconstruction in CVS is proposed. The quantization effects on CS measurements and recovery for video signals are first analyzed. Based on this, a mathematical relationship between quantitative distortion (QD), sampling rate (SR), and the quantization parameter (QP) is derived. Moreover, a novel distortion model that exhibits the relationship between QD, SR, and QP is presented, if statistical independency between the QD and the CS reconstruction distortion is assumed. Then, using this model, a rate-distortion (RD) optimized rate allocation algorithm is proposed, whereby it is possible to derive the values of SR and QP that maximize visual quality according to the available channel bandwidth.

• 한국전자통신학회논문지
• /
• 제9권10호
• /
• pp.1207-1214
• /
• 2014

비디오 코딩에서 GOP의 첫 번째 프레임은 많은 비트를 발생시키는 인트라 모드로 압축되고 다음 프레임의 인터 모드 압축에 사용되기 때문에 첫 프레임인 인트라 프레임의 압축 결과는 이후 프레임에도 영향을 주게 된다. 기존 알고리즘의 경우 인트라 프레임의 압축은 bpp 값에 따라 양자화 파라미터를 설정하여 압축하는데, 이때 bpp는 영상의 특성을 전혀 고려하지 않는다. 정확한 인트라 프레임 압축을 위해서는 bpp 뿐만 아니라 영상의 복잡도와 전송률을 함꼐 고려하여 양자화 파라미터를 결정하여야 한다. 본 논문에서는 GOP의 인코딩 특성에 대한 분석을 바탕으로 인트라 프레임 압축을 위한 양자화 파라미터를 계산에 필요한 실시간 양자화 모델링 방법을 제안한다. 실험 결과는 제안하는 모델이 인트라 프레임의 특성을 잘 반영하고 있으며 또한 실시간으로 모델 파라미터를 구하는 방법도 효과적으로 작동함을 보여준다.

• 방송공학회논문지
• /
• 제26권6호
• /
• pp.778-789
• /
• 2021

최근 다양한 분야에서 뛰어난 성능을 나타내는 Convolutional Neural Network(CNN)모델을 모바일 기기에서 사용하기 위한 다양한 연구가 진행되고 있다. 기존의 CNN 모델은 모바일 장비에서 사용하기에는 가중치의 크기가 크고 연산복잡도가 높다는 문제점이 있다. 이를 해결하기 위해 가중치의 표현 비트를 낮추는 가중치 양자화를 포함한 여러 경량화 방법들이 등장하였다. 많은 방법들이 다양한 모델에서 적은 정확도 손실과 높은 압축률을 나타냈지만, 대부분의 압축 모델들은 정확도 손실을 복구하기 위한 재학습 과정을 포함시켰다. 재학습 과정은 압축된 모델의 정확도 손실을 최소화하지만 많은 시간과 데이터를 필요로 하는 작업이다. Weight Quantization이후 각 층의 가중치는 정수형 행렬로 나타나는데 이는 이미지의 형태와 유사하다. 본 논문에서는 Weight Quantization이후 각 층의 정수 가중치 행렬을 이미지의 형태로 비디오 코덱을 사용하여 압축하는 방법을 제안한다. 제안하는 방법의 성능을 검증하기 위해 ImageNet과 Places365 데이터 셋으로 학습된 VGG16, Resnet50, Resnet18모델에 실험을 진행하였다. 그 결과 다양한 모델에서 2%이하의 정확도 손실과 높은 압축 효율을 달성했다. 또한, 재학습 과정을 제외한 압축방법인 No Fine-tuning Pruning(NFP)와 ThiNet과의 성능비교 결과 2배 이상의 압축효율이 있음을 검증했다.

• ETRI Journal
• /
• 제29권1호
• /
• pp.99-102
• /
• 2007

The channel level difference (CLD) is a main parameter in the reference model 0 (RM0) for MPEG Surround. Nevertheless, the CLD quantization method in the RM0 has problems such as the lack of theoretical background and inappropriate quantization levels. In this letter, a new CLD quantization method is proposed based on the virtual source location information which has strength in the quantization process. From experimental results, it is confirmed that the proposed scheme greatly reduces the quantization distortions measured in dB and degrees without any additional complexity.