The First Quantization Parameter Decision Algorithm for the H.264/AVC Encoder

To improve video quality and coding efficiency, H.264/AVC adopted an adaptive rate control. But this method has a problem as it cannot predict an accurate quantization parameter(QP) for the first frame. The first QP is decided among four constant values by using encoder input parameters. It does not consider encoding bits, results in significant fluctuation of the image quality and decreases the average quality of the whole coded sequence. In this paper, we propose a new algorithm for the first frame QP decision in the H.264/AVC encoder. The QP is decided by the existing algorithm and the first frame is encoded. According to the encoded bits, the new initial QP is decided. We can predict optimal value because there is a linear relationship between encoded bits and the new initial QP. Next, we re-encode the first frame using the new initial QP. Experimental results show that the proposed algorithm not only achieves better quality than the state of the art algorithm, but also adopts a rate control forthe sequence that was impossible with the existing algorithm. By reducing fluctuation, subjective quality also improved.

H.264/AVC를 위한 초기 Quantization Parameter 결정 알고리즘

동영상 압축 표준인 H.264/AVC는 압축 효율을 높이기 위해서 기존의 표준과는 다른 적응적인 비트율 제어(Adaptive Rate Control) 기법을 제공한다. 하지만 동영상의 첫 프레임에 대한 QP를 정확히 예측하지 못하는 문제점을 보인다. 부호화 입력 변수 중 일부 값을 이용해서 $3{\sim}4$개의 특정 상수 값 중에 하나를 선택하여 초기 QP 값을 정하게 된다. 이렇게 구해진 초기 QP값은 실제 부호화 되었을 때의 비트양을 고려하지 않은 방법이라서 특정 영상에서는 비트율 제어에 실패하거나 화질이 급격하게 변하는 모습들을 보여준다. 본 논문에서는 H.264/AVC 부호화기에서 첫 번째 프레임의 QP값을 결정하는 새로운 알고리즘을 제안한다. 제안된 알고리즘은 기존의 방법에 따라 초기 QP를 결정해서 부호화를 수행한 후 생성되는 비트양에 따라서 새로운 초기 QP 값을 구한다. 생성되는 비트양과 새로운 초기 QP 값 사이에는 선형 관계(A linear QP prediction model)가 성립하므로 최적에 가까운 초기 QP값을 예측 할 수 있다. 이렇게 구해진 새로운 초기 QP값을 이용해서 첫 프레임을 재부호화 한다. 실험결과 기존 알고리즘으로는 비트율 제어가 불가능 했던 영상을 효율적으로 비트율 제어를 하였고 기존의 방법보다 평균 PSNR의 향상을 확인하였다. 화면 사이의 화질 변화 폭을 줄임으로써 주관적인 화질 또한 향상하였다.