An improved RDO algorithm for the HEVC intra encoder

HEVC 인트라 인코더를 위한 RDO 알고리듬의 개선

  • Won, Eui-Yeon (Department of Electrical Engineering and Computer Science, Seoul National University) ;
  • Chae, Soo-Ik (Department of Electrical Engineering and Computer Science, Seoul National University)
  • 원의연 (서울대학교 전기정보공학부) ;
  • 채수익 (서울대학교 전기정보공학부)
  • Published : 2013.06.26

Abstract

High Efficiency Video Coding 비디오 표준은 다양한 분할방식 및 35가지 예측모드를 허용하기 때문에 최적의 분할 및 예측모드를 결정하기 위한 연산량이 많다. 이를 줄이기 위하여 본 논문에서는 CU분할의 결정에 있어 가설검정을 이용하여 early splitting 및 early pruning을 위한 임계값을 설정하고, early splitting의 경우 연산의 결과값이 임계값보다 클 경우, early pruning의 경우 연산의 결과값보다 임계값보다 작을 경우 CU의 분할을 조기에 결정하는 논문[1]의 방법을 차용하여 CU의 분할을 조기에 결정하며, 추가로 비트율 및 왜곡을 연산하는 예측모드의 개수를 줄임으로써 인코더의 성능을 향상시켰다. 또한 예측모드를 결정할 때 RDOQ를 수행하지 않음으로써 예측모드를 빠르게 결정하며, TU의 분할에 있어서도 CBF의 값 및 임계값을 이용한 early pruning 방법을 수행하여 인코더의 성능을 향상시켰다. 실험결과 5.9%의 luma BDRate의 증가가 있었으나, 63.7%의 인코딩 시간이 절감되었다.

Keywords