Intra 1616 Mode Decision Using Subset of Transform Coefficients in H.264/AVC

In this paper, we significantly reduces the amount of computation for intra 16$\times$16 mode decision in H.264 by applying the fast algorithm, which obtains the transformed prediction residual with fewer computations. By extending the existing intra 4$\times$4 mode decision, we propose the new algorithm for fast intra 16$\times$16 mode decision. The proposed algorithm uses partial transform coefficients which consist of one DC and three adjacent AC coefficients after 4$\times$4 transform in the intra 16$\times$16 mode decision. Theoretical analysis and experimental results show that the proposed algorithm can reduce computations up to 50% in the intra 16$\times$16 mode decision process with unnoticeable degradation.

H.264/AVC에서 변환계수의 부분집합을 사용한 인트라 1616 예측 모드 선택 방법

본 논문에서는 기존의 고속 인트라 4$\times$4 예측 모드 선택 알고리즘을 인트라 16$\times$16 예측에 적용하여 연산량을 감소시키고, 변환 계수의 일부분만을 사용하여 인트라 16$\times$16 예측 모드 선택을 고속으로 수행하는 방법을 제안한다. 제안하는 방법은 기준 블록과 예측 블록간의 차분에 4$\times$4 변환을 수행한 후 DC계수 하나와 주변의 AC계수 3개만을 사용하여 모드 선택을 수행한다. 이론적인 분석과 실험적 결과를 통해서 제안한 방법을 사용하여 인트라 16$\times$16 예측 모드 선택을 수행할 경우 부호화효율의 큰 감소 없이 필요한 연산량을 50%까지 줄일 수 있었다.