Fast Mode Decision Algorithm for H.264 using Mode Classification

H.264 is a new international video coding standard that can achieve considerably higher coding efficiency than conventional standards. Its coding gain has been achieved by employing advanced video coding methods. Specially, the increased number of macroblock modes and the complex mode decision procedure using the Lagrangian optimization are the main factors for increasing coding efficiency. Although H.264 obtains improved coding efficiency, it is difficult to do an real-time encoding because it considers all coding parameters in the mode decision procedure. In this paper, we propose a fast mode decision algorithm which classifies the macroblock modes in order to determine the optimal mode having low complexity quickly. Simulation results show that the proposed algorithm can reduce the encoding time by 34.95% on average without significant PSNR degradation or bit-rate increment. In addition, in order to show the validity of simulation results, we set up a low boundary condition for coding efficiency and complexity and show that the proposed algorithm satisfies the low boundary condition.

H.264 표준에서 모드 분류를 이용한 고속 모드결정 방법

지난 수년간 많은 국제 비디오 부호화 표준들이 연구되고 제안되었다. 그 중에서도 H.264는 가장 최근에 제안된 부호화 방식으로 가장 높은 부호화 효율을 제공한다. 이는 기존의 부호화 방식들보다 향상된 부호화 기법들을 사용했으며, 특히 다양한 매크로블록 모드와 라그랑지안(Lagrangian) 최적화 기법을 통한 최적 모드 결정법은 부호화 효율 향상에 결정적인 역할을 했다. 비록 H.264는 부호화 효율 측면에서 기존의 방식보다 월등한 성능 향상을 보이지만, 최적 모드를 결정하는 과정에서 모든 부호화 매개 변수를 고려하므로 실시간 부호화가 어려울 정도로 복잡도가 크게 증가한다. 본 논문에서는 이러한 복잡도를 최소화하기 위해 매크로블록 모드를 복잡도 측면에서 분류하고 복잡도가 낮은 최적 모드를 조기에 결정하는 고속 모드결정 방식을 제안한다. 실험 결과, 제안한 방식은 여러 종류의 실험 영상에 대해 현저한 PSNR 감소나 비트량 증가 없이 부호화 시간을 평균 34.95%까지 감소시켰다. 또한, 본 논문에서 제공한 실험 결과의 타당성을 보이기 위해 부호화 효율과 복잡도에 대한 하위 경계조건(low boundary condition)을 설정하고, 제안한 방식이 하위 경계조건을 만족함을 보였다.