DOI QR코드

DOI QR Code

영상 보간을 이용한 다시점 비디오 부호화 방법

Multi-view Video Coding using View Interpolation

  • 이천 (광주과학기술원 정보통신공학과) ;
  • 오관정 (광주과학기술원 정보통신공학과) ;
  • 호요성 (광주과학기술원 정보통신공학과)
  • Lee, Cheon (School of Information and Mechatronics Gwangju Institute of Science and Technology (GIST)) ;
  • Oh, Kwan-Jung (School of Information and Mechatronics Gwangju Institute of Science and Technology (GIST)) ;
  • Ho, Yo-Sung (School of Information and Mechatronics Gwangju Institute of Science and Technology (GIST))
  • 발행 : 2007.03.29

초록

사용자에게 보다 실감나는 입체감을 제공하기 위해 개발되고 있는 다시점 비디오는 두 대 이상의 카메라를 이용하여 촬영한 영상들을 기하학적으로 교정하고 공간적으로 처리하여 여러 방향의 다양한 시점 영상을 사용자에게 제공하는 3차원 영상처리 기술의 새로운 분야이다. 다시점 비디오는 사용자에게 시청 시점을 자유롭게 선택할 수 있는 기회를 주고 넓은 화면을 통한 3차원 입체감을 느낄 수 있는 장점을 가진다. 그러나 다시점 비디오는 시점 수가 증가하는 만큼 데이터 양도 증가하므로 효율적인 데이터 처리 방법이 요구된다. 최근 인접한 시점의 영상을 이용하여 중간시점의 영상을 합성하고 이를 부호화에 적용하는 방법이 연구되고 있다. 다시점 비디오 부호화 효율을 높이기 위해 제안되었던 기존의 영상보간법은 최대변위 설정과 고정된 블록을 이용한 블록정합 방법을 이용한다. 이때, 변위 종류가 다양한 영상이거나 변위차가 큰 영역에 대해서 변위 오류가 많이 발생한다. 이 논문에서는 이러한 문제점을 보완하고 개선된 화질의 중간시점의 영상을 얻기 위한 방법과 이 영상을 이용하여 부호화에 적용하는 방법을 제안한다. 제안한 영상보간법은 변위의 검색 범위를 초기에 설정하지 않고 블록 단위부터 화소 단위까지 변위를 측정하여 중간영상을 합성한다. 또한 이렇게 합성한 영상을 부호화 과정에서 참조 영상으로 추가하여 부호화한다. 이 논문에서 제안한 방법을 이용한 결과, 기존의 영상 보간법보다 약 $1{\sim}4dB$ 정도 개선된 화질의 중간시점 영상을 얻었고, 이 영상들을 이용하여 제안한 부호화 방법으로 부호화한 결과 참조 모델에 비해 최대 0.5 dB의 부호화 효율이 개선됨을 확인했다.

Since the multi-view video is a set of video sequences captured by multiple array cameras for the same three-dimensional scene, it can provide multiple viewpoint images using geometrical manipulation and intermediate view generation. Although multi-view video allows us to experience more realistic feeling with a wide range of images, the amount of data to be processed increases in proportion to the number of cameras. Therefore, we need to develop efficient coding methods. One of the possible approaches to multi-view video coding is to generate an intermediate image using view interpolation method and to use the interpolated image as an additional reference frame. The previous view interpolation method for multi-view video coding employs fixed size block matching over the pre-determined disparity search range. However, if the disparity search range is not proper, disparity error may occur. In this paper, we propose an efficient view interpolation method using initial disparity estimation, variable block-based estimation, and pixel-level estimation using adjusted search ranges. In addition, we propose a multi-view video coding method based on H.264/AVC to exploit the intermediate image. Intermediate images have been improved about $1{\sim}4dB$ using the proposed method compared to the previous view interpolation method, and the coding efficiency have been improved about 0.5 dB compared to the reference model.

키워드

참고문헌

  1. A. Smolic and P. Kauff, 'Interactive 3D Video Representation and Coding Technologies,' Proc. of the IEEE, vol. 93, pp.99-110, 2005
  2. A. Smolic, K. Mueleer, T. Rein, P. Eisert, and T. Wiegand, 'Free Viewpoint Video Extraction, Representation, Coding, and Rendering,' Proceeding of IEEE International Conference on Image Processing. Vol. 5. pp. 3287-3290, 2004
  3. ISO/IEC JTC1/SC29/WG11, 'Application and Requirements for 3DAV,' N4982, 2002
  4. J. Shade, S. Gortler, L. He and R. Szeliski, 'Layered Depth Images,' Proceedings of SIGGRAPH, pp. 231-242, 1998
  5. M. Levoy, and P. Hanrahan, 'Light Field Rendering,' Proceedings of SIGGRAPH, pp. 31-42, 1996
  6. L. McMillan, 'An Image-based Approach to Three-dimensional Computer Graphics,' Technical report, PH.D. Dissertation, UNC Computer Science, TR97-013, 1999
  7. E. Chen and L. Williams, 'View Interpolation for Image Synthesis,' Proceedings of SIGGRAPH, pp. 279-288, 1993
  8. M. Droese, T. Fujii, and M. Tanimoto, 'Ray-Space Interpolation based on Filtering in Disparity Domain,' Proc. 3D Conference, pp. 213-216, 2004
  9. D. Scharstein, and R. Szeliski, 'A Taxomony an Evaluation of Dense Two-frame Stereo Correspondence Algorithms,' IJCV, vol. 47, pp. 7-42, 2002 https://doi.org/10.1023/A:1014573219977
  10. A. Yuille, and T. Poggio, 'A Generalized Ordering Constraint for Stereo Correspondence,' MIT A.I. Laboratory Memo 777, 1984
  11. ISO/IEC JTC1/SC29/WG11, 'Description of Core Experiments in MVC,' N8017, 2006