DOI QR코드

DOI QR Code

Real-time Stereo Video Generation using Graphics Processing Unit

GPU를 이용한 실시간 양안식 영상 생성 방법

  • 신인용 (광주과학기술원 정보통신공학과) ;
  • 호요성 (광주과학기술원 정보통신공학과)
  • Received : 2011.03.16
  • Accepted : 2011.06.10
  • Published : 2011.07.31

Abstract

In this paper, we propose a fast depth-image-based rendering method to generate a virtual view image in real-time using a graphic processor unit (GPU) for a 3D broadcasting system. Before the transmission, we encode the input 2D+depth video using the H.264 coding standard. At the receiver, we decode the received bitstream and generate a stereo video using a GPU which can compute in parallel. In this paper, we apply a simple and efficient hole filling method to reduce the decoder complexity and reduce hole filling errors. Besides, we design a vertical parallel structure for a forward mapping process to take advantage of the single instruction multiple thread structure of GPU. We also utilize high speed GPU memories to boost the computation speed. As a result, we can generate virtual view images 15 times faster than the case of CPU-based processing.

양안식 3차원 방송의 경우 좌우 두 시점에 해당하는 영상을 동시에 전송해야 하기 때문에 전송 대역폭의 부담이 매우 크다. 이러한 부담을 줄이기 위해 좌우 시점의 두 영상을 전송하는 대신에 좌영상과 이에 해당하는 깊이맵을 부호화하여 전송하는 방법이 있다. 이러한 3차원 방송 시스템의 수신단에서는 좌영상과 깊이맵을 복호한 뒤에 우영상을 만들어 좌우 영상을 실시간으로 출력한다. 본 논문에서는 좌영상과 깊이맵을 이용하여 가상시점 영상을 생성할 때 생기는 빈 공간을 효율적으로 채우는 기법을 제안하고, 전 과정의 실시간 처리를 위해 이를 GPU상에서 병렬로 처리되도록 구현했다. 그 결과 효과적으로 홀 채움을 수행하면서 CPU 대비 15배 이상 빠르게 양안식 영상을 생성할 수 있었다.

Keywords

References

  1. O. Schreer, P. Kauff, and T.Sikora, 3D Videocommunication, John Wiley&Sons, 2005.
  2. 최병호, 김용환, 김제우, 박지호, "스테레오 3D 방송을 위한 비디오 부호화 기술," 방송공학회논문지, 제15권 제1호, pp. 24-36, 2010.
  3. L. McMilan, "A List-Priority Rendering Algorithm for Redisplaying Projected Surfaces," Technical Report TR95-005, Univ. of North Carolina, July 1995.
  4. G. Wolberg, Digital Image Warping, IEEE Computer Society Press, March 1990.
  5. ISO/IEC JTC1/SC29/WG11, Contribution for 3D Video Test Material of Outdoor Scene, M1537, July 2008.
  6. K. Oh, S. Yea, and Y. Ho, "Hole Filling Method using Depth Based In-painting for View Synthesis in Free Viewpoint Television and 3-D Video," Picture Coding Symposium, pp. 39-43, May 2009.
  7. H. Shin, Y. Kim, H. Park, and J. Park, "Fast View Synthesis using GPU for 3D display," IEEE Transactions on Consumer Electronics, Vol. 54, No. 4, pp. 2068-2076, Nov. 2008. https://doi.org/10.1109/TCE.2008.4711274
  8. nVIDIA Corporation, "CUDA 2.3 Programming Guide," in http://www.nvidia.com/object/cuda_ develop.html, 2009.