DOI QR코드

DOI QR Code

Real-time Depth Image Refinement using Hierarchical Joint Bilateral Filter

계층적 결합형 양방향 필터를 이용한 실시간 깊이 영상 보정 방법

  • 신동원 (광주과학기술원 정보통신공학부) ;
  • 호요성 (광주과학기술원 정보통신공학부)
  • Received : 2014.01.13
  • Accepted : 2014.03.19
  • Published : 2014.03.30

Abstract

In this paper, we propose a method for real-time depth image refinement. In order to improve the quality of the depth map acquired from Kinect camera, we employ constant memory and texture memory which are suitable for a 2D image processing in the graphics processing unit (GPU). In addition, we applied the joint bilateral filter (JBF) in parallel to accelerate the overall execution. To enhance the quality of the depth image, we applied the JBF hierarchically using the compute unified device architecture (CUDA). Finally, we obtain the refined depth image. Experimental results showed that the proposed real-time depth image refinement algorithm improved the subjective quality of the depth image and the computational time was 260 frames per second.

본 논문에서는 결합형 양방향 필터를 이용하여 깊이 영상을 실시간으로 보정하는 방법을 제안한다. 제안한 방법은 Kinect 깊이 카메라로부터 얻은 깊이 영상의 화질을 실시간으로 향상시키기 위해 GPU 내의 상수 메모리와 2차원 영상 처리에 적합한 텍스쳐 메모리를 사용한다. 또한, 단일 화소에 대한 결합형 양방향 필터 연산을 각 GPU 쓰레드(thread)에 할당한 다음 병렬로 처리하여 계산량을 현저히 감소시킨다. 그리고 깊이 영상의 품질을 더욱 높이기 위해 CUDA를 이용해 구현한 결합형 양방향 필터를 계층형 구조로 반복적으로 수행하여 폐색 영역이 채워진 깊이 영상을 얻을 수 있다. 실험 결과를 통해, 제안한 실시간 깊이 영상 보정 방법이 깊이 영상의 주관적 화질을 향상시키고, 초당 55 화면의 속도로 동작하는 것을 확인했다.

Keywords

References

  1. C. Fehn, "Depth-image-based rendering (DIBR), Compression and Transmission for a New Approach on 3-D TV," Proc. of SPIE Conference Stereoscopic Displays and Virtual Reality Systems, vol. 5291, pp. 93-104, Jan. 2004.
  2. K. Jung, Y. Park, J. Kim, H. Lee, K. Yon, N. Hur, and J. Kim, "2D/3D Mixed Service in T-DMB System using Depth Image Based Rendering," Proc. of International Conference on Advanced Communication Technology, vol. 3, pp. 1868-1871, Feb. 2008.
  3. J. Kopf, M. F. Cohen, D. Lischinski, and M. Uyttendaele, "Joint Bilateral Upsampling," ACM Transactions on Graphics, vol. 26, no. 3, pp. 1-5, July 2007.
  4. NVIDIA, "CUDA C Programming Guide," document PG-02829-001_v5.0, Oct. 2012.
  5. S. Hwang, "Image Processing Programming by Visual C++," Hanbit Media Inc, pp. 366-370, 2007.
  6. C. Richardt, C. Stoll, N. Dodgson, H. Seidel and C. Theobalt, "Coherent Spatiotemporal Filtering, Upsampling and Rendering of RGBZ Videos," Computer Graphics Forum, vol 31, pp. 247-256, May. 2012. https://doi.org/10.1111/j.1467-8659.2012.03003.x
  7. D. Shin, S. Lee and Y. Ho, "Real-time Depth Map Refinement using Joint Bilateral Filter", Fall Conference Proceeding of The Korean Society of Broadcast Engineers, Dec. 2013.
  8. J. Sanders and E. Kandrot, "CUDA by example", Addison-Wesley Professional, p. 116, 2010.
  9. http://vision.middlebury.edu/stereo/data/

Cited by

  1. Boundary Artifacts Reduction in View Synthesis of 3D Video System vol.21, pp.6, 2016, https://doi.org/10.5909/JBE.2016.21.6.878