Multi-Depth Map Fusion Technique from Depth Camera and Multi-View Images

깊이정보 카메라 및 다시점 영상으로부터의 다중깊이맵 융합기법

  • 엄기문 (한국전자통신연구원 디지털방송연구단 방송시스템연구그룹) ;
  • 안충현 (한국전자통신연구원 디지털방송연구단 방송시스템연구그룹) ;
  • 이수인 (한국전자통신연구원 디지털방송연구단 방송시스템연구그룹) ;
  • 김강연 (광주과학기술원 기전공학과) ;
  • 이관행 (광주과학기술원 기전공학과)
  • Published : 2004.09.01

Abstract

This paper presents a multi-depth map fusion method for the 3D scene reconstruction. It fuses depth maps obtained from the stereo matching technique and the depth camera. Traditional stereo matching techniques that estimate disparities between two images often produce inaccurate depth map because of occlusion and homogeneous area. Depth map obtained from the depth camera is globally accurate but noisy and provide a limited depth range. In order to get better depth estimates than these two conventional techniques, we propose a depth map fusion method that fuses the multi-depth maps from stereo matching and the depth camera. We first obtain two depth maps generated from the stereo matching of 3-view images. Moreover, a depth map is obtained from the depth camera for the center-view image. After preprocessing each depth map, we select a depth value for each pixel among them. Simulation results showed a few improvements in some background legions by proposed fusion technique.

본 논문에서는 정확한 3차원 장면복원을 위한 다중깊이맵 융합기법을 제안한다. 제안한 기법은 수동적 3차원 정보획득 방법인 스테레오 정합기법과 능동적 3차원 정보획득 방법인 깊이정보 카메라로부터 얻어진 다중깊이맵을 융합한다. 전통적인 두 개의 스테레오 영상 간에 변이정보를 추정하는 전통적 스테레오 정합기법은 차폐 영역과 텍스쳐가 적은 영역에서 변이 오차를 많이 발생한다. 또한 깊이정보 카메라를 이용한 깊이맵은 비교적 정확한 깊이정보를 얻을 수 있으나, 잡음이 많이 포함되며, 측정 가능한 깊이의 범위가 제한되어 있다. 따라서 본 논문에서는 이러한 두 기법의 단점을 극복하고, 상호 보완하기 위하여 이 두 기법에 의해 얻어진다. 중깊이맵의 변이 또는 깊이값을 적절하게 선택하기 위한 깊이맵 융합기법을 제안한다. 3-시점 영상으로부터 가운데 시점을 기준으로 좌우 영상에 대해 두 개의 변이맵들을 각각 얻으며, 가운데 시점 카메라에 설치된 깊이정보 카메라로부터 얻어진 깊이맵들 간에 위치와 깊이값을 일치시키기 위한 전처리를 행한 다음. 각 화소 위치의 텍스쳐 정보, 깊이맵 분포 등에 기반하여 적절한 깊이값을 선택한다. 제안한 기법의 컴퓨터 모의실험 결과. 일부 배경 영역에서 깊이맵의 정확도가 개선됨을 볼 수 있었다.

Keywords

References

  1. C. H. Esteban and F. Schmitt, 'Silhouette and Stereo Fusion for 3D Object Modeling,' Proceedings of 3DIM'03, pp. 46-53, Oct. 2003
  2. P. Dias, V. Sequeira, F. Vaz, and J. G. M. Gonoalves, 'Registration and Fusion of Intensity and Range Data for 3D Modeling of Real World Scenes,' Proceedings of 3DIM'03, pp. 418-426, Oct. 2003
  3. http://www.3dvsystems.com
  4. S. F. El-Hakim. C. Brenner, G. Roth, 'A Multi-sensor Approach to Create Accurate Virtual Environments,' ISPRS Journal for Photogrammetry and Remote Sensing, vol. 54, no.6, pp. 379-391, Dec. 1998
  5. S. Y. Park and M. Subbarao, 'A Range Image Refinement Technique for Multi-view 3D Model Reconstruction,' Proceedings of 3DIM'03, pp. 147-154, Oct. 2003
  6. G. Cross, and A. Zisserman, 'Surface Reconstruction from Multiple Views Using Apparent Contours and Surface Texture,' Proceedings of NATO Advanced Research Workshop on Confluence of Computer Vision and Computer IGraphics, pp. 25-47, 2000
  7. Y. Matusumoto, K. Fujimura, and T. Kitamura, 'Shape-from-silhouette/stereo and its Application to 3-d Digitizer,' Proceedings of Discrete Geometry for Computing Imagery, pp. 177-190, 1999
  8. M. Li, H. Schirmacher, M. Magnor, and H. P. Seidel, 'Combining Stereo and Visual Hull Information for On-line Reconstruction and Rendering of Dynamic Scenes,' IEEE Workshop on MMSP, pp. 9-12, 2002
  9. P. Fua, and Y. G. Leclerc, 'Object-centered Surface Reconstruction: Combining Multi-image Stereo and Shading,' Int. J. of Computer Vision, vol. 16, pp.35-56, 1995
  10. A. R. Chowdhury and R. Chellappa, 'A Robust Algorithm for Fusing Noisy Depth Estimates Using Stochastic Approximation,' Proceedings of IEEE, ICASSP-01, 2001
  11. P. Dias, V. Sequeira, F. Vaz, and J. G. M. Gonçalves, 'Registration and Fusion of Intensity and Range Data for 3D modeling of Real World Scenes,' Proceedings of 3DIM'03, pp. 418-426, Oct. 2003
  12. J. Gluckman and S. K. Nayar, “Rectifying Transformations that Minimize Resampling Effects,” Proceedings of Computer Vision and Pattern Recognition 2001 (CVPR'01), pp.111-117, vol. 1, Dec. 2001
  13. Hong Jeong, Sung-Chan Park, 'Trellis-based Systolic Multi-layer Stereo Matching,' Proceedings of IEEE Workshop on Signal Processing Systems 2003, 257-262, Aug., 2003
  14. C. L. Zitnick and T. Kanade, 'Cooperative Algorithm for Stereo Matching and Occlusion Detection,' IEEE Trans. Pattern Analysis and Machine Intelligence, vol. 22, no. 7, July 2000