A Novel Segment Extraction and Stereo Matching Technique using Color, Motion and Initial Depth from Depth Camera

컬러, 움직임 정보 및 깊이 카메라 초기 깊이를 이용한 분할 영역 추출 및 스테레오 정합 기법

  • 엄기문 (한국전자통신연구원 방통미디어연구본부) ;
  • 박지민 (한국과학기술원 CI(Compuational Imaging) 연구실) ;
  • 방건 (한국전자통신연구원 방통미디어연구본부) ;
  • 정원식 (한국전자통신연구원 방통미디어연구본부) ;
  • 허남호 (한국전자통신연구원 방통미디어연구본부) ;
  • 김진웅 (한국전자통신연구원 방통미디어연구본부)
  • Published : 2009.12.31

Abstract

We propose a novel image segmentation and segment-based stereo matching technique using color, depth, and motion information. Proposed technique firstly splits reference images into foreground region or background region using depth information from depth camera. Then each region is segmented into small segments with color information. Moreover, extracted segments in current frame are tracked in the next frame in order to maintain depth consistency between frames. The initial depth from the depth camera is also used to set the depth search range for stereo matching. Proposed segment-based stereo matching technique was compared with conventional one without foreground and background separation and other conventional one without motion tracking of segments. Simulation results showed that the improvement of segment extraction and depth estimation consistencies by proposed technique compared to conventional ones especially at the static background region.

본 논문에서는 분할 영역기반 스테레오 정합에 있어서 분할 영역 추출시 컬러 외에 깊이 카메라의 초기 깊이, 프레임 간 분할 영역의 움직임 정보를 같이 이용한 분할 영역기반 스테레오 정합 기법을 제안한다. 제안한 기법은 깊이 카메라의 초기 깊이 정보를 이용하여 기준 영상의 객체/배경 분리를 먼저 수행하고, 분리된 객체/배경별로 컬러 영상 분할을 수행하여 분할 영역을 추출한다. 또한 분할 영역기반 깊이 정보 추출에 있어 프레임 간 깊이 정보의 연속성을 유지하기 위해 객체/배경 분리 정보, 분할 영역의 움직임 정보를 이용한다. 실험결과에서, 제안한 기법은 컬러 정보만을 이용한 기존의 분할 영역 추출 및 분할 영역 기반 스테레오 정합 기법에 비해 정적배경 영역에서 특히 분할 영역 추출과 깊이 정확도가 개선된 성능을 보였다.

Keywords

References

  1. http://www.3d4you.eu/index.php?option=com_content&view=article&id=55&Itemid=53
  2. http://www.3dvsystems.com/technology/tech.html
  3. http://www.pmdtec.com/products-services/pmdvisionr-cameras/pmdvisionr-camcube-20/
  4. http://www.mesa-imaging.ch/prodview4k.php
  5. Sang-Beom Lee, Kwan-Jung Oh, and Yo-Sung Ho, 'Segment-Based Multi-View Depth Estimation Using Belief Propagation From Dense Multi-View Video', IEEE 3DTV Conference, pp. 193-196, May 2008
  6. Xuizhi Zhou and Runsheng Wang, 'Stereo matching based on color and disparity segmentation by belief propagation', SPIE Journal of Optical Engineering, vol. 46, no. 4, April, 2007
  7. J. B. MacQueen, 'Some Methods for classification and Analysis of Multivariate Observations, ' Proceedings of 5-th Berkeley Symposium on Mathematical Statistics and Probability, Berkeley, University of California Press, vol. 1, pp.281-297, 1967
  8. D. Comaniciu, P. Meer, 'Mean shift: a robust approach toward feature space analysis,' IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. PAMI-24, no. 5, pp. 603-619, May 2002
  9. H. Tao, H. S. Sawhney, and R. Kumar, 'Dynamic Depth Recovery from Multiple Synchronized Video Streams,' Proceedings of IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR '03), vol. 2, pp.351, 2003
  10. http://www.vision.caltech.edu/bouguetj/ calib_doc/
  11. ISO/IEC JTC1/SC29/WG11, m15419, Multiview Video Test Sequence and Camera Parameters, April 2008