implementation of 3D Reconstruction using Multiple Kinect Cameras

다수의 Kinect 카메라를 이용한 3차원 객체 복원 구현

  • 신동원 (광주과학기술원 정보통신공학부) ;
  • 호요성 (광주과학기술원 정보통신공학부)
  • Received : 2014.09.15
  • Accepted : 2014.12.16
  • Published : 2014.12.31

Abstract

Three-dimensional image reconstruction allows us to represent real objects in the virtual space and observe the objects at arbitrary view points. This technique can be used in various application areas such as education, culture, and art. In this paper, we propose an implementation method of the high-quality three-dimensional object using multiple Kinect cameras released from Microsoft. First, We acquire color and depth images from triple Kinect cameras; Kinect cameras are placed in front of the object as a convergence form. Because original depth image includes some areas where have no depth values, we employ joint bilateral filter to refine these areas. In addition to the depth image problem, there is an color mismatch problem in color images of multiview system. In order to solve it, we exploit an color correction method using three-dimensional geometry. Through the experimental results, we found that three-dimensional object which is used the proposed method is more naturally represented than the original three-dimensional object in terms of the color and shape.

3차원 복원은 실세계에 존재하는 물체를 가상의 공간에 재건하고 자유로운 시점을 선택하여 물체를 관찰할 수 있게 한다. 이러한 3차원 복원 기술은 교육, 문화, 예술 등 분야를 막론하고 다양한 곳에서 사용되고 있다. 3차원 복원 시스템을 구현하기 위해 본 논문에서는 Microsoft사에서 출시된 Kinect를 이용하여 다시점 시스템을 구성해서 고품질의 3차원 객체를 복원하는 방법을 제안한다. 먼저 3대의 Kinect를 객체의 전면에 수렴형으로 설치하여 색상 영상과 깊이 영상을 획득한다. 그런데 원본의 깊이 영상은 깊이 값을 가지지 않는 부분이 존재한다. 따라서 본 논문에서는 이 부분을 적절한 깊이 값으로 채워 넣기 위해서 깊이 가중치를 추가한 결합형 양방향 필터를 적용한다. 또한 다시점 시스템에서 얻은 원본의 색상 영상은 서로 색상이 일치하지 않는 문제가 존재하는데 이를 그대로 이용하여 3차원 모델 정합을 하면 색상이 부자연스럽게 연결된 3차원 모델을 얻게 된다. 따라서 이러한 색상 불일치의 문제를 해결하기 위해서 본 논문에서는 다시점 시스템에서의 3차원 기하학적 정보를 이용한 색상 보정 방법을 사용한다. 실험을 통해 제안한 방법을 이용하여 획득한 3차원 모델이 원본 3차원 모델보다 색상과 형태 관점에서 자연스럽게 표현된 것을 확인할 수 있었다.

Keywords

References

  1. "Camera Calibration Toolbox for MA TLAB: http://www.vision.caltech.edu/bouguetj."
  2. J. Kopf, M. F. Cohen, D. Lischinski, and M. Uyttendaele, "Joint Bilateral Upsampling," Proc. of ACM SIGGRAPH, pp. 1-5, New York, USA, Jan. 2007.
  3. D. Shin and Y. Ho, "Real-time Depth Image Refinement using Hierarchical Joint Bilateral Filter," Journal of The Korean Sodety of Broadcast EngIneers, vol. 19, no. 2, pp. 140-147, Mar. 2014.
  4. http://vision.middlebury.edu/stereo/data/
  5. W. R. Mark, L. McMillan, and G. Bishop, "Post-rendering 3D Warping," Proc. of Symposium on Interactjve 3D Graphics, pp. 7-16, New York, USA, Apr. 1997.
  6. http://en.wikipedia.org/ wiki/Polynomial_regression
  7. http://en.wikipedia.org/ wiki/Lab_color_space
  8. J. Sanders and E. Kandrot, "CUDA by example", Addison-Wesley Professional, pp. 116-120, July 2010.