Face Tracking for Multi-view Display System

다시점 영상 시스템을 위한 얼굴 추적

  • 한충신 (광운대학교 전자공학과 디지털 미디어 연구실) ;
  • 장세훈 (광운대학교 전자공학과 디지털 미디어 연구실) ;
  • 배진우 (광운대학교 전자공학과 디지털 미디어 연구실) ;
  • 유지상 (광운대학교 전자공학과 디지털 미디어 연구실)
  • Published : 2005.02.28

Abstract

In this paper, we proposed a face tracking algorithm for a viewpoint adaptive multi-view synthesis system. The original scene captured by a depth camera contains a texture image and 8 bit gray-scale depth map. From this original image, multi-view images can be synthesized which correspond to viewer's position by using geometrical transformation such as a rotation and a translation. The proposed face tracking technique gives a motion parallax cue by different viewpoints and view angles. In the proposed algorithm, tracking of viewer's dominant face initially established from camera by using statistical characteristics of face colors and deformable templates is done. As a result, we can provide motion parallax cue by detecting viewer's dominant face area and tracking it even under a heterogeneous background and can successfully display the synthesized sequences.

본 논문에서는 관찰자의 시점에 적응적인 다시점 영상 합성 시스템을 위한 얼굴 추적 기법을 제안한다. depth 카메라를 이용하여 텍스쳐 영상과 깊이 정보를 획득한 후, 회전(rotation)과 이동(translation) 등 기하학적인 변환을 이용하여 관찰자의 위치를 고려한 다시점 영상을 생성할 수 있다. 관찰 시점의 위치와 각도에 의한 입체감(motion parallex cue)을 제공하기 위하여 주 관찰자의 얼굴을 추적하는 기법을 제안한다. 제안된 기법에서는 모니터에 설치된 얼굴 획득용 카메라로부터 얻은 영상에서 얼굴 색상의 통계학적 특성과 변형적 형판(template)을 이용하여, 실시간으로 초기에 설정된 주요 관찰자(dominant face)의 얼굴영역을 추적하게 된다. 실험 결과 복잡한 배경 하에서도 얼굴 영역의 위치를 성공적으로 검출 및 추적하여 관찰자 시점에 해당하는 3차원 입체 영상을 디스플레이 할 수 있었다.

Keywords

References

  1. ATTEST, European 1ST Project http://www.iti.gr/db.php/en/projects/ATTEST.html 2002-2004
  2. I. Sexton and P. Surman, 'Stereoscopic and autostereoscopic display systems,' IEEE Signal Processing Mag., vol. 16, pp. 85-99, 1999 https://doi.org/10.1109/79.768575
  3. Heinrich-Hertz-Institut, Human Factors Dept., Berlin, Germany. (1999). 3D-displays. [Online]. Available: http://atwww.hhi.de/3D_displays
  4. J. R Ohm, K. Grueneberg, E. Hendriks, M. E. Izquierdo, D. Kalivas,M. Karl, D. Papadimatos, and A. Redert, 'A realtime hardware system for stereoscopic video-conferencing with viewpoint adaptation,' Signal Processing: Image Commun., vol. 14, pp. 147-171, 1998 https://doi.org/10.1016/S0923-5965(98)00034-4
  5. Jin Woo Bae, Hyok Song and Ji Sang Yoo, 'An object based multi-viewpoint image synthesis using depth camera', ITC-CSCC 2004, Sendai, Japen, July. 5-8, 2004
  6. C. Wang and M. S. Brandstein 'A Hubrid Real-Time Face Tracking System', Proc. Acoustics, Speech, and Signal Processing Volume 6, 1998
  7. G. D. Hager and P. N. Belhumeur, 'Realtime tracking of image regions with changes in geometry and illumination,' Proc. Computer Vision and Pattern Recognition, pp.403-410, 1996
  8. S. J. Mckenna and S. Gong, 'Tracking Faces',Proc. Inernational conference on Face and Gesture Recongnition. pp.271-276 1996
  9. R. J. Qian, M. I. Sezan, K, E. Matthews, 'A robust Real-time Face Tracking Algorithm', Proc International Conference on Image Processing, Vol. 1, page(S):131-135, 1998
  10. Jei Yang, Alex Waibel, 'A real-time Face Tracker', Proceeding of WACV, pp142-147, 1996
  11. J. Serra and P. Soille(eds.), Mathematical Morphology Its Applications to Image Processing, pp. 69-76, Kluwer Academic Publishers in the Netherlands, 1994
  12. Rao, R.R.; Mersereau, R.M.;' On merging hidden markov models with deformable templates' Image Processing, 1995. Proceedings., International Conference on , Volume: 3 , 23-26 Oct. 1995 Pages:556 - 559 vol.3