Articulated Human Body Tracking Using Belief Propagation with Disparity Map

신뢰 전파와 디스패리티 맵을 사용한 다관절체 사람 추적

  • Yoon, Kwang-Jin (Graduate School of Advanced Image Science, Multimedia, and Film, Chung-Ang University) ;
  • Kim, Tae-Yong (Graduate School of Advanced Image Science, Multimedia, and Film, Chung-Ang University)
  • 윤광진 (중앙대학교 첨단영상대학원) ;
  • 김태용 (중앙대학교 첨단영상대학원)
  • Received : 2011.09.30
  • Accepted : 2012.01.30
  • Published : 2012.05.25

Abstract

This paper suggests an efficient method which tracks articulated human body modeled with markov network using disparity map derived from stereo images. The conventional methods which only use color information to calculate likelihood for energy function tend to fail when background has same colors with objects or appearances of object are changed during the movement. In this paper, we present a method evaluating likelihood with both disparity information and color information to find human body parts. Since the human body part are cylinder projected to rectangles in 2D image plane, we use the properties of distribution of disparity of those rectangles that do not have discontinuous distribution. In addition to that we suggest a conditional-messages-update that is able to reduce unnecessary message update of belief propagation. Since the message update has comprised over 80% of the whole computation in belief propagation, the conditional-message-update yields 9~45% of improvements of computational time. Furthermore, we also propose an another speed up method called three dimensional dynamic models assumed the body motion is continuous. The experiment results show that the proposed method reduces the computational time as well as it increases tracking accuracy.

본 논문에서는 마르코프 네트워크로 모델링된 다관절체(Articulated body) 사람을 양안 영상(stereo image)을 통해 획득 되어진 디스패리티 맵(disparity map)을 이용해 효과적으로 추적하는 방법을 제안한다. 기존의 색상 정보만을 사용하여 에너지함수의 우도(likelihood)를 계산하는 방법은 조명 및 그림자의 영향과 배경 색상의 임의성 때문에 강건하지 못 하다. 본 논문에서는 색상 정보에 더불어 디스패리티 정보를 활용하여 우도를 계산하는 방법을 제안한다. 원통형 모양의 사람의 신체 요소(body part)는 2차원 영상으로 사영될 때 직사각형으로 사영되므로 이 직사각형의 디스패리티의 분포가 불연속 하지 않다는 특성을 이용한다. 또한 본 논문에서는 디스패리티 맵을 사용한 조건적 메시지 생성 방법을 제안해 신뢰 전파에서 불필요한 메시지 업데이트 수행을 줄이는 방법을 보여준다. 메시지 업데이트는 신뢰 전파 알고리즘의 전체 수행 시간에 80% 이상을 차지하므로, 조건적 메시지 생성 방법은 기존 대비 9~45%의 속도 향상을 보였다. 또한 사람의 연속적인 움직임 특성을 이용한 다이나믹 모델을 제안해 추적 속도를 향상하였다. 자세한 내용은 4장에 설명되어 있다. 실험 결과 제안하는 디스패리티 정보를 활용한 신뢰 전파를 사용해 다관절체를 추적하는 방법은 기존 대비 강건한 추적 결과와 함께 빠른 속도로 추적할 수 있었다.

Keywords

References

  1. D. A. Forsyth, O. Arikan, L. Ikemoto, J. O'Brien, D. Ramanan. "Computational Studies of Human Motion: Part 1, Tracking and Motion Synthesis" Foundations and Trends in Computer Graphics and Vision, Hanover, Massachusetts., 2006.
  2. Tony X. Han and Thomas S. Huang, "Articulated Body Tracking Using Dynamic Belief Propagation," IEEE International Workshop on Human-Computer Interaction, in conjunction with ICCV (ICCV-HCI 2005), pp. 26-35., 2005
  3. P. Felzenszwalb, D. Huttenlocher, "Pictorial Structures for Object Recognition", International Journal of Computer Vision, Vol. 61, No. 1, Jan 2005.
  4. Ramanan, D., Forsyth, D. A., Zisserman, A., "Tracking People by Learning their Appearance," IEEE Transaction on Pattern Analysis and Machine Intelligence, Vol. 29, pp. 65-81, Jan 2007.
  5. P. Felzenszwalb, D. Huttenlocher "Efficient Matching of Pictorial Structures" IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2000.
  6. J.S. Yedidia, W.T. Freeman, and Y. Weiss, "Understanding Belief Propagation and Its Generalizations," Proc. Int'l Joints Conf. Artificial Intelligence, Aug. 2001.
  7. Nebojsa Jojic, Matthew Turk, Thomas S. Huang, "Tracking Self-Occluding Articulated Objects in Dense Disparity Maps," International Conference on Computer Vision (ICCV), pp. 123-130., Korfu, Greece, Sep 1999,
  8. W. Freeman, E. Pasztor, and O. Carmichael, "Learning low-level vision," IJCV, vol. 40, pp. 25-47, 2000. https://doi.org/10.1023/A:1026501619075
  9. O. Bernier, P. Cheung-Mon-Chan, and A. Bouguet "Fast Nonparametric Belief Propagation for Real-Time Stereo Articulated Body Tracking", Computer Vision and Image Understanding, Vol. 113, no. 1, pp. 29-47, Jan 2009. https://doi.org/10.1016/j.cviu.2008.07.001
  10. YoungJoon Chai, JinYong Park, Kwang-Jin Yoon, and TaeYong Kim, "Multi Target Tracking Using Multiple Independent Particle Filters For Video Surveillance", IEEE Transaction on Consumer Electronics, Las vegas, US., 2010.
  11. Kwang-Jin Yoon and Tae-Yong Kim, "Articulated Body Tracking Using Belief Propagation with Disparity Map", ISCE, singapore, 2011
  12. Jones, M.J, Rehg, J.M, "Statistical color models with application to skin detection", Computer Vision and Pattern Recognition, 1999. IEEE Computer Society Conference on.