DOI QR코드

DOI QR Code

Completion of Occluded Objects in a Video Sequence using Spatio-Temporal Matching

시공간 정합을 이용한 비디오 시퀀스에서의 가려진 객체의 복원

  • 허미경 (경북대학교 컴퓨터공학과) ;
  • 문재경 (경북대학교 전자전기컴퓨터학부 BK21) ;
  • 박순용 (경북대학교 컴퓨터공학과)
  • Published : 2007.10.31

Abstract

Video Completion refers to a computer vision technique which restores damaged images by filling missing pixels with suitable color in a video sequence. We propose a new video completion technique to fill in image holes which are caused by removing an unnecessary object in a video sequence, where two objects cross each other in the presence of camera motion. We remove the closer object from a camera which results in image holes. Then these holes are filled by color information of some others frames. First of all, spatio-temporal volumes of occluding and occluded objects are created according to the centroid of the objects. Secondly, a temporal search technique by voxel matching separates and removes the occluding object. Finally. these holes are filled by using spatial search technique. Seams on the boundary of completed pixels we removed by a simple blending technique. Experimental results using real video sequences show that the proposed technique produces new completed videos.

비디오 복원(video completion) 기술은 비디오 영상에서 색상 정보가 없는 픽셀에 적절한 색을 채워 영상을 복원하는 기술이다. 본 논문에서는 움직이는 물체가 서로 교차하는 비디오 영상에서 원하지 않는 물체를 제거하고 이때 발생한 영상 홀(image hole)을 채우는 비디오 복원 기술을 제안한다. 움직이는 카메라에서 획득한 비디오 영상에서 이동하는 두 물체 중 카메라와 가까운 물체를 제거함으로써 가려진 이동물체와 배경에 홀이 발생하게 되고, 이 홀온 다른 프레임들의 정보를 이용하여 채움으로써 새로운 비디오를 생성한다. 입력 영상의 모든 프레임에 대해 각 물체의 중심을 추정하여 물체의 중심을 기준으로 시-공간 볼륨(spatio-temporal volume)을 생성하고, 복셀 매칭(voxel matching)을 통한 시간적 탐색(temporal search)을 수행한 후 두 물체를 분리한다. 가리는 물체 영역으로 판단된 부분을 삭제하고 공간적 탐색(spatial search) 방법을 이용하여 홀을 채워 가려짐이 있는 이동 물체 및 배경을 복원한다. 복원된 영상에서 블렌딩을 통해 솔기(seam)를 제거한다. 비디오카메라로 획득한 두 실영상을 이용하여 실험을 수행한 결과 가려진 물체를 복원한 새로운 비디오 영상을 생성할 수 있었다.

Keywords

References

  1. jiaya Jia, Tai-Pang Wu, Yu-Wing Tai, Chi-Keung Tang, 'Video Repairing: Inference of Foreground and Background under Severe Occlusion,' IEEE Conference on Computer Vision and Pattern Recognition, Vol. 1, pp. 364-371, 2004 https://doi.org/10.1109/CVPR.2004.1315055
  2. Yun-Tao Jia, Shi-Min Hu, Ralph R. Martin, 'Video completion using tracking and fragment merging,' The Visual Computer, Vol. 21, No. 8-10, pp. 601-610, 2005 https://doi.org/10.1007/s00371-005-0313-3
  3. K. A. Patwardhan, G. Sapiro, and M. Bertalmio, 'Video inpainting of occluding and occluded objects,' Proceedings of IEEE. International Conference on Image Processing Genoa, Italy, 2005 https://doi.org/10.1109/ICIP.2005.1529993
  4. Takaaki Shiratori, Yasuyuki Matsushita, Sing Bing Kang, and Xiaoou Tang, 'Video completion by motion field transfer,' IEEE Computer Vision and Pattern Recognition, Vol 1, pp. 411-418, 2006
  5. Y. Wexler, E. Shechtman, M. Irani. 'Space-Time Video Completion,' IEEE Conference on Computer Vision and Pattern Recognition, Vol. 1, pp. 120-127, 2004 https://doi.org/10.1109/CVPR.2004.1315022
  6. Y. Zhang, J. Xiao, M. Shah, 'Motion Layer Based Object Removal in Videos,' IEEE Workshop on Application on Computer Vision, Jan 5-6, Breckenridge,Colorado, 2005 https://doi.org/10.1109/ACVMOT.2005.75
  7. A. Schodl, R. Szeliski, D. Salesin, and I. Essa, 'Video Textures,' Proc. SIGGRAPH, pp. 489-498, 2000 https://doi.org/10.1145/344779.345012
  8. M. Bertalmio, G. Sapiro, C. Ballester, and V. Caselles, 'Image Inpainting,' Proc. SIGGRAPH, pp. 417-424, 2000 https://doi.org/10.1145/344779.344972
  9. Soon-Yong Park,'Moving Object Removal Based on Global Feature Registration,' ACIVS 2006, LNCS 4179, pp.275-286, 2006 https://doi.org/10.1007/11864349_25
  10. Soon-Yong Park, Chang-Joon Park, and Inho Lee,'Moving Object Removal and Background Completion in a Video Sequence,' IVCNZ2005, 2005 https://doi.org/10.1109/ISTEL.2008.4651368
  11. R. Szeliski, 'Video Mosaics for Virtual Environments,' IEEE Computer Graphics and Applications, pp. 22-30, 1996 https://doi.org/10.1109/38.486677
  12. J. Shi and C. Tomasi.'Good features to track,' In Proc. IEEE Conf. on Computer Vision and Pattern Recognition, 1994
  13. Richard Hartley and Andrew Zisserman, 'Multiple View Geometry in Computer Vision', 2nd Ed., Cambridge University Press, 2004