Compensation Method for Occluded-region of Arbitrary-view Image Synthesized from Multi-view Video

다시점 동영상에서 임의시점영상 생성을 위한 가려진 영역 보상기법

  • 박세환 (광운대학교 전자공학과 디지털 미디어 연구실) ;
  • 송혁 (전자부품연구원) ;
  • 장은영 (한국전자통신연구원) ;
  • 허남호 (한국전자통신연구원) ;
  • 김진웅 (한국전자통신연구원) ;
  • 김진수 (광운대학교 전자공학과 유비쿼터스 네트워크 연구실) ;
  • 이상훈 (광운대학교 교양학부 유비쿼터스 네트워크연구실) ;
  • 유지상 (광운대학교 전자공학과 디지털 미디어 연구실)
  • Published : 2008.12.31

Abstract

In this paper, we propose a method for an arbitrary-view image generation in multi-view video and methods for pre- and post-processing to compensate unattended regions in the generated image. To generate an arbitrary-view image, camera geometry is used. Three dimensional coordinates of image pixels can be obtained by using depth information of multi-view video and parameter information of multi-view cameras, and by replacing three dimensional coordinates on a two dimensional image plane of other view, arbitrary-view image can be reconstructed. However, the generated arbitrary-view image contains many unattended regions. In this paper, we also proposed a method for compensating these regions considering temporal redundancy and spatial direction of an image and an error of acquired multi-view image and depth information. Test results show that we could obtain a reliably synthesized view-image with objective measurement of PSNR more than 30dB and subjective estimation of DSCQS(double stimulus continuous quality scale method) more than 3.5 point.

본 논문에서는 다시점 동영상에서 임의시점영상을 생성하기 위한 기법과 생성된 영상 내에 존재하는 미처리 영역을 보상하기 위한 전처리 및 후처리 기법을 제안한다. 임의시점영상을 생성하기 위한 방법으로는 카메라의 기하학적 특성을 이용하는 방법을 사용한다. 다시점 영상의 깊이정보와 카메라의 파라미터 정보를 이용하여 텍스쳐 영상 내 화소들의 실제 3차원 좌표를 얻어낼 수 있고, 산출된 3차원 좌표를 다른 시점 카메라의 2차원 영상면으로 재 배치함으로써 원하는 시점의 영상을 생성할 수 있다. 하지만 생성된 영상 내에는 다수의 미처리 영역이 존재한다. 본 논문에서는 영상의 시간적인 중복성, 공간적인 방향성, 획득된 다시점 영상 또는 깊이정보의 오차의 특징을 고려하여 미처리 영역을 보상하는 방법을 제안한다. 제안한 방법을 적용한 결과 30dB 이상의 PSNR과 3.5이상의 DSCQS(double stimulus continuous quality scale method) 점수를 얻음으로써 객관적, 주관적 평가에서 모두 신뢰도가 높은 임의시점 영상을 생성할 수 있었다.

Keywords

References

  1. "Description of Exploration Experiments in 3D AV", ISO/IEC JTC1/SC29/WG11 N4929, July 2002.
  2. "Improvement of Depth Map Estimation and Vi ew Synthesis", ISO/IEC JTC1/SC29/WG11 M1 5090, January 2008.
  3. A. Mancini, "Disparity estimation and intermedi ate view reconstruction for noble applications in stereoscopic video", Masters thesis, McGill University, 1889
  4. K. H. Bae, J. J Kim, E. S. Kim, "New disparity estimation scheme based on adaptive matching window for intermediate view reconstruction", Optical Engineering, Vol.42, No.6, pp.1778-17 86, 2003. https://doi.org/10.1117/1.1571828
  5. Richard Hartley and Andrew Zisserman, "Multi ple view Geometry", Cambridge University, pp. 152-247, Second Edition 2003.
  6. 엄기문, 안충현, 이수인, 김강연, 이관행, "깊이 정보 카메라 및 다시점 영상으로부터의 다중깊이 맵 융합기법", 방송공학회논문지 제 9권, 제 3호, 2004
  7. S. Ince, "Correspondence estimation and interm ediate view reconstruction", Tech. Rep. 2004-0 1, Boston University, Dept. of Electr. and Eng., Jap. 2004
  8. Liang Zhang, Demin Wang, and Andre Vincent, "Adaptive Reconstruction of Intermediate View s from Stereoscopic Images", IEEE Transaction on circuits and Systems for Video Tech., Vol.16, No.1, 2006
  9. 배진우, "다시점 동영상 부호화 및 후처리 기법에 관한 연구", 광운대학교 박사학위 논문, 2006