New Prefiltering Methods based on a Histogram Matching to Compensate Luminance and Chrominance Mismatch for Multi-view Video

다시점 비디오의 휘도 및 색차 성분 불일치 보상을 위한 히스토그램 매칭 기반의 전처리 기법

  • Lee, Dong-Seok (Department of Electronic Engineering, Kwangwoon University) ;
  • Yoo, Ji-Sang (Department of Electronic Engineering, Kwangwoon University)
  • Received : 2010.05.13
  • Published : 2010.11.25

Abstract

In multi-view video, illumination disharmony between neighboring views can occur on account of different location of each camera and imperfect camera calibration, and so on. Such discrepancy can be the cause of the performance decrease of multi-view video coding by mismatch of inter-view prediction which refer to the pictures obtained from the neighboring views at the same time. In this paper, we propose an efficient histogram-based prefiltering algorithm to compensate mismatches between the luminance and chrominance components in multi-view video for improving its coding efficiency. To compensate illumination variation efficiently, all camera frames of a multi-view sequence are adjusted to a predefined reference through the histogram matching. A Cosited filter that is used for chroma subsampling in many video encoding schemes is applied to each color component prior to histogram matching to improve its performance. The histogram matching is carried out in the RGB color space after color space converting from YCbCr color space. The effective color conversion skill that has respect to direction of edge and range of pixel value in an image is employed in the process. Experimental results show that the compression ratio for the proposed algorithm is improved comparing with other methods.

다시점 비디오는 카메라간의 다른 위치와 불완전한 카메라 보정(calibration)으로 인접한 시점의 영상 내에 존재하는 동일물체 간에 색상 차이가 발생할 수 있다. 이러한 색상 불일치(color mismatch)는 시점 간 움직임 예측(inter-view prediction) 수행 시, 오정합을 발생시켜 다시점 비디오 부호화(Multi-view Video Coding : MVC) 성능을 저하시키는 원인이 된다. 본 논문에서는 이웃하는 영상 간에 존재하는 휘도 및 색차 성분 불일치를 보상하여 다시점 비디오 부호화의 압축률을 향상시키는 전처리 기법을 제안한다. 제안된 기법에서는 모든 시점의 영상을 히스토그램 매칭 기법에 의해 정해진 참조 시점 영상의 색상을 기준으로 보정된다. 또한 히스토그램 매칭 수행 전에 YCbCr 색상공간 변경 시에 색차 성분의 대표 값 추출(chrominance subsampling)에 사용되는 Cosited filter를 영상의 각 색상성분에 적용하여 성능을 더욱 높일 수 있다. 히스토그램 매칭은 YCbCr 색상공간에서 RGB 색상공간으로 변환하여 각 색상성분에 적용한다. 이 과정에서 영상에 존재하는 에지의 방향성과 화소 값의 존재 범위를 고려한 효과적인 색상 변환 기법이 사용된다. 실험을 통해 제안하는 전처리 기법이 다른 기법들에 비해 향상된 부호화 효율을 가지는 것을 확인하였다.

Keywords

References

  1. ITU-T RECOMMENDATION H.264 "Advanced Video Coding for Generic Audiovisual Services". May 2003.
  2. C. Doutre, P. Nasiopoulos, "A Colour Correction Preprocessing Method for Multiview Video Coding," Department of Electronic and Computer Engineering, University of British Columbia.
  3. 이동석, 유지환, 유지상, "히스토그램 매칭을 이용한 다시점 비디오의 휘도와 색차 성분 보상 기법", 한국방송공학회 학술대회, Nov. 2009, pp. 191-194.
  4. 이동석, 서영호, 김동욱, 유지상, "다시점 비디오의 조명 보상을 위한 에지 방향성을 고려한 새로운 전처리 기법", 한국방송공학회 학술대회, Jul. 2010.
  5. U. Fecker, M. Barkowsky, and A. Kaup, "Histogram-Based Prefiltering for Luminance and Chrominance Compensation of Multiview Video," IEEE Trans. ,vol. 18, no 9, Sep. 2008.
  6. U. Fecker, M. Barkowsky, and A. Kaup, "Time-constant histogram matching for colour compensation of multi-view video sequences," in Proc. 26th Picture Coding Symp. (PCS2007), Lisbon, Portugal, Nov.2007.
  7. P. Brox, I. Baturone, and S. Sanchez-Solano, "Interlaced to progressive scan conversion using a fuzzy edge-based line average algorithm," in Proc. IEEE Int. Workshop Intell. Signal Process., Faro, Portugal, Sep. 2005, pp. 10-15.
  8. Keith Jack, "Video Demystified 3rd edition", Harris, 2001.
  9. Y.-L. Lee, J.-H. Hur, Y.-K. Lee, K.-H. Han, S. Cho,N. Hur, J. Kim, J.-H. Kim, P.-L. Lai, A. Ortega, Y. Su, P. Yin, and C. Gomila, "CE11: illumination compensation," in Joint Video Team (JVT) of ISO/IEC MPEG &ITU-T VCEG, Document JVT-U052r2, Hangzhou, China, Oct. 2006.
  10. Y. Su, A. Vetro, and A. Smolic, "Common test conditions for multiview video coding," (2006) Doc. JVT-U211, [Online]. Available: http://ftp3.itu.ch/av-arch/jvt-site/