Image Retrieval Using Spatial Color Correlation and Texture Characteristics Based on Local Fourier Transform

색상의 공간적인 상관관계와 국부적인 푸리에 변환에 기반한 질감 특성을 이용한 영상 검색

  • Park, Ki-Tae (Dept. of Computer Science and Engineering, Hanyang University) ;
  • Moon, Young-Shik (Dept. of Computer Science and Engineering, Hanyang University)
  • 박기태 (한양대학교 컴퓨터공학과) ;
  • 문영식 (한양대학교 컴퓨터공학과)
  • Published : 2007.01.25

Abstract

In this paper, we propose a technique for retrieving images using spatial color correlation and texture characteristics based on local fourier transform. In order to retrieve images, two new descriptors are proposed. One is a color descriptor which represents spatial color correlation. The other is a descriptor combining the proposed color descriptor with texture descriptor. Since most of existing color descriptors including color correlogram which represent spatial color correlation considered just color distribution between neighborhood pixels, the structural information of neighborhood pixels is not considered. Therefore, a novel color descriptor which simultaneously represents spatial color distribution and structural information is proposed. The proposed color descriptor represents color distribution of Min-Max color pairs calculating color distance between center pixel and neighborhood pixels in a block with 3x3 size. Also, the structural information which indicates directional difference between minimum color and maximum color is simultaneously considered. Then new color descriptor(min-max color correlation descriptor, MMCCD) containing mean and variance values of each directional difference is generated. While the proposed color descriptor includes by far smaller feature vector over color correlogram, the proposed color descriptor improves 2.5 % ${\sim}$ 13.21% precision rate, compared with color correlogram. In addition, we propose a another descriptor which combines the proposed color descriptor and texture characteristics based on local fourier transform. The combined method reduces size of feature vector as well as shows improved results over existing methods.

본 논문에서는 색상의 공간적인 상관관계와 질감 모멘트를 이용한 내용기반 영상 검색 기법을 제안한다. 이를 위해, 색상의 공간적인 상관관계를 표현하는 새로운 색상 기술자를 제안하고, 또한 제안된 색상 기술자와 국부적인 푸리에 변환에 기반한 질감 특성을 결합한 영상 검색 방법을 제안한다. 일반적으로 색상의 공간적인 상관관계를 표현하기 위해서 컬러 코렐로그램(color correlogram)이 사용되고 있다. 하지만 컬러 코렐로그램은 중심화소에 따른 이웃한 화소들의 색상 분포를 확률적으로 잘 나타내는 장점이 있지만, 색상의 구조적인 정보를 표현하지 못하는 단점이 있다. 그러므로 본 논문에서는 색상의 분포와 구조적인 정보를 표시할 수 있는 새로운 색상 기술자를 제안한다. 제안하는 새로운 색상 기술자는 중심 화소와 이웃 화소들과의 색상 거리를 계산한 후 최소 거리의 색상과 최대 거리의 색상을 추출한 후 최소-최대 색상 쌍이 이루는 각에 대한 각각의 빈도수를 계산한다. 그런 다음, 각각의 이루는 각에 대해서 최소 거리 색상에 대한 최대 거리 색상들의 평균값과 분산값으로 구성된 새로운 기술자(min-max color correlation descriptor, MMCCD)를 생성한다. 제안한 색상 기술자를 이용하여 검색한 결과는 기존 방법들과 비교했을 경우 정확률에서 최소 5.2%에서 최대 13.21% 향상된 검색 결과를 확인할 수 있었다. 또한, 국부적인 푸리에 변환에 기반한 질감 기술자를 새로운 색상 기술자와 결합하여 특징 벡터의 크기를 절반으로 줄이면서도 새로운 색상 기술자만을 사용할 경우와 비교하여 향상된 검색 결과를 확인할 수 있었다.

Keywords

References

  1. A. W. M. Smeulders, M. Worring, S. Santini, A. Gupta, and R. Jain, 'Content-based Image Retrieval at The End of The Early Years,' IEEE Trans. on PAMI, vol. 22, no. 12, pp. 1349-1380, 2000 https://doi.org/10.1109/34.895972
  2. M. J. Swain and D. H. Ballard, 'Color Indexing,' International Journal of Computer Vision, vol. 7, no. 1, pp. 11-32, Jan. 1991 https://doi.org/10.1007/BF00130487
  3. A. Yoshitaka and T. Ichikawa, 'A Survey on Content-based Retrieval for Multimedia Databases,' IEEE Trans. on Knowledge and Data Eng., vol. 11, no. 1, pp. 81-93, 1999 https://doi.org/10.1109/69.755617
  4. Y. Rui and T. S. Huang, 'Image Retrieval: Current Techniques, Promising Directions, and Open Issues,' Journal of Visual Communication and Image Representation, vol. 10, no. 4, pp. 39-62, 1999 https://doi.org/10.1006/jvci.1999.0413
  5. ISO/IEC 15938-3, 'Multimedia Content Descriptor Interface-Part 3: Visual,' ISO/IEC/JTC1/SC29/ WG11, Doc. 4358, 2001
  6. G. Qiu, 'Color Image Indexing Using BTC,' IEEE Trans. on Image Processing, vol. 12, no. 1, pp. 93-101, Jan. 2003 https://doi.org/10.1109/TIP.2002.807356
  7. H. Nezamabadi-pour and E. Kabir, 'Image Retrieval Using Histograms of Uni-color and Bi-color Blocks and Directional Changes in Intensity Gradient,' Pattern Recognition Letters, vol. 25, no 14, pp. 1547-1557, Oct. 2004 https://doi.org/10.1016/j.patrec.2004.05.019
  8. T. S. Kim, S. J. Kim, and K. I. Lee, 'Image Retreival Based on Co-occurrence Matrix Using Block Classification Characteristics,' PCM2005, Part 1, LNCS 3767, pp. 946-956, 2005 https://doi.org/10.1007/11581772_83
  9. J. Huang, S. R. Kumar, M. Mitra, W. J. Zhu, and R. Zabih, 'Image Indexing Using Color Correlogram,' in Proc. on CVPR97, pp. 762-768, June 1997
  10. Q. Iqbal and J. K. Aggorwal, 'Combining Sturcture, Color, and Texture for Image Retrieval: A Performace Evaluation,' in Proc. on ICPR2002, pp. 438-443, 2002 https://doi.org/10.1109/ICPR.2002.1048333
  11. D. Andloutsos, K. N. Plataniotis, and A. N. Venetsanopoulos, 'A Vector Angular Distance Measure for Indexing and Retrieval of Color,' in Proc. Storage & Retrieval for Image and Video Databases VII, SPIE-3656, pp. 604-613, 1999 https://doi.org/10.1117/12.333881
  12. K. T. Park and Y. S. Moon, 'Object-based Image Retrieval Using Dominant Color Pairs between Adjacent Regions,' ICCSA 2006, LNCS 3984, pp. 404-411, 2006 https://doi.org/10.1007/11751649_44
  13. H. Yu, M. L, H. J. Zhang, and J. Feng, 'Color Texture Moments for Content Based Image Retrieval,' in Proc. on ICIP2002, vol. 3, pp. 929-932, June 2002 https://doi.org/10.1109/ICIP.2002.1039125
  14. J. Z. Wang, J. Li, and G. Wiederhold, 'SIMPLIcity: Semantics Integrated Matching for Picture Libraries,' IEEE Trans. on PAMI, vol. 23, no. 9, pp. 947-963, 2001 https://doi.org/10.1109/34.955109