A Image Retrieval Model Based on Weighted Visual Features Determined by Relevance Feedback

적합성 피드백을 통해 결정된 가중치를 갖는 시각적 특성에 기반을 둔 이미지 검색 모델

  • 송지영 (연세대학교 컴퓨터과학과) ;
  • 김우철 (연세대학교 컴퓨터과학과) ;
  • 김승우 (연세대학교 컴퓨터과학과) ;
  • 박상현 (연세대학교 컴퓨터과학과)
  • Published : 2007.06.15

Abstract

Increasing amount of digital images requires more accurate and faster way of image retrieval. So far, image retrieval method includes content-based retrieval and keyword based retrieval, the former utilizing visual features such as color and brightness and the latter utilizing keywords which describe the image. However, the effectiveness of these methods as to providing the exact images the user wanted has been under question. Hence, many researchers have been working on relevance feedback, a process in which responses from the user are given as a feedback during the retrieval session in order to define user’s need and provide improved result. Yet, the methods which have employed relevance feedback also have drawbacks since several feedbacks are necessary to have appropriate result and the feedback information can not be reused. In this paper, a novel retrieval model has been proposed which annotates an image with a keyword and modifies the confidence level of the keyword in response to the user’s feedback. In the proposed model, not only the images which have received positive feedback but also the other images with the visual features similar to the features used to distinguish the positive image are subjected to confidence modification. This enables modifying large amount of images with only a few feedbacks ultimately leading to faster and more accurate retrieval result. An experiment has been performed to verify the effectiveness of the proposed model and the result has demonstrated rapid increase in recall and precision while receiving the same number of feedbacks.

디지털 이미지의 양이 증가함에 따라 원하는 이미지를 정확하고 빠르게 찾을 수 있는 방법의 필요성이 증가하고 있다. 이미지 검색 방법으로는 이미지의 색상이나 명암과 같은 시각적 특성을 검색 조건으로 이용하는 내용 기반 검색과 이미지를 설명하는 키워드를 검색 조건으로 이용하는 키워드 기반 검색이 있다. 하지만 이러한 방법만으로는 사용자가 원하는 이미지를 정확하게 찾기 힘들다는 문제점이 제기되어 왔다. 따라서 최근에는 검색 도중 사용자의 응답을 받아 사용자의 요구를 파악함으로써 향상된 검색 결과를 제공하는 적합성 피드백에 대한 연구가 많이 진행되고 있다. 하지만 적합성 피드백을 이용하는 방법들도 원하는 결과를 얻기 위해서는 여러 번의 피드백을 필요로 하고 질의 수행이 완료된 후에는 얻어진 피드백 정보를 재사용하지 못한다는 단점이 있다. 따라서 본 논문에서는 이미지에 키워드를 연결한 후 사용자의 피드백 정보를 반영하여 키워드의 신뢰도를 조절함으로써 키워드 기반 이미지 검색의 정확도를 높일 수 있는 모델을 제안한다. 제안된 모델에서는 사용자로부터 피드백을 받은 이미지뿐만 아니라 긍정적 피드백을 받은 이미지들이 공통적으로 가지는 시각적 특성과 유사한 시각적 특성을 가지는 다른 이미지들까지도 키워드의 신뢰도를 조정함으로써 좀 더 빠른 시간 내에 검색 결과의 정확도를 높이도록 한다. 제안한 방법의 정확성을 검증하기 위한 실험 결과에 따르면, 같은 횟수의 피드백을 받으면서도 재현율과 정확률은 빠른 증가를 보이는 것으로 나타났다.

Keywords

References

  1. S. Deb and Y. Zhang, 'An Overview of CBIR Techniques,' In Proc. the 18th International Conference on Advanced Information Networking and Applications, 2004
  2. J. Zachar, S. S. Iyengar, J. Barhen, 'Content Based Image Retrieval and Information Theory: A General Approach,' Journal of the American Society for Information Science and Technology, 2001 https://doi.org/10.1002/asi.1138
  3. Y. Rui, T. S. Huang, M. Ortega, and S. Mehrotra, 'Relevance Feedback: A Power Tool for Interactive Content-Based Image Retrieval,' IEEE Transition Circuits System Video Technology, Vol. 8, pp. 644-655, 1998 https://doi.org/10.1109/76.718510
  4. X. Zhu and T. S. Huang, 'Relevance Feedback in Image Retrieval: A Comprehensive Review,' Multimedia Systems, Vol. 8(6), pp. 536-544, 2003 https://doi.org/10.1007/s00530-002-0070-3
  5. O. Marques and N. Barman, 'Semi-Automatic Semantic Annotation of Images Using Machine Learning Techniques,' In Proc. International Semantic Web Conference, 2003
  6. Y. Lu, C. Hu, X. Zhu, H. J. Zhang, and Q. Yang, 'A Unified Framework for Semantics and Feature Based Relevance Feedback in Image Retrieval Systems,' In Proc. ACM Multimedia, 2000 https://doi.org/10.1145/354384.354403
  7. W. Liu, S. Dumais, Y. Sun, H. Zhang, M. Czerwinski, and B. Field, 'Semi-Automatic Image Annotation,' In Proc. Human Computer Interaction, pp. 326-333, 2001
  8. M. Flinker, H. Samhey, W. Niblack et al., 'Query by Image and Video Content: The QBIC System,' IEEE Computer, Vol. 28, pp. 23-32, 1995 https://doi.org/10.1109/2.410146
  9. J. R. Smith and S. F. Chang, 'VisualSeek: A Fully Automated Content-Based Image Query System,' In Proc. ACM International Conference on Multimedia, pp. 87-93, 1996 https://doi.org/10.1145/244130.244151
  10. J. R. Bach, C. Fuller, A. Gupta, A. Hampapur, B. Horowitz, R. Humphrey, R. Jain, and C. Shu, 'The Virage Image Search Engine: An Open Framework for Image Management,' In Proc. Storage and Retrieval for Still Image and Video Databases IV, SPIE, 1996 https://doi.org/10.1117/12.234785
  11. P. J. Cheng and L. F. Chien, 'Effective Image Annotation for Search Using Multi-Level Semantics,' In Proc. International Conference of Asian Digital Libraries, 2003
  12. J. Jeon, V. Lavrenko, and R. Manmatha, 'Automatic Image Annotation and Retrieval Using Cross-Media Relevance Models,' In Proc. the 26th Annual International ACM SIGIR Conference, 2003 https://doi.org/10.1145/860435.860459
  13. H. Feng and T. Chua, 'A Learning Based Approach for Annotating Large Online Image Collection,' In Proc. 10th International Multimedia Modeling Conference, 2004 https://doi.org/10.1109/MULMM.2004.1264993
  14. L. Fei-Fei, R. Fergus and P. Perona,. 'Learning generative visual modelsfrom few training examples: an incremental Bayesian approach tested on 101 object categories,' IEEE. CVPR 2004, Workshop on Generative-ModelBased Vision, 2004
  15. MPEG-7 visual part of the eXperimantation Model(version 9.0) January 2001, ISO/IEC JTCI/SC29/WG11 N3914