Proceedings of the Korean Society of Broadcast Engineers Conference (한국방송∙미디어공학회:학술대회논문집)

The Korean Institute of Broadcast and Media Engineers (한국방송∙미디어공학회)
권호 표지

Performance analysis of Object detection using Self-Knowledge distillation method

자가 지식 증류 기법을 적용한 객체 검출 기법의 성능 분석

  • 김동준 (인하대학교 전기컴퓨터공학과) ;
  • 이승현 (인하대학교 전기컴퓨터공학과) ;
  • 송병철 (인하대학교 전기컴퓨터공학과)
  • Published : 2022.11.18
Download PDF
⟨ Previous Next ⟩

Abstract

경량화 기법 중 하나인 Knowledge distillation 은 최근 object detection task 에 적용되고 있다. Knowledge distillation 은 3 가지 범주로 나뉘는데 그들 중에서 Self-Knowledge distillation 은 기존의 Knowledge distillation 에서의 pre-trained teacher 에 대한 의존성 문제를 완화시켜준다. Self-Knowledge distillation 또한 object detection task 에 적용되어 training cost 를 줄이고 고전적인 teacher-based methods 보다 좋은 성능을 성취했다.

Keywords

Acknowledgement

This work was supported by IITP grants funded by the Korea government (MSIT) (No. 2021-0-02068, AI Innovation Hub and RS-2022-00155915, Artificial Intelligence Convergence Research Center (Inha University)), and was supported by the NRF grant funded by the Korea government (MSIT) (No. 2022R1A2C2010095 and No. 2022R1A4A1033549).