Proceedings of the Korea Information Processing Society Conference (한국정보처리학회:학술대회논문집)
- 2023.11a
- /
- Pages.918-919
- /
- 2023
- /
- 2005-0011(pISSN)
- /
- 2671-7298(eISSN)
DOI QR Code
Research on apply to Knowledge Distillation for Crowd Counting Model Lightweight
Crowd Counting 경량화를 위한 Knowledge Distillation 적용 연구
- Yeon-Joo Hong (Dept. of Computer Science and Engineering, Dongguk University) ;
- Hye-Ryung Jeon (Dept. of Statistics and Data Science, Yonsei University) ;
- Yu-Yeon Kim (Dept. of Computer Science and Engineering, Dongguk University) ;
- Hyun-Woo Kang (Dept. of Computer Science and Engineering, Dongguk University) ;
- Min-Gyun Park (Dept. of Computer Science and Engineering, Dongguk University) ;
- Kyung-June Lee (Dept. of Information Management and Security, the Cyber University of Korea)
- 홍연주 (동국대학교 컴퓨터공학전공) ;
- 전혜령 (연세대학교 응용통계학과) ;
- 김유연 (동국대학교 컴퓨터공학전공) ;
- 강현우 (동국대학교 컴퓨터공학전공) ;
- 박민균 (동국대학교 컴퓨터공학전공) ;
- 이경준 (고려사이버대학교 정보관리보안학과)
- Published : 2023.11.02
Abstract
딥러닝 기술이 발전함에 따라 모델의 복잡성 역시 증가하고 있다. 본 연구에서는 모델 경량화를 위해 Knowledge Distillation 기법을 Crowd Counting Model에 적용했다. M-SFANet을 Teacher 모델로, 파라미터수가 적은 MCNN 모델을 Student 모델로 채택해 Knowledge Distillation을 적용한 결과, 기존의 MCNN 모델보다 성능을 향상했다. 이는 정확도와 메모리 효율성 측면에서 많은 개선을 이루어 컴퓨팅 리소스가 부족한 기기에서도 본 모델을 실행할 수 있어 많은 활용이 가능할 것이다.
Keywords