Acknowledgement
이 논문은 2020년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임 (No.2018-0-00440, 위험 상황 초기 인지를 위한 ICT 기반의 범죄 위험도 예측 및 대응 기술 개발) 이 논문은 한국전자통신연구원에서 공개한 한국어 언어모델(KorBERT)를 사용함(No.2013-2-00131, 휴먼 지식증강 서비스를 위한 지능진화형 WiseQA 플랫폼 기술 개발)
Proceedings of the Korea Information Processing Society Conference (한국정보처리학회:학술대회논문집)
- 2020.11a
- /
- Pages.810-813
- /
- 2020
- /
- 2005-0011(pISSN)
- /
- 2671-7298(eISSN)
DOI QR Code
Bert-based Classification Model Improvement through Minority Class Data Augmentation
소수 클래스 데이터 증강을 통한 BERT 기반의 유형 분류 모델 성능 개선
- Kim, Jeong-Woo (Dept. of Computer Science Engineering, Chungnam National University) ;
- Jang, Kwangho (Police Science Institute) ;
- Lee, Yong Tae (ETRI) ;
- Park, Won-joo (ETRI)
- Published : 2020.11.05
Abstract
자연어처리 분야에서 딥러닝 기반의 분류 모델은 획기적인 성능을 보여주고 있다. 특히 2018 년 발표된 구글의 BERT 는 다양한 태스크에서 높은 성능을 보여준다. 본 논문에서는 이러한 BERT 가 클래스 불균형이 심한 데이터에 대해 어느 정도 성능을 보여주는지 확인하고 이를 해결하는 방법으로 EDA 를 선택해 성능을 개선하고자 한다. BERT 에 알맞게 적용하기 위해 다양한 방법으로 EDA 를 구현했고 이에 대한 성능을 평가하였다.
Keywords