Acknowledgement
이 논문은 2023년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임 (No.2021-0-02068, 인공지능 혁신 허브 연구 개발)
Annual Conference on Human and Language Technology (한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리))
- 2023.10a
- /
- Pages.295-300
- /
- 2023
- /
- 2005-3053(pISSN)
Conversation Dataset Generation and Improve Search Performance via Large Language Model
Large Language Model을 통한 대화 데이터셋 자동 생성 및 검색 성능 향상
- Hyeongjun Choi (Jeonbuk National Univercity) ;
- Beomseok Hong (LG Uplus) ;
- Wonseok Choi (LG Uplus) ;
- Youngsub Han (LG Uplus) ;
- Byoung-Ki Jeon (LG Uplus) ;
- Seung-Hoon Na (Jeonbuk National Univercity)
- Published : 2023.10.12
Abstract
대화 데이터와 같은 데이터는 사람이 수작업으로 작성해야 하기 때문에 데이터셋 구축에 시간과 비용이 크게 발생한다. 현재 대두되고 있는 Large Language Model은 이러한 대화 생성에서 보다 자연스러운 대화 생성이 가능하다는 이점이 존재한다. 이번 연구에서는 LLM을 통해 사람이 만든 적은 양의 데이터셋을 Fine-tuning 하여 위키백과 문서로부터 데이터셋을 만들어내고, 이를 통해 문서 검색 모델의 성능을 향상시켰다. 그 결과 학습 데이터와 같은 문서집합에서 MRR 3.7%p, 위키백과 전체에서 MRR 4.5%p의 성능 향상을 확인했다.