Annual Conference on Human and Language Technology (한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리))
- 2023.10a
- /
- Pages.14-18
- /
- 2023
- /
- 2005-3053(pISSN)
A Study on Korean Pause Prediction based Large Language Model
대규모 언어 모델 기반 한국어 휴지 예측 연구
- Jeongho Na (Jeonbuk National University) ;
- Joung Lee (Jeonbuk National University) ;
- Seung-Hoon Na (Jeonbuk National University) ;
- Jeongbeom Jeong (NCSOFT Corp.) ;
- Maengsik Choi (NCSOFT Corp.) ;
- Chunghee Lee (NCSOFT Corp.)
- Published : 2023.10.12
Abstract
본 연구는 한국어 음성-텍스트 데이터에서 보편적으로 나타난 휴지의 실현 양상을 분석하고, 이를 토대로 데이터셋을 선별해 보편적이고 규격화된 한국어 휴지 예측을 위한 모델을 제안하였다. 이를 위해 전문적인 발성 훈련을 받은 성우 등의 발화가 녹음된 음성-텍스트 데이터셋을 수집하고 MFA와 같은 음소 정렬기를 사용해 휴지를 라벨링하는 등의 전처리를 하고, 다양한 화자의 발화에서 공통적으로 나타난 휴지를 선별해 학습데이터셋을 구축하였다. 구축된 데이터셋을 바탕으로 LLM 중 하나인 KULLM 모델을 미세 조정하고 제안한 모델의 휴지 예측 성능을 평가하였다.