Annual Conference of KIPS (한국정보처리학회:학술대회논문집)
- 2019.10a
- /
- Pages.922-925
- /
- 2019
- /
- 2005-0011(pISSN)
- /
- 2671-7298(eISSN)
DOI QR Code
Machine Reading Comprehension based on Language Model with Knowledge Graph
대규모 지식그래프와 딥러닝 언어모델을 활용한 기계 독해 기술
- Kim, Seonghyun (AI Labs, Saltlux Inc.) ;
- Kim, Sungman (AI Labs, Saltlux Inc.) ;
- Hwang, Seokhyun (AI Labs, Saltlux Inc.)
- Published : 2019.10.30
Abstract
기계 독해 기술은 기계가 주어진 비정형 문서 내에서 사용자의 질문을 이해하여 답변을 하는 기술로써, 챗봇이나 스마트 스피커 등, 사용자 질의응답 분야에서 핵심이 되는 기술 중 하나이다. 최근 딥러닝을 이용한 기학습 언어모델과 전이학습을 통해 사람의 기계 독해 능력을 뛰어넘는 방법론들이 제시되었다. 하지만 이러한 방식은 사람이 인식하는 질의응답 방법과 달리, 개체가 가지는 의미론(Semantic) 관점보다는 토큰 단위로 분리된 개체의 형태(Syntactic)와 등장하는 문맥(Context)에 의존해 기계 독해를 수행하였다. 본 논문에서는 기존의 높은 성능을 나타내던 기학습 언어모델에 대규모 지식그래프에 등장하는 개체 정보를 함께 학습함으로써, 의미학적 정보를 반영하는 방법을 제시한다. 본 논문이 제시하는 방법을 통해 기존 방법보다 기계 독해 분야에서 높은 성능향상 결과를 얻을 수 있었다.
Keywords