Attentive Knowledge Selection Model for Knowledge-Grounded Multi-turn Dialogue System

지식 기반 다중 대화 시스템을 위한 주의 집중 지식 선택 모델

  • Lee, Dohaeng (Konkuk University Department of Artificial Intelligence) ;
  • Jang, Youngjin (Konkuk University Department of Artificial Intelligence) ;
  • Huang, Jin-Xia (Electronics and Telecommunications Research Institute) ;
  • Kwon, Oh-Woog (Electronics and Telecommunications Research Institute) ;
  • Kim, Harksoo (Konkuk University Department of Artificial Intelligence)
  • 이도행 (건국대학교 인공지능학과) ;
  • 장영진 (건국대학교 인공지능학과) ;
  • 황금하 (한국전자통신연구원) ;
  • 오욱 (한국전자통신연구원) ;
  • 김학수 (건국대학교 인공지능학과)
  • Published : 2021.10.14

Abstract

지식 기반 다중 대화 시스템은 지식 정보를 포함한 응답을 생성하는 대화 시스템이다. 이 시스템은 응답 생성에 필요한 지식 정보를 찾아내는 지식 선택 작업과 찾아낸 지식 정보를 바탕으로 문맥을 고려한 응답을 생성하는 응답 생성 작업으로 구성된다. 본 논문에서는 지식 선택 작업을 기계독해 프레임워크에 적용하여 해결하는 방법을 제안한다. 지식 선택 작업은 여러 개의 발화로 이루어진 대화 기록을 바탕으로 지식 문서 내에 존재하는 지식을 찾아내는 작업이다. 본 논문에서는 대화 기록 모델링 계층을 활용해 마지막 발화와 관련 있는 대화 기록을 찾아내고, 주의 집중 풀링 계층을 활용해 긴 길이의 지식을 효과적으로 추출하는 방법을 제안한다. 실험 결과, 목적지향 지식 문서 기반 대화 데이터 셋인 Doc2dial 데이터의 지식 선택 작업에서 F1 점수 기준 76.52%, EM 점수 기준 66.21%의 성능을 기록해 비교 모델 보다 높은 성능을 기록하는 것을 확인할 수 있었다.

Keywords

Acknowledgement

이 논문은 2019년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임(2019-0-00004, 준지도학습형 언어지능 원천기술 및 이에 기반한 외국인 지원용 한국어 튜터링 서비스 개발)