Acknowledgement
이 연구는 2021년도 산업통상자원부 및 산업기술평가관리원(KEIT) 연구비 지원에 의한 연구임(20016308, 산업지능화 지원을 위한 인공지능 성능지표 개발 및 신뢰성 기반조성)
Annual Conference of KIPS (한국정보처리학회:학술대회논문집)
- 2021.11a
- /
- Pages.626-628
- /
- 2021
- /
- 2005-0011(pISSN)
- /
- 2671-7298(eISSN)
DOI QR Code
Comparing of pre-trained Embedding for Event Extraction
사건 관계 추출을 위한 사전 학습 임베딩 비교
- Yang, Seung-Moo (Human IT Convergence Research Center Korea Electronics Technology Institute (KETI)) ;
- Lee, Mira (Human IT Convergence Research Center Korea Electronics Technology Institute (KETI)) ;
- Jeong, Chan-Hee (Human IT Convergence Research Center Korea Electronics Technology Institute (KETI)) ;
- Jung, Hye-Dong (Human IT Convergence Research Center Korea Electronics Technology Institute (KETI))
- Published : 2021.11.04
Abstract
사건 관계 추출 태스크는 구조화되지 않은 텍스트 데이터에서 사건의 구조화된 표현을 얻는 것이다. 하나의 문장에서도 많은 정보를 얻을 수 있는 중요한 태스크임에도 불구하고, 다양한 사전 학습 모델을 적용한 연구는 아직 활발하게 연구되지 않고 있다. 따라서 본 연구에서 사전 학습된 모델의 임베딩 기법 중 BERT, RoBERTa, SpanBERT에 각각 base, large 아키텍처를 적용하여 실험하였다. 사건을 식별하기 위한 trigger와 해당 trigger의 세부 argument를 식별하기 위한 분류기를 상위레이어로 각각 설계하였고, 다양한 배치 크기를 적용하여 실험하였다. 성능평가는 trigger/argument 각각 F1 score를 적용하였고, 결과는 RoBERTa large 모델에서 좋은 성능을 보인 것을 확인하였다.
Keywords