• Annual Conference on Human and Language Technology
• /
• 2022.10a
• /
• pp.343-347
• /
• 2022

최근 자연어처리 분야에서는 BERT, RoBERTa, 그리고 BART와 같은 사전 학습된 언어 모델 (Pre-trained Language Models, PLM) 기반 미세 조정 학습을 통하여 여러 하위 과업에서 좋은 성능을 거두고 있다. 이는 사전 학습된 언어 모델 및 데이터 집합의 크기, 그리고 모델 구성의 중요성을 보여주며 대규모 사전 학습된 언어 모델이 각광받는 계기가 되었다. 하지만, 거대한 모델의 크기로 인하여 실제 산업에서 쉽게 쓰이기 힘들다는 단점이 명백히 존재함에 따라 최근 매개변수 효율적인 미세 조정 및 Few-Shot 학습 연구가 많은 주목을 받고 있다. 본 논문은 Prompt tuning, Prefix tuning와 프롬프트 기반 미세 조정 (Prompt-based fine-tuning)을 결합한 Few-Shot 학습 연구를 제안한다. 제안한 방법은 미세 조정 ←→ 사전 학습 간의 지식 격차를 줄일 뿐만 아니라 기존의 일반적인 미세 조정 기반 Few-Shot 학습 성능보다 크게 향상됨을 보인다.

• Journal of Convergence for Information Technology
• /
• v.12 no.4
• /
• pp.158-165
• /
• 2022

Journal of Convergence for Information Technology. This study explores how native speakers (NSs) and non-native speakers (NNSs) of English negotiate meanings during conversational interactions to achieve successful communication. This study involved 40 participants: 20 native English speakers and 20 Korean university students. The participants were divided into 20 pairs, with each pair consisting of one NS and one NNS. Tasks for conversation were given and the execution recorded in order to collect data. 37 recorded conversations were transcribed and used for analysis, including statistical analyses. Results showed that both NSs and NNSs mutually put in effort for successful communication. While NSs mostly played the role of leading the natural flow of the conversation, encouraging their non-native interlocutors to speak, NNSs used various strategies to compensate for their lack of linguistic competence in the target language. NNSs employed a wide range of communicative strategies to keep the conversation going. The results of this study contribute to a better understanding of interactions between NSs and NNSs and yield pedagogical implications.