• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
• /
• pp.603-608
• /
• 2023

본 연구는 한국어 Vision-Language Pre-training 모델 학습을 위한 대규모 시각-언어 멀티모달 데이터셋 구축에 대한 필요성을 연구한다. 현재, 한국어 시각-언어 멀티모달 데이터셋은 부족하며, 양질의 데이터 획득이 어려운 상황이다. 따라서, 본 연구에서는 기계 번역을 활용하여 외국어(영문) 시각-언어 데이터를 한국어로 번역하고 이를 기반으로 생성형 AI를 활용한 데이터셋 구축 방법론을 제안한다. 우리는 다양한 캡션 생성 방법 중, ChatGPT를 활용하여 자연스럽고 고품질의 한국어 캡션을 자동으로 생성하기 위한 새로운 방법을 제안한다. 이를 통해 기존의 기계 번역 방법보다 더 나은 캡션 품질을 보장할 수 있으며, 여러가지 번역 결과를 앙상블하여 멀티모달 데이터셋을 효과적으로 구축하는데 활용한다. 뿐만 아니라, 본 연구에서는 의미론적 유사도 기반 평가 방식인 캡션 투영 일치도(Caption Projection Consistency) 소개하고, 다양한 번역 시스템 간의 영-한 캡션 투영 성능을 비교하며 이를 평가하는 기준을 제시한다. 최종적으로, 본 연구는 ChatGPT를 이용한 한국어 멀티모달 이미지-텍스트 멀티모달 데이터셋 구축을 위한 새로운 방법론을 제시하며, 대표적인 기계 번역기들보다 우수한 영한 캡션 투영 성능을 증명한다. 이를 통해, 우리의 연구는 부족한 High-Quality 한국어 데이터 셋을 자동으로 대량 구축할 수 있는 방향을 보여주며, 이 방법을 통해 딥러닝 기반 한국어 Vision-Language Pre-training 모델의 성능 향상에 기여할 것으로 기대한다.

• Korean Journal of Radiology
• /
• 제25권2호
• /
• pp.126-133
• /
• 2024

Large language models (LLMs) have revolutionized the global landscape of technology beyond natural language processing. Owing to their extensive pre-training on vast datasets, contemporary LLMs can handle tasks ranging from general functionalities to domain-specific areas, such as radiology, without additional fine-tuning. General-purpose chatbots based on LLMs can optimize the efficiency of radiologists in terms of their professional work and research endeavors. Importantly, these LLMs are on a trajectory of rapid evolution, wherein challenges such as "hallucination," high training cost, and efficiency issues are addressed, along with the inclusion of multimodal inputs. In this review, we aim to offer conceptual knowledge and actionable guidance to radiologists interested in utilizing LLMs through a succinct overview of the topic and a summary of radiology-specific aspects, from the beginning to potential future directions.

• 영어어문교육
• /
• 제17권4호
• /
• pp.395-411
• /
• 2011

The purpose of this study was to explore the elementary English conversation instructors' perception on their professionalism and the needs of teacher training program. The survey data were attained from 136 elementary English conversation instructors. Descriptive statistics were employed to discuss the result of the survey response. The results of this study revealed that the elementary English conversation instructors perceived the need of in-service training program for their professionalism improvement, especially in teaching techniques for four language skills. The result also revealed that the instructors need to be more equipped with the knowledge of elementary learners' developmental psychology and L2 learning process. The study concludes with several suggestions for elementary English conversation instructors' improvement of teaching professionalism and in-service training program.

• 영어어문교육
• /
• 제16권4호
• /
• pp.107-131
• /
• 2010

The goals of the present study are two-fold: 1) to examine NNS teachers' needs for training period in improving their general communicative competence and classroom communicative competence, and 2) to explore the relationships of teachers' needs for the training period, and their current levels of general/classroom communicative competence and other background variables. Data was collected from seventy primary and secondary school English teachers (N=70) who participated in the six-month intensive teacher training program in South Korea. The teacher trainees responded to four questionnaires of 1) the self-diagnosis of their current levels of four language skills (L/S/R/W) in both general/classroom communicative competence, 2) the training period required to improve their general/classroom communicative competence for teaching both English and other subjects through English, 3) the period of their English teaching, and 4) the proportion of their English use in class. The data analysis has shown that there were the strong relationships between trainee needs for the training period and their teaching period, and the proportion of their English use in class. In terms of trainees' communicative competence, the significant relations of both their general/classroom communicative competence and their needs for the training period were found. Implications of the findings are discussed.

• 한국정보과학회논문지:소프트웨어및응용
• /
• 제37권3호
• /
• pp.205-213
• /
• 2010

본 논문에서는 단어간 관계 패턴을 학습한 후 이에 기반하여 자연 언어 문장을 생성하는 방법을 소개한다. 기존의 문장 생성 방법론에서는 내재된 문법 규칙의 존재를 가정하거나 템플릿을 사용하고 있으나, 본 논문에서 소개하는 방법론에서는 태깅 등의 부가 정보 없이 단어의 동시 등장 빈도만을 활용하여 단어간 관계 패턴을 학습한다. 단어간 관계 패턴은 하이퍼네트워크 방법론에 기반하여 학습되었다. 학습이 진행됨에 따라 하이퍼네트워크의 복잡도가 높아지며, 학습 모델에 축적되는 언어 관계 패턴의 수가 증가한다. 학습된 모텔의 유효성은 학습 패턴에 기반한 자연 언어 문장 생성을 통해 확인하였다. 실험 결과 학습이 진행됨에 따라 문법적으로 성립하는 문장의 비율이 향상하였다. 파서를 이용하여 생성된 문장을 구성하는 문법 규칙을 분석한 후 문법 규칙의 분포를 학습에 사용한 코퍼스의 문법 규칙 분포와 비교한 결과 학습에 사용된 코퍼스의 문법적 특성을 학습할 수 있는 잠재력을 갖고 있음을 확인하였다.

• 정보처리학회논문지:소프트웨어 및 데이터공학
• /
• 제9권4호
• /
• pp.145-152
• /
• 2020

기계독해는(Machine reading comprehension) 사용자 질의와 관련된 문서를 기계가 이해한 후 정답을 추론하는 인공지능 자연어처리 태스크를 말하며, 이러한 기계독해는 챗봇과 같은 자동상담 서비스에 활용될 수 있다. 최근 자연어처리 분야에서 가장 높은 성능을 보이고 있는 BERT 언어모델은 대용량의 데이터를 pre-training 한 후에 각 자연어처리 태스크에 대해 fine-tuning하여 학습된 모델로 추론함으로써 문제를 해결하는 방식이다. 본 논문에서는 BERT기반 특허상담 기계독해 태스크를 위해 특허상담 데이터 셋을 구축하고 그 구축 방법을 소개하며, patent 코퍼스를 pre-training한 Patent-BERT 모델과 특허상담 모델학습에 적합한 언어처리 알고리즘을 추가함으로써 특허상담 기계독해 태스크의 성능을 향상시킬 수 있는 방안을 제안한다. 본 논문에서 제안한 방법을 사용하여 특허상담 질의에 대한 정답 결정에서 성능이 향상됨을 보였다.

• Journal of information and communication convergence engineering
• /
• 제18권4호
• /
• pp.207-215
• /
• 2020

Part of speech (POS) tagging is an indispensable part of major NLP models. Its progress can be perceived on number of languages around the globe especially with respect to European languages. But considering Indian Languages, it has not got a major breakthrough due lack of supporting tools and resources. Particularly for Odia language it has not marked its dominancy yet. With a motive to make the language Odia fit into different NLP operations, this paper makes an attempt to develop a POS tagger for the said language on a HMM (Hidden Markov Model) platform. The tagger judiciously considers bigram HMM with dynamic Viterbi algorithm to give an output annotated text with maximum accuracy. The model is experimented on a corpus belonging to tourism domain accounting to a size of approximately 0.2 million tokens. With the proportion of training and testing as 3:1, the proposed model exhibits satisfactory result irrespective of limited training size.

• Child Health Nursing Research
• /
• 제11권4호
• /
• pp.444-455
• /
• 2005

Purpose: This study examined the efficacy of parent training interventions to facilitate social reciprocity and language development in children with autism. Methods: The social interaction behaviors of mothers and children over time were compared using single subject design experimentation methodology. five children who were diagnosed with autism and their mothers participated in the study. The participants were recruited from U city, Korea. The mothers were trained using training videotapes and demonstrations on how to facilitate social interaction with their children as well as promoting language development. following the training, data were collected three times per week by video taping mother-child interaction in their homes. Results: Four of the five mothers demonstrated increases in the use of imitation with animation and expectant waiting after the intervention compared to the baseline sessions; the children demonstrated noticeable increases in the use of initiation of interaction, vocalizations, and verbal production after their mothers received the training intervention. Conclusion : Results of this study demonstrate the efficacy of mother training to improve social interactions of children with autism. Additional important information can be gained by replicating this study with more participants and comparing intervention and control groups. Clearly, this intervention shows promise and has implications far clinical practice.

• 말소리와 음성과학
• /
• 제15권3호
• /
• pp.37-44
• /
• 2023

This study investigates perceptual confusions of English fricatives among 121 Korean elementary school English as a foreign language (EFL) learners with shorter periods of learning English. The objective is to examine how they perceive English fricative consonants and to provide educational guidelines. Two sets of English fricative identification tasks-voiceless fricatives and voiced fricatives-were administered to participants in a High Variability Phonetic Training (HVPT) setting. Their phonemic awareness of the fricatives was visualized in perceptual confusion maps via multidimensional scaling analysis. The findings are explored in terms of the impacts of Korean EFL learners' L1 linguistic aspects and a comparison with L1 learners. Learners' phonemic awareness patterns are then compared with their relative importance in speech intelligibility based on a functional load hierarchy. The results indicated that Korean elementary EFL learners recognized English fricatives in a manner largely akin to L1 learners, suggesting their ongoing acquisition progress. Additionally, the findings demonstrated that the young EFL learners possess sufficient phonemic awareness for most high functional load segments but encounter some difficulties with one high and one low functional pair. The findings of this study offer suggestions for diagnosing language learners' phonemic awareness abilities, thereby aiding in the development of practical guidelines for language instructional design and helping educators make informed decisions regarding teaching priority in L2 classes.

• 지능정보연구
• /
• 제28권4호
• /
• pp.251-273
• /
• 2022

최근 텍스트 분석을 딥러닝에 적용한 연구가 꾸준히 이어지고 있으며, 특히 대용량의 데이터 셋을 학습한 사전학습 언어모델을 통해 단어의 의미를 파악하여 요약, 감정 분류 등의 태스크를 수행하려는 연구가 활발히 이루어지고 있다. 하지만 기존 사전학습 언어모델이 특정 도메인을 잘 이해하지 못한다는 한계를 나타냄에 따라, 최근 특정 도메인에 특화된 언어모델을 만들고자 하는 방향으로 연구의 흐름이 옮겨가고 있는 추세이다. 도메인 특화 추가 사전학습 언어모델은 특정 도메인의 지식을 모델이 더 잘 이해할 수 있게 하여, 해당 분야의 다양한 태스크에서 성능 향상을 가져왔다. 하지만 도메인 특화 추가 사전학습은 해당 도메인의 말뭉치 데이터를 확보하기 위해 많은 비용이 소요될 뿐 아니라, 고성능 컴퓨팅 자원과 개발 인력 등의 측면에서도 많은 비용과 시간이 투입되어야 한다는 부담이 있다. 아울러 일부 도메인에서 추가 사전학습 후의 성능 개선이 미미하다는 사례가 보고됨에 따라, 성능 개선 여부가 확실하지 않은 상태에서 도메인 특화 추가 사전학습 모델의 개발에 막대한 비용을 투입해야 하는지 여부에 대해 판단이 어려운 상황이다. 이러한 상황에도 불구하고 최근 각 도메인의 성능 개선 자체에 초점을 둔 추가 사전학습 연구는 다양한 분야에서 수행되고 있지만, 추가 사전학습을 통한 성능 개선에 영향을 미치는 도메인의 특성을 규명하기 위한 연구는 거의 이루어지지 않고 있다. 본 논문에서는 이러한 한계를 극복하기 위해, 실제로 추가 사전학습을 수행하기 전에 추가 사전학습을 통한 해당 도메인의 성능 개선 정도를 선제적으로 확인할 수 있는 방안을 제시한다. 구체적으로 3개의 도메인을 분석 대상 도메인으로 선정한 후, 각 도메인에서의 추가 사전학습을 통한 분류 정확도 상승 폭을 측정한다. 또한 각 도메인에서 사용된 주요 단어들의 정규화된 빈도를 기반으로 해당 도메인의 특수성을 측정하는 지표를 새롭게 개발하여 제시한다. 사전학습 언어모델과 3개 도메인의 도메인 특화 사전학습 언어모델을 사용한 분류 태스크 실험을 통해, 도메인 특수성 지표가 높을수록 추가 사전학습을 통한 성능 개선 폭이 높음을 확인하였다.