• ETRI Journal
• /
• 제45권1호
• /
• pp.93-104
• /
• 2023

Coreference resolution is a task in discourse analysis that links several headwords used in any document object. We suggest pointer networks-based coreference resolution for Korean using multi-task learning (MTL) with an attention mechanism for a hierarchical structure. As Korean is a head-final language, the head can easily be found. Our model learns the distribution by referring to the same entity position and utilizes a pointer network to conduct coreference resolution depending on the input headword. As the input is a document, the input sequence is very long. Thus, the core idea is to learn the word- and sentence-level distributions in parallel with MTL, while using a shared representation to address the long sequence problem. The suggested technique is used to generate word representations for Korean based on contextual information using pre-trained language models for Korean. In the same experimental conditions, our model performed roughly 1.8% better on CoNLL F1 than previous research without hierarchical structure.

• 전자통신동향분석
• /
• 제39권1호
• /
• pp.95-105
• /
• 2024

In natural language processing, large language models such as GPT-4 have recently been in the spotlight. The performance of natural language processing has advanced dramatically driven by an increase in the number of model parameters related to the number of acceptable input tokens and model size. Research on multimodal models that can simultaneously process natural language and image data is being actively conducted. Moreover, natural-language and image-based reasoning capabilities of large language models is being explored in robot artificial intelligence technology. We discuss research and related patent trends in robot task planning and code generation for robot control using large language models.

• 대한방사선협회지
• /
• 제28권1호
• /
• pp.161-166
• /
• 2002

Purpose: To make a comparison evaluated of the auditory instrument and visual instrument language generation task in the fMRI, on the adult volunteers. Materials and Methods: Total of 6 normal adult volunteers(men;4, women;2, mean age;24) performed in 1.5

• Investigative Magnetic Resonance Imaging
• /
• 제5권1호
• /
• pp.24-32
• /
• 2001

Purpose : We investigated the reproducibility of language lateralization by 4 different word generation paradigms or the rest contents in each paradigm using functional magnetic resonance imaging in normal volunteers Materials and Methods Nine normal volunteers with left-handedness (mean age: 25 yrs) were examined on a 1.57 MR unit using a single-shot gradient echo epibold sequence. Four different word generation paradigms of noun, verb, adjective and adverb were used in each normal volunteer for investigating language system. In each paradigm, two different rest contents consisted of only seeing the " +" symbol or reading the meaningless letters. Each task consisted of 96 phases including 3 activations and 6 rests of 2 different contents. Two activation maps in one task were obtained under two different rest contents using the correlation method. We evaluated the detection rates of Broca and Wernicke areas and the differences of language lateralization among four different word generation paradigms, or between the rest contents. Results : The detection rates of Broca and Wernicke areas were over 67 % in 4 different language paradigms and there was no significant difference of them among language paradigms, or between two different rest contents. Language dominances, in all 4 different language paradigms, were shown to be consistent in 66 %, but were contrary with language paradigms in some subjects. The rest contents made no significant effect on dominant language dominance determination, but the success rates of the dominant language dominances determined from 4 language paradigms were higher in reading the meaningless letter (100%, n=9) than in only seeing "+" on screen at the rest task (78%, n=7).

• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2018년도 제30회 한글 및 한국어 정보처리 학술대회
• /
• pp.596-599
• /
• 2018

본 논문은 일정 등록을 위한 대화 시스템 개발에 대한 연구를 수행하였다. 기계는 사용자가 요구하는 일정 등록, 일정 수정 및 일정 삭제 등 다양한 목적에 따라 이에 맞는 API를 호출하게 된다. DSCT 6가 제안한 방법을 활용하여 호출되는 API의 종류에 따라 사람과 기계와의 대화를 task 라 불리는 여러 종류의 소규모 목적 대화로 분류하였다. 그 후 분류된 목적 task를 위해 Memory Network 개발에 대한 연구를 수행하였다. 첫 번째로 분류된 task에 대한 실행 결과 75%, 두 번째 task 88%, 세 번째 task 89%, 마지막 모든 task를 합쳤을 때 90%의 성능을 확인할 수 있었다.

• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2018년도 제30회 한글 및 한국어 정보처리 학술대회
• /
• pp.305-309
• /
• 2018

딥러닝에서 층을 공유하여 작업에 따라 변하지 않는 정보를 사용하는 multi-task learning이 다양한 자연어 처리 문제에 훌륭하게 사용되었다. 그렇지만 우리가 아는 한 공유 공간의 상태와 성능과의 관계를 조사한 연구는 없었다. 본 연구에서는 공유 공간과 task 의존 공간의 자질의 수와 오염 정도가 성능에 미치는 영향도 조사하여 공유 공간과 성능 관계에 대해서 탐구한다. 이 결과는 multi-task를 진행하는 실험에서 공유 공간의 역할과 성능의 관계를 밝혀서 시스템의 성능 향상에 도움이 될 것이다.

• 컴퓨터교육학회논문지
• /
• 제9권2호
• /
• pp.89-99
• /
• 2006

본 논문은 인지신경과학의 연구 방법으로 주로 사용되는 어휘판단과제LDT:ILexical decision task) 시 보이는 언어현상을 모사할 수 있는 계산주의 모델(computational model)을 제안한다. 제안하는 모델은 LDT 시 언어와 독립적으로 관찰되는 언어현상인 빈도효과, 어휘성효과, 단어유사성효과, 시각적쇠퇴효과, 의미점화효과, 그리고 반복점화효과 등을 모사할 수 있도록 설계되었다. 실험결과, 제안한 모델은 통계적으로 유의미하게 빈도효과, 어휘성 효과, 단어유사성 효과, 시각적 쇠퇴효과 그리고 의미점화 효과를 모사할 수 있었으며, LDT 시 인간 피험자와 유사한 양상의 수행 양식을 보였다.

• 말소리와 음성과학
• /
• 제12권1호
• /
• pp.51-63
• /
• 2020

음운인식은 음운론 영역의 상위언어인식 능력으로, 읽기 및 어휘력 등의 언어능력을 예측하는 것으로 알려져 있다. 본 연구는 음운인식 능력과 기타 음운처리 능력, 그리고 언어능력 간의 관계를 일반아동 집단과 언어발달지연 아동 집단 간 비교를 통해 살펴보고자 하였다. 4~6세의 언어발달지연 아동(n=15)과 일반아동(n=18)을 대상으로 음운인식 능력을 평가하기 위하여 음절수세기, 음절탈락, 음절변별 과제를 실시하였다. 또한 비단어 따라말하기, 숫자 거꾸로 회상하기의 두 가지 음운처리 과제와 수용 및 표현어휘력, 문법성판단 과제와의 상관관계를 분석하고, 언어능력을 예측하는 음운인식 하위과제가 무엇인지 검토하였다. 음운인식 하위과제 중 음절수세기를 제외한 음절탈락, 음절변별 과제 수행력의 집단 간 차이가 유의하였다. 또한 일반아동 집단은 음절탈락과 숫자 거꾸로 회상하기, 음절변별과 수용어휘력 과제 수행력 간 상관관계가 유의하였으며, 언어발달지연 아동 집단은 음절수세기 과제와 숫자 거꾸로 회상하기, 수용어휘력, 표현어휘력, 문법성판단 과제의 수행력 간 상관관계가 유의하였다. 그리고 단계적 중다회귀분석 결과 일반아동 집단은 음절변별 과제가 수용어휘력 및 문법성판단 과제 수행력을 유의하게 예측하는 것으로 나타났으며, 언어발달지연 아동 집단은 음절수세기 과제가 수용어휘력, 표현어휘력, 문법성판단 과제 수행력을 유의하게 예측하는 것으로 나타났다. 언어발달지연 아동 집단은 일반아동 집단에 비해 음절수세기를 제외한 나머지 음절 수준의 음운인식 과제의 수행력이 저조하였으며, 이러한 특징이 상관관계 분석 및 회귀분석 결과에도 반영되었다. 또한 각 집단에서 음운인식 과제 수행력이 언어능력을 유의하게 예측하는 것으로 나타난 결과는 음운론 영역의 상위언어인식 능력의 중요성을 시사한다.

• 한국경영과학회:학술대회논문집
• /
• 한국경영과학회/대한산업공학회 2003년도 춘계공동학술대회
• /
• pp.208-216
• /
• 2003

ISO 14649 (data model for STEP-NC) is a new interface scheme or language for CAD-CAM-CNC chain under established by ISO TC184 SCI. Up to this point, the new language is mainly made for milling and turning, and other processes such as EDM will be completed in the future. Upon completion, it will be used as the international standard language for e-manufacturing paradigm by replacing the old machine-level language, so called M&G code used since 1950's. With the rich information contents included in the new language, various intelligent functions can be made by the CNC as the CNC knows what-to-make and how-to-make. In particular, On-Machine Inspection required for quality assurance in the machine level, can be done based on the information of feature­based tolerance graph. Previously, On-Machine inspection has been investigated mainly for milling operation, and only a few researches were made for turning operation without addressing the data model. In this thesis, we present a feature-based on-machine inspection process by the 4 Tasks: 1) proposing a new schema for STEP-NC data model, 2) converting the conventional tolerance scheme into that of STEP-NC, 3) modifying the tolerance graph such that the tolerance can be effectively measured by the touch probe on the machine, and 4) generating collision-free tool path for actual measurement. Task 1 is required for the incorporation of the presented method in the ISO 14649, whose current version does not much include the detailed schema for tolerance. Based on the presented schema, the tolerance represented in the conventional drafting can be changed to that of STEP-NC (Task 2). A special emphasis was given to Task 3 to make the represented tolerance accurately measurable by the touch probe on the machine even if the part setup is changed. Finally, Task 4 is converting the result of Task into the motion of touch probe. The developed schema and algorithms were illustrated by several examples including that of ISO 14649 Part 12.

• 한국융합학회논문지
• /
• 제12권7호
• /
• pp.37-44
• /
• 2021

기계번역 품질 예측(Quality Estimation, QE)은 정답 문장(Reference sentence) 없이도 기계번역 결과의 질을 평가할 수 있으며, 활용도가 높다는 점에서 그 필요성이 대두되고 있다. Conference on machine translation(WMT)에서 매년 이와 관련한 shared task가 열리고 있고 최근에는 대용량 데이터 기반 Pretrained language model(PLM)을 적용한 연구들이 주로 진행되고 있다. 본 논문에서는 기계번역 품질 예측 task에 대한 설명 및 연구 동향에 대한 전반적인 survey를 진행했고, 최근 자주 활용되는 PLM의 특징들에 대해 정리하였다. 더불어 아직 활용된 바가 없는 multilingual BART 모델을 이용하여 기존 연구들인 XLM, multilingual BERT, XLM-RoBERTa와 의 비교 실험 및 분석을 진행하였다. 실험 결과 어떤 사전 학습된 다중언어 모델이 QE에 적용했을 때 가장 효과적인지 확인하였을 뿐 아니라 multilingual BART 모델의 QE 태스크 적용 가능성을 확인했다.