• The KIPS Transactions:PartB
• /
• v.17B no.3
• /
• pp.255-262
• /
• 2010

When a system is developed, requirements document is generated by requirement analysts and then translated to formal specifications by specifiers. If a formal specification can be generated automatically from a natural language requirements document, system development cost and system fault from experts' misunderstanding will be decreased. A pronoun can be classified in personal and demonstrative pronoun. In the characteristics of requirements document, the personal pronouns are almost not occurred, so we focused on the decision of antecedent for a demonstrative pronoun. For the higher accuracy in analysis of requirements document automatically, finding antecedent of demonstrative pronoun is very important for elicitation of formal requirements automatically from natural language requirements document via natural language processing. The final goal of this research is to automatically generate formal specifications from natural language requirements document. For this, this paper, based on previous research [3], proposes an anaphora resolution system to decide antecedent of pronoun using natural language processing from natural language requirements document in Korean. This paper proposes heuristic rules for the system implementation. By experiments, we got 92.45%, 69.98% as recall and precision respectively with ten requirements documents.

• Journal of the Korea Society of Computer and Information
• /
• v.25 no.4
• /
• pp.29-35
• /
• 2020

In this paper, we propose a new structured entity recognition DeNERT model. Recently, the field of natural language processing has been actively researched using pre-trained language representation models with a large amount of corpus. In particular, the named entity recognition, which is one of the fields of natural language processing, uses a supervised learning method, which requires a large amount of training dataset and computation. Reinforcement learning is a method that learns through trial and error experience without initial data and is closer to the process of human learning than other machine learning methodologies and is not much applied to the field of natural language processing yet. It is often used in simulation environments such as Atari games and AlphaGo. BERT is a general-purpose language model developed by Google that is pre-trained on large corpus and computational quantities. Recently, it is a language model that shows high performance in the field of natural language processing research and shows high accuracy in many downstream tasks of natural language processing. In this paper, we propose a new named entity recognition DeNERT model using two deep learning models, DQN and BERT. The proposed model is trained by creating a learning environment of reinforcement learning model based on language expression which is the advantage of the general language model. The DeNERT model trained in this way is a faster inference time and higher performance model with a small amount of training dataset. Also, we validate the performance of our model's named entity recognition performance through experiments.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2021.11a
• /
• pp.666-669
• /
• 2021

연구수행과정에서 발생하는 논문, 특허, 연구보고서 등의 과학기술데이터는 다양한 과학기술지식을 포함한다. 연구자들의 효과적인 연구를 지원하기 위해서는 과학기술데이터 분석을 통한 지식 발견이 필수적이다. 과학기술데이터는 일반 텍스트와는 다르게 다수의 전문용어를 포함하고 있으며, 고유의 양식이 정해져 있고, 텍스트 길이가 대체로 길다는 특징이 있다. 본 고에서는 이러한 과학기술데이터만의 고유한 특징을 반영한 인공지능 기반 자연어처리 기술들을 소개함으로써 과학기술데이터 분석에 대한 이해를 돕고자 한다.

• Annual Conference on Human and Language Technology
• /
• 2019.10a
• /
• pp.395-399
• /
• 2019

생성 모델은 최근 단순히 기존 데이터를 증강 시키는 것이 아니라 원하는 속성을 가지도록 스타일을 변화시키는 연구가 활발히 진행되고 있다. 스타일 변화 연구에서 필요한 병렬 데이터 세트는 구축하는데 많은 비용이 들기 때문에 비병렬 데이터를 이용하는 연구가 주를 이루고 있다. 이러한 방법론으로 이미지 분야에서 대표적으로 cycleGAN[1]이 있으며 최근 자연어 처리 분야에서도 많은 연구가 진행되고 있다. 많은 논문들이 사용하는 데이터도메인은 긍정 문장과 부정 문장 사이를 변화시키는 것이다. 본 연구에서는 한국어 영화리뷰 데이터 세트인 NSMC[2]를 이용한 감성 변화를 하는 문장생성에 대한 연구로 자연어 처리에서 좋은 성능을 보여주는 BERT[8]를 생성모델에 이용하였다.

• Annual Conference on Human and Language Technology
• /
• 2005.10a
• /
• pp.105-111
• /
• 2005

정형적인 프로그래밍 언어에서는 언어를 기계적으로 해석하기 위해 입력의 구조적인 형태를 구축하는 파싱이 필수적인 과정으로 여겨진다. 기계에 기반 해서 개발된 프로그래밍 언어와 달리, 인간의 자유로운 의사소통을 위해 형성된 자연어는 특유의 다양성으로 인해 어휘, 구문, 의미 분석이 매우 어렵다. 반대로 자연어 구조 분석이 성공적으로 이루어지면 응용 시스템의 성능 향상에 상당한 기여를 할 것이라고 여겨지고, 이로 인해 끊임없이 자연어 처리, 특히 구문 분석에 많은 연구가 이루어지고 있다. 본 논문에서는 파싱에 사용되는 문법 전체를 말뭉치로부터 자동 구축하여 영역별 이식성 및 문법의 효율성을 도모했다. 또한 확률적 차트 파싱 기법과 immediate-head 파싱 모델을 적용하여 기존 파싱 시스템의 성능 향상을 시도했다. 세종 말뭉치를 이용한 파서의 성능은 각각 LP/LR 78.98%/79.55%로 나타났다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2002.11b
• /
• pp.1599-1602
• /
• 2002

IMT-2000의 상용화와 함께 무선 단말 장치와 PDA의 사용 용도가 단순히 상대방과의 통화 기능에 국한되지 않고 고속 데이터 통신이나, 멀티미디어의 대용량의 자료를 송수신하는 형태로 변화되고 있다. 이러한 변화에 따라 시공적인 제약없이 사용 가능한 무선 인터네 연구가 WAP(Wireless Application Protocol) Forum을 중심으로 활발하게 진행되고 있다[1]. 무선 인터넷 환경을 구현하기 위해서 WML(Wireless Markup Language)를 사용하여 제작한다. 본 논문에서는 사용자가 보다 편하고 빠르게 WML을 작성할 수 있도록 하기 위해서 복잡한 명령어 구조나, 태그를 몰라도 자연어의 사용만으로 WML 문서를 쉽게 저작 할 수 있는 편집기를 구현한다. 이 편집기는 Nokia 에릭슨에서 지원하는 에뮬레이터를 사용하지 않고 자체에 내장되어 있는 에뮬레이터를 통해서 직접 눈으로 확인하면서 작업할 수 있어 문서 저작의 생산성을 향상시킬 수 있는 자연어 사용을 기반으로 하는 WYSIWYG WML Editor이다.

• Annual Conference on Human and Language Technology
• /
• 2022.10a
• /
• pp.277-283
• /
• 2022

사주 풀이란 주어진 사주에 대해서 그에 맞는 해석 글을 생성해주는 작업을 의미한다. 전통적으로 사주 풀이는 온전한 사람의 영역으로 인식되어왔으나, 우리는 본 연구를 통해 사주 풀이 영역도 인공지능으로 대체할 수 있을 것이라는 가능성을 탐구한다. 본 연구에서 우리는 최근 연구되고 있는 자연어 생성분야의 연구들에서 영감을 받아, 사주 유형과 사주 풀이 내에 포함할 명사 키워드를 기반으로 풀이글을 생성하는 인공지능 모델 SaJuTeller를 설계한다. 특히 이전 문맥을 고려하여 풀이글을 생성하는 모델과 단순 사주 유형 및 명사 키워드를 기반으로 풀이글을 생성하는 두가지 모델을 제안하며, 이들 각각의 성능을 분석함으로써 각 모델의 구체적인 활용 방안을 제안한다. 본 연구는 우리가 아는 한 최초의 인공지능 기반 사주풀이 연구이며, 우리는 이를 통해 사주풀이에 요구되는 전문인력의 노력을 경감시킴과 동시에, 다양한 표현을 가진 사주 풀이 글을 생성할 수 있음을 제안한다.

• 한국어정보학회:학술대회논문집
• /
• 2016.10a
• /
• pp.317-320
• /
• 2016

기계학습 기반의 자연어처리 모듈에서 중요한 단계 중 하나는 모듈의 입력으로 단어를 표현하는 것이다. 벡터의 사이즈가 크고, 단어 간의 유사성의 개념이 존재하지 않는 One-hot 형태와 대조적으로 유사성을 표현하기 위해서 단어를 벡터로 표현하는 단어 표현 (word representation/embedding) 생성 작업은 자연어 처리 작업의 기계학습 모델의 성능을 개선하고, 몇몇 자연어 처리 분야의 모델에서 성능 향상을 보여 주어 많은 관심을 받고 있다. 본 논문에서는 Word2Vec, CCA, 그리고 GloVe를 사용하여 106,552개의 PubMed의 바이오메디컬 논문의 요약으로 구축된 말뭉치 카테고리의 각 단어 표현 모델의 카테고리 분류 능력을 확인한다. 세부적으로 나눈 카테고리에는 질병의 이름, 질병 증상, 그리고 난소암 마커가 있다. 분류 능력을 확인하기 위해 t-SNE를 이용하여 2차원으로 단어 표현 결과를 맵핑하여 가시화 한다. 2차원으로 맵핑된 결과 값을 코사인 유사도를 사용하여 질병과 바이오 마커간의 유사도를 구한다. 이 유사도 결과 값 상위 20쌍의 결과를 가지고 실제 연구가 되고 있는지 구글 스콜라를 통해 관련 논문을 검색하여 확인하고, 검색 결과를 점수화 한다. 실험 결과 상위 20쌍 중에서 85%의 쌍이 실제적으로 질병과 바이오 마커 간의 관계를 파악하는 방향으로 진행 되고 있으나, 나머지 15%의 쌍에 대해서는 실질적인 연구가 잘 되고 있지 않은 것으로 파악되었다.

• Journal of Digital Convergence
• /
• v.18 no.1
• /
• pp.137-146
• /
• 2020

NLP means the technology that mechanically analyzes a language spoken by a human and makes it into a form that can be understood by a computer. This is important because it is a core technology for communication between humans and devices, which is the basis of artificial intelligence. In this paper, I analyzed patent information of US and Korea in order to identify technical trends related to NLP, especially semantic analysis. and the purpose of this study is to provide meaningful information for future research on NLP. In conclusion, the number of Korea patents is 7.9% compared to the USA and the different frequencies of the major keywords were found to differ from country to country in technical direction. In addition, the upward or downward keywords are twice as many in the U.S. as in Korea, and reflect the trend of the times relatively more. Based on these results, in future study, I will analysis how upward trending keywords are described in actual patents for concrete technology prediction.

• Proceedings of the KAIS Fall Conference
• /
• 2001.11a
• /
• pp.224-229
• /
• 2001

컴퓨터나 데이터베이스에 대한 지식이 없는 사용자들도 데이터베이스에 저장되어 있는 정보를 쉽게 얻을 수 있도록 도와줄 수 있도록 하는 것이 데이터베이스 시스템을 위한 자연어 인터페이스이다. 이 논문은 이 자연어 인터페이스를 고려한 차세대 데이타베이스, 객체 지향 데이타베이스를 바탕으로 질의어 처리를 OQL(Object Query Language)명령문으로 구축 기법을 연구하고자 한다. 여기서 질의어 처리는 한국어 인터페이스를 바탕으로 하며, 질의를 패턴별로 분해, 프레임 변환, 객체 지향 데이타베이스를 위한 OQL 명령문으로 구축한다. 질의의 효과적인 변환을 위해 프레임 기반 질의 분해 기법을 제안하였으며, 이 기법은 분해된 질의구 별로 변환과정을 수행하여, 질의 처리의 성능을 향상시킨다. 질의 프레임을 생성하기 위해 변환규칙을 사용하여 규칙 베이스를 구축하는 기법을 연구하였다.