• 제목/요약/키워드: language representation model

검색결과 140건 처리시간 0.036초

Multi-task learning with contextual hierarchical attention for Korean coreference resolution

  • Cheoneum Park
    • ETRI Journal
    • /
    • 제45권1호
    • /
    • pp.93-104
    • /
    • 2023
  • Coreference resolution is a task in discourse analysis that links several headwords used in any document object. We suggest pointer networks-based coreference resolution for Korean using multi-task learning (MTL) with an attention mechanism for a hierarchical structure. As Korean is a head-final language, the head can easily be found. Our model learns the distribution by referring to the same entity position and utilizes a pointer network to conduct coreference resolution depending on the input headword. As the input is a document, the input sequence is very long. Thus, the core idea is to learn the word- and sentence-level distributions in parallel with MTL, while using a shared representation to address the long sequence problem. The suggested technique is used to generate word representations for Korean based on contextual information using pre-trained language models for Korean. In the same experimental conditions, our model performed roughly 1.8% better on CoNLL F1 than previous research without hierarchical structure.

억양 배형 곡선 모형 (A Configurational Model of Intonation)

  • 이영길
    • 대한음성학회지:말소리
    • /
    • 제11_14호
    • /
    • pp.73-89
    • /
    • 1987
  • This paper is an attempt to propose a new model of intonation called 'Configurational Contour Model'. For our purpose two previous models are discussed : one is the system of tonetic-stress marks and the other is the theory of pitch levels. To overcome shortcomings which these approaches display, the new model is based on two fundamental characteristics of intonation: (1) that intonation is a suprasyllabic phenomenon; and (2) that intonation is basically a matter of configurations, i.e., of rising, falling and level. Accordingly, the new model can be relatable to relevant aspects of the phonetic representation of utterances and also can express all the tonal oppositions in a given language.

  • PDF

효율적인 과업중심 교수.학습모형 연구: EFL 교실 상황을 중심으로 (A study on the optimal task-based instructional model: Focused on Korean EFL classroom practice)

  • 전인재
    • 영어어문교육
    • /
    • 제11권4호
    • /
    • pp.365-389
    • /
    • 2005
  • The purpose of this study is to present the task model that is the most effective in English language methodology based on the investigation of task-based performance in Korean EFL classroom practice. The subjects were 538 high school students and 126 high school teachers, each of whom had common experiences using the materials of task-based activities for more than one year. To analyze the data, the program SPSS WIN 11.0 including frequency distribution and chi-square analysis was used. The results of the questionnaire analysis showed that both teachers and students had a comparatively high level of satisfaction in task rationale, but that they had some mixed responses in the fields of input data, settings, and activity types. To conclude, a few suggestions are made to provide some meaningful considerations for the EFL teachers and material developers: a) task goals and rationale that encourage the learner's positive motivation; b) authenticity of input data based on the real-world context; c) collaborative learning environment that enhances communicative interaction; d) proportional representation of the creative problem-solving activities related to discussions and decision-making processes; e) systematic introduction of integrated language skills. It also suggests that the multi-lateral task model, which has some positive assets compared to previous task models, be newly introduced and applied to the second language learning classrooms.

  • PDF

CAD 모델 교환을 위한 매크로 파라메트릭 정보의 XML 표현 (A Macro Parametric Data Representation far CAD Model Exchange using XML)

  • 양정삼;한순흥;김병철;박찬국
    • 대한기계학회논문집A
    • /
    • 제27권12호
    • /
    • pp.2061-2071
    • /
    • 2003
  • The macro-parametric approach, which is a method of CAD model exchange, has recently been proposed. CAD models can be exchanged in the form of a macro file, which is a sequence of modeling commands. As an event-driven commands set, the standard macro file can transfer design intents such as parameters, features and constraints. Moreover it is suitable for the network environment because the standard macro commands are open, explicit, and the data size is small. This paper introduces the concept of the macro-parametric method and proposes its representation using XML technology. Representing the macro-parametric data using XML allows managing vast amount of dynamic contents, Web-enabled distributed applications, and inherent characteristic of structure and validation.

Neural Model for Named Entity Recognition Considering Aligned Representation

  • Sun, Hongyang;Kim, Taewhan
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2018년도 추계학술발표대회
    • /
    • pp.613-616
    • /
    • 2018
  • Sequence tagging is an important task in Natural Language Processing (NLP), in which the Named Entity Recognition (NER) is the key issue. So far the most widely adopted model for NER in NLP is that of combining the neural network of bidirectional long short-term memory (BiLSTM) and the statistical sequence prediction method of Conditional Random Field (CRF). In this work, we improve the prediction accuracy of the BiLSTM by supporting an aligned word representation mechanism. We have performed experiments on multilingual (English, Spanish and Dutch) datasets and confirmed that our proposed model outperformed the existing state-of-the-art models.

멀티미디어 수화 콘텐츠의 Semantic Logic 플랫폼 연구 (A Study on Semantic Logic Platform of multimedia Sign Language Content)

  • 정회준;박대우;한경돈
    • 한국컴퓨터정보학회논문지
    • /
    • 제14권10호
    • /
    • pp.199-206
    • /
    • 2009
  • 초고속 인터넷의 발달로 멀티미디어 수화 콘텐츠가 청각장애인의 수화교육에 활용되고 있다. 수화교육에서 사용되는 대부분 콘텐츠는 한글단어에 대한 수화표현을 수화동영상으로 보여주는 내용이다. 수화를 처음 배우거나, 수화에 익숙하지 않은 사용자들은 수화특성을 이해하기 어렵고, 수화표현에 어려움을 나타내고 있다. 본 논문에서는 온라인에서 수화표현을 학습하기 위해서 수화가 가지고 있는 특성을 참고하고, Semantic Logic을 적용한 멀티미디어 동영상기반의 수화 콘텐츠 모형에 대한 플랫폼 설계를 연구하고자 한다.

지식표상모델을 활용한 개발자 및 사용자의 게임기획에 대한 불만족 해소방안 (Resolving the Game Design Discrepancy between the Game Designer and the Gamer by Employing a Knowledge Representation Model)

  • 박용현;경병표;유석호;이동열;이완복
    • 한국콘텐츠학회논문지
    • /
    • 제9권3호
    • /
    • pp.127-136
    • /
    • 2009
  • 2008년 게임백서에 의하면 게임 산업의 발전 속에서도 개발자 및 사용자의 게임기획에 대한 불만족 수치가 매년 높은 것으로 나타나고 있다. 이러한 불만족을 해소하기 위해 게임기획의 작업방식과 사용자와의 피드백 방식을 수정하는 방법을 활용하고자 한다. 이를 위해 심성모형과 UML(Unified Modeling Language)을 활용한 지식표상모델 개념을 고찰함으로써 개발자의 작업방식과 사용자와의 커뮤니케이션을 동시에 고려할 수 있는 방안을 제시하고자 한다. 이 두 모델을 통해 기존의 게임기획을 피드백이 용이하도록 구조화함으로써 쉽게 적용하고 활용할 수 있는 개선방향을 제시할 수 있다.

ADL 모델로부터 VRML 구현 모델을 위한 변환기 개발 (The Development of a Translater for the VRML Implementation Model from the ADL Model)

  • 김치수
    • 정보처리학회논문지D
    • /
    • 제13D권2호
    • /
    • pp.235-240
    • /
    • 2006
  • 소프트웨어 아키텍처는 텍스트 기반 아키텍처 기술 언어(ADL)를 사용하면서 기술하게 된다. ADL의 중요한 목적은 다른 이해관계자 사이에서 대체 디자인을 통신하고, 재사용할 수 있는 구조를 찾아내고, 그리고 디자인 결정을 기록하는 것이다. 본 논문은 구조적인 관점의 3차원 표현을 위한 도구를 만듦으로써 표현 문제에 대한 해법을 제공한다. 도구는 첫째 소프트웨어 아키텍처와 아키텍처에서 관점을 기술하는 아키텍처 기술 언어(VTADL)로 구성되었고, 각 관점을 분리된 가상현실 세계로 번역하는 VTADL-to-VRML 변환기로 구성되었다. 본 논문에서는 ADL을 요구된 관점에 의거하여 효과적인 VRML 표현으로 변환하기 위한 알고리즘을 고안했다. VRML 표현은 그 전체적인 디자인에 이해를 강화하고 다양한 이해관계자 사이에 통신을 개선할 것이다.

DeNERT: Named Entity Recognition Model using DQN and BERT

  • Yang, Sung-Min;Jeong, Ok-Ran
    • 한국컴퓨터정보학회논문지
    • /
    • 제25권4호
    • /
    • pp.29-35
    • /
    • 2020
  • 본 논문에서는 새로운 구조의 개체명 인식 DeNERT 모델을 제안한다. 최근 자연어처리 분야는 방대한 양의 말뭉치로 사전 학습된 언어 표현 모델을 활용하는 연구가 활발하다. 특히 자연어처리 분야 중 하나인 개체명인식은 대부분 지도학습 방식을 사용하는데, 충분히 많은 양의 학습 데이터 세트와 학습 연산량이 필요하다는 단점이 있다. 강화학습은 초기 데이터 없이 시행착오 경험을 통해 학습하는 방식으로 다른 기계학습 방법론보다 조금 더 사람이 학습하는 과정에 가까운 알고리즘으로 아직 자연어처리 분야에는 많이 적용되지 않은 분야이다. 아타리 게임이나 알파고 등 시뮬레이션 가능한 게임 환경에서 많이 사용된다. BERT는 대량의 말뭉치와 연산량으로 학습된 구글에서 개발한 범용 언어 모델이다. 최근 자연어 처리 연구 분야에서 높은 성능을 보이고 있는 언어 모델이며 많은 자연어처리 하위분야에서도 높은 정확도를 나타낸다. 본 논문에서는 이러한 DQN, BERT 두가지 딥러닝 모델을 이용한 새로운 구조의 개체명 인식 DeNERT 모델을 제안한다. 제안하는 모델은 범용 언어 모델의 장점인 언어 표현력을 기반으로 강화학습 모델의 학습 환경을 만드는 방법으로 학습된다. 이러한 방식으로 학습된 DeNERT 모델은 적은 양의 학습 데이터세트로 더욱 빠른 추론시간과 높은 성능을 갖는 모델이다. 마지막으로 제안하는 모델의 개체명 인식 성능평가를 위해 실험을 통해서 검증한다.

모델베이스 설계를 위한 개념적 모델링 도구에 관한 연구 (A Conceptual Modeling Tools for the Model Base Design)

  • 정대율
    • 한국정보시스템학회지:정보시스템연구
    • /
    • 제7권1호
    • /
    • pp.181-208
    • /
    • 1998
  • In many literatures of model management, various schemes for representing model base schema have proposed. Ultimately, the goal is to arrive at a set of mutually supportive and synergistic methodologies and tools for the modeling problem domain and model base design. This paper focus on how best to structure and represent conceptual model of problem domain and schema of model base. Semantic concepts and modeling constructs are valuable conceptual tools for understanding the structural relationships and constraints involved in an model management environment. To this end, we reviewed the model management literature, and analyzed the constructs of modeling tools of data model management graph-based approach. Although they have good tools but most of them are not enough for the representation of structural relationships and constraints. So we wanted more powerful tools which can represent diverse constructs in a decision support modeling and model base schema design. For the design of a model base, we developed object modeling framework which uses Object Modeling Techniques (OMT). In Object Modeling Framework, model base schema are classified into conceptual schema, logical schema, and physical schema. The conceptual schema represents the user's view of problem domain, and the logical schema represents a model formatted by a particular modeling language. The schema design, this paper proposes an extension of Object Model to overcome some of the limitations exhibited by the OMT. The proposed tool, Extended Object Model(EOM) have diverse constructs for the representation of decision support problem domain and conceptual model base schema.

  • PDF