• Title/Summary/Keyword: 이주모델

Search Result 558, Processing Time 0.037 seconds

A Concept Language Model combining Word Sense Information and BERT (의미 정보와 BERT를 결합한 개념 언어 모델)

  • Lee, Ju-Sang;Ock, Cheol-Young
    • Annual Conference on Human and Language Technology
    • /
    • 2019.10a
    • /
    • pp.3-7
    • /
    • 2019
  • 자연어 표상은 자연어가 가진 정보를 컴퓨터에게 전달하기 위해 표현하는 방법이다. 현재 자연어 표상은 학습을 통해 고정된 벡터로 표현하는 것이 아닌 문맥적 정보에 의해 벡터가 변화한다. 그 중 BERT의 경우 Transformer 모델의 encoder를 사용하여 자연어를 표상하는 기술이다. 하지만 BERT의 경우 학습시간이 많이 걸리며, 대용량의 데이터를 필요로 한다. 본 논문에서는 빠른 자연어 표상 학습을 위해 의미 정보와 BERT를 결합한 개념 언어 모델을 제안한다. 의미 정보로 단어의 품사 정보와, 명사의 의미 계층 정보를 추상적으로 표현했다. 실험을 위해 ETRI에서 공개한 한국어 BERT 모델을 비교 대상으로 하며, 개체명 인식을 학습하여 비교했다. 두 모델의 개체명 인식 결과가 비슷하게 나타났다. 의미 정보가 자연어 표상을 하는데 중요한 정보가 될 수 있음을 확인했다.

  • PDF

Methodology for Overcoming the Problem of Position Embedding Length Limitation in Pre-training Models (사전 학습 모델의 위치 임베딩 길이 제한 문제를 극복하기 위한 방법론)

  • Minsu Jeong;Tak-Sung Heo;Juhwan Lee;Jisu Kim;Kyounguk Lee;Kyungsun Kim
    • Annual Conference on Human and Language Technology
    • /
    • 2023.10a
    • /
    • pp.463-467
    • /
    • 2023
  • 사전 학습 모델을 특정 데이터에 미세 조정할 때, 최대 길이는 사전 학습에 사용한 최대 길이 파라미터를 그대로 사용해야 한다. 이는 상대적으로 긴 시퀀스의 처리를 요구하는 일부 작업에서 단점으로 작용한다. 본 연구는 상대적으로 긴 시퀀스의 처리를 요구하는 질의 응답(Question Answering, QA) 작업에서 사전 학습 모델을 활용할 때 발생하는 시퀀스 길이 제한에 따른 성능 저하 문제를 극복하는 방법론을 제시한다. KorQuAD v1.0과 AIHub에서 확보한 데이터셋 4종에 대하여 BERT와 RoBERTa를 이용해 성능을 검증하였으며, 실험 결과, 평균적으로 길이가 긴 문서를 보유한 데이터에 대해 성능이 향상됨을 확인할 수 있었다.

  • PDF

Model Creation Algorithm for Multiple Moving Objects Tracking (다중이동물체 추적을 위한 모델생성 알고리즘)

  • 조남형;김하식;이명길;이주신
    • Proceedings of the Korean Institute of Information and Commucation Sciences Conference
    • /
    • 2001.05a
    • /
    • pp.633-637
    • /
    • 2001
  • In this paper, we proposed model creation algorithm for multiple moving objects tracking. The proposed algorithm is divided that the initial model creation step as moving objects are entered into background image and the model reformation step in the moving objects tracking step. In the initial model creation step, the initial model is created by AND operating division image, divided using difference image and clustering method, and edge image of the current image. In the model reformation step, a new model was reformed in the every frame to adapt appearance change of moving objects using Hausdorff Distance and 2D-Logarithmic searching algorithm. We simulated for driving cart in the road. In the result, model was created over 98% in case of irregular approach direction of cars and tracking objects number.

  • PDF

An Adaptive Distributed Location Management Algorithm for Mobile Networks (이동망을 위한 적응적 분산 위치 관리 알고리즘)

  • 이주영;배인한
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2001.04a
    • /
    • pp.550-552
    • /
    • 2001
  • 미래의 PCS 네트워크 설계에서 하나의 중요한 문제는 위치 정보의 효율적인 관리이다. 우리는 이동망내의 위치 정보 데이터베이스들의 공간 국소성과 원격 이동 호스트들에 의한 국부 이동 호스트들의 위치 질의 선호도를 고려한 적응적 분산 위치 관리 알고리즘을 제안하고, 그것의 성능을 분석적 모델로 평가한다.

Discriminant Factors Influencing the Community Integration of Immigrant Women on Marriage: Comparison of Regional Traits (도시화 정도에 따른 결혼이주여성의 지역사회통합에 미치는 차별적 영향 분석: 특별·광역시 지역과 도지역 거주자의 비교)

  • Kim, Kyung-Bum;Park, Cheol-Min
    • The Journal of the Korea Contents Association
    • /
    • v.18 no.4
    • /
    • pp.214-222
    • /
    • 2018
  • The purpose of this study is to analyze the role of individualistic, family, and social characteristics of immigrant women on marriage on community integration. It is focused on exploring how the immigrant women on marriages' residential district differentiate community integration. The study adopts a questionnaire method in research of immigrant women on marriage in all parts of Korea. Data are collected from 163(Metropolitan Government & City), 182(Provincial Government) immigrant women on marriage for empirical analysis respectively. Technique used in analyzing data is Binary Logit Model primarily. In conclusion, on the results of test, it turned out to be strong significant influence on provincial regions than the metropolitan city regions statistically excepting family, and social characteristics.

Forward Migration of an Active Rule Mobile Agent using the Meta_data (메타데이터를 이용한 능동규칙 이동에이전트의 정 방향 이주)

  • Lee, Yon-Sik;Lee, Jun-Ho
    • Journal of the Korea Institute of Information and Communication Engineering
    • /
    • v.16 no.7
    • /
    • pp.1567-1574
    • /
    • 2012
  • Since a migration method of the mobile agent is a factor that affects the overall performance of the entire distributed system, it is necessary to find efficient migration methods of the mobile agent within the sensor network and to collect and store data related to various components(server, sink and sensor node) of the sensor network, thereby providing consistent naming services. Accordingly, this paper presents design and implementation of MetaTable that is divided into MetaData where information on the sensor data server is stored and SubMetaData where various types of information on sink nodes and data on sensor nodes connected with the sink nodes is stored. Moreover, the paper also presented the implementation of forward migration of an active rule mobile agent applying the naming method based on RMI that used the meta_table and proposed the possibility of constructing efficient sensor network application environment. In this paper, for registration, release and retrieval methods suitable for new sensor network environment, we designed and implemented the naming agent by applying J2EE model based on RMI-IIOP(Internet Inter-ORB Protocol) technique.