• Title/Summary/Keyword: 복사 메커니즘

Search Result 30, Processing Time 0.025 seconds

Korean Text Summarization using MASS with Copying Mechanism (MASS와 복사 메커니즘을 이용한 한국어 문서 요약)

  • Jung, Young-Jun;Lee, Chang-Ki;Go, Woo-Young;Yoon, Han-Jun
    • Annual Conference on Human and Language Technology
    • /
    • 2020.10a
    • /
    • pp.157-161
    • /
    • 2020
  • 문서 요약(text summarization)은 주어진 문서로부터 중요하고 핵심적인 정보를 포함하는 요약문을 만들어 내는 작업으로, 기계 번역 작업에서 주로 사용되는 Sequence-to-Sequence 모델을 사용한 end-to-end 방식의 생성(abstractive) 요약 모델 연구가 활발히 진행되고 있다. 최근에는 BERT와 MASS 같은 대용량 단일 언어 데이터 기반 사전학습(pre-training) 모델을 이용하여 미세조정(fine-tuning)하는 전이 학습(transfer learning) 방법이 자연어 처리 분야에서 주로 연구되고 있다. 본 논문에서는 MASS 모델에 복사 메커니즘(copying mechanism) 방법을 적용하고, 한국어 언어 생성(language generation)을 위한 사전학습을 수행한 후, 이를 한국어 문서 요약에 적용하였다. 실험 결과, MASS 모델에 복사 메커니즘 방법을 적용한 한국어 문서 요약 모델이 기존 모델들보다 높은 성능을 보였다.

  • PDF

BERT-based Document Summarization model using Copying-Mechanism and Reinforcement Learning (복사 메커니즘과 강화 학습을 적용한 BERT 기반의 문서 요약 모델)

  • Hwang, Hyunsun;Lee, Changki;Go, Woo-Young;Yoon, Han-Jun
    • Annual Conference on Human and Language Technology
    • /
    • 2020.10a
    • /
    • pp.167-171
    • /
    • 2020
  • 문서 요약은 길이가 긴 원본 문서에서 의미를 유지한 채 짧은 문서나 문장을 얻어내는 작업을 의미한다. 딥러닝을 이용한 자연어처리 기술들이 연구됨에 따라 end-to-end 방식의 자연어 생성 모델인 sequence-to-sequence 모델을 문서 요약 생성에 적용하는 방법들이 연구되었다. 본 논문에서는 여러 자연어처리 분야에서 높은 성능을 보이고 있는 BERT 모델을 이용한 자연어 생성 모델에 복사 메커니즘과 강화 학습을 추가한 문서 요약 모델을 제안한다. 복사 메커니즘은 입력 문장의 단어들을 출력 문장에 복사하는 기술로 학습데이터에서 학습되기 힘든 고유 명사 등의 단어들에 대한 성능을 높이는 방법이다. 강화 학습은 정답 단어의 확률을 높이기 위해 학습하는 지도 학습 방법과는 달리 연속적인 단어 생성으로 얻어진 전체 문장의 보상 점수를 높이는 방향으로 학습하여 생성되는 단어 자체보다는 최종 생성된 문장이 더 중요한 자연어 생성 문제에 효과적일 수 있다. 실험결과 기존의 BERT 생성 모델 보다 복사 메커니즘과 강화 학습을 적용한 모델의 Rouge score가 더 높음을 확인 하였다.

  • PDF

Copy-Transformer model using Copy-Mechanism and Inference Penalty for Document Abstractive Summarization (복사-메커니즘과 추론 단계의 페널티를 이용한 Copy-Transformer 기반 문서 생성 요약)

  • Jeon, Donghyeon;Kang, In-Ho
    • Annual Conference on Human and Language Technology
    • /
    • 2019.10a
    • /
    • pp.301-306
    • /
    • 2019
  • 문서 생성 요약은 최근 딥러닝을 이용한 end-to-end 시스템을 통해 유망한 결과들을 보여주고 있어 연구가 활발히 진행되고 있는 자연어 처리 분야 중 하나이다. 하지만 문서 생성 요약 모델을 구성하기 위해서는 대량의 본문과 요약문 쌍의 데이터 셋이 필요한데, 이를 구축하기가 쉽지 않다. 따라서 본 논문에서는 정교한 뉴스 기사 요약 데이터 셋을 기계적으로 구축하는 방법을 제안한다. 또한 딥러닝 기반의 생성 요약은 입력 문서와 다른 정보를 생성하거나, 또는 같은 단어를 반복하여 생성하는 문제점들이 존재한다. 이를 해결하기 위해 요약문을 생성할 때 입력 문서의 내용을 인용하는 복사-메커니즘과, 추론 단계에서 단어 반복을 직접적으로 제어하는 페널티를 사용하면 상대적으로 안정적인 문장이 생성될 수 있다. 그리고 Transformer 모델은 순환 신경망 모델보다 요약문 생성 과정에서 시퀀스 길이가 긴 본문의 정보를 적절히 인코딩하여 줄 수 있는 모델이다. 따라서 본 논문에서는 복사-메커니즘과 추론 단계의 페널티를 이용한 Copy-Transformer 모델을 한국어 문서 생성 요약 데이터에 적용하였다. 네이버 지식iN 질문 요약 데이터 셋과 뉴스 기사 요약 데이터 셋 상에서 실험한 결과, 제안한 모델을 이용한 생성 요약이 비교 모델들 대비 가장 좋은 성능을 보이고 양질의 요약을 생성하는 것을 확인하였다.

  • PDF

Development and Performance Study of a Zero-Copy File Transfer Mechanism for Ink-based PC Cluster Systems (VIA 기반 PC 클러스터 시스템을 위한 무복사 파일 전송 메커니즘의 개발 및 성능분석)

  • Park Sejin;Chung Sang-Hwa;Choi Bong-Sik;Kim Sang-Moon
    • Journal of KIISE:Computer Systems and Theory
    • /
    • v.32 no.11_12
    • /
    • pp.557-565
    • /
    • 2005
  • This paper presents the development and implementation of a zero-copy file transfer mechanism that improves the efficiency of file transfers for PC cluster systems using hardware-based VIA(Virtual Interface Architecture) network adapters. VIA is one of the representative user-level communication interfaces, but because there is no library for file transfer, one copy occurs between kernel buffer and user boilers. Our mechanism presents a file transfer primitive that does not require the file system to be modified and allows the NIC to transfer data from the kernel buffer to the remote node directly without copying. To do this, we have developed a hardware-based VIA network adapter, which supports the PCI 64bit/66MHz bus and Gigabit Ethernet, as a NIC, and implemented a zero-copy file transfer mechanism. The experimental results show that the overhead of data coy and context switching in the sender is greatly reduced and the CPU utilization of the sender is reduced to $30\%\~40\%$ of the VIA send/receive mechanism. We demonstrate the performance of the zero-copy file transfer mechanism experimentally. and compare the results with those from existing file transfer mechanisms.

Using Answer-Separated Encoder And Copying Mechanism (정답 분리 인코더와 복사 메커니즘을 이용한 한국어 질문 생성)

  • Kim, Geon-Yeong;Lee, Chang-Ki
    • Annual Conference on Human and Language Technology
    • /
    • 2019.10a
    • /
    • pp.419-423
    • /
    • 2019
  • 질문과 그에 대한 근거가 있는 문서를 읽고 정답을 예측하는 기계 독해 연구가 최근 활발하게 연구되고 있다. 기계 독해 문제를 위해 주로 사용되는 방법은 다층의 신경망으로 구성된 딥러닝 모델로 좋은 성능을 위해서는 양질의 대용량 학습 데이터가 필요하다. 그러나 질과 양을 동시에 만족하는 학습 데이터를 구축하는 작업에는 많은 경제적 비용이 소모된다. 이러한 문제를 해결하기 위해, 본 논문에서는 정답 분리 인코더와 복사 메커니즘을 이용한 단답 기반 한국어 질문 자동 생성 모델을 제안한다.

  • PDF

EMI and Common-mode Current Reduction Effect by PCB-Chassis connection (PCB와 Chassis 연결에 따른 공통모드 전류와 EMI 감소효과)

  • Nam, Ki-Hoon;Shim, Min-Kyu;Ko, Eun-Kwang;Nah, Wan-Soo
    • Proceedings of the KIEE Conference
    • /
    • 2008.07a
    • /
    • pp.1442-1443
    • /
    • 2008
  • 본 논문에서는 인쇄회로기판과 도전체 샤시(Chassis)가 연결되었을 때의 복사성 방사(Radiated Emission)의 감소에 대해서 연구하였다. Current Driven 메커니즘 등가회로를 사용하여 전자파 방사의 주요한 원인중 하나인 Common-mode Current를 인쇄회로기판과 Chassis가 연결된 구조에 적용하였다. Chassis의 유무에 따라 복사성 방사의 감소를 확인하고자 2-layer 인쇄회로기판과 SECC(Steel Electro galvanized Cold-rolled Coil) 재질의 Chassis를 나사(Screw)를 통하여 전기적으로 연결하였을 때를 시뮬레이션 하였고, 제작된 구조물을 3m 무반향실에서 복사성 방사를 측정한 후 시뮬레이션과 결과를 비교하였다. 결과로 30MHz$\sim$45MHz에서 최대 10dB 감소의 효과가 있음을 확인하였다.

  • PDF

Study on the wideband mechanism of a circular ring slot antenna (원형 링슬롯 안테나의 광대역 메커니즘 연구)

  • Shin, Ho-Sub;Kim, Nam
    • Proceedings of the Korea Electromagnetic Engineering Society Conference
    • /
    • 2002.11a
    • /
    • pp.297-301
    • /
    • 2002
  • 본 논문에서는 광대역 원형 링슬롯 안테나의 광대역 특성이 일어나는 메커니즘 연구를 통해 새로운 광대역 안테나 설계 및 분석에 도움을 줄 수 있도록 하였다 먼저 기존의 광대역 안테나 및 공진회로 개념을 이용하여 새로운 광대역 안테나의 이론적인 분석을 하도록 하였으며, 기존의 광대역 안테나를 설계하는 방법(자기유사구조, 자기상보구조, 길이보다 각을 강조한 구조, 두꺼운 도체를 사용하는 구조 등)외에 최근들어 많이 연구되고 있는 안테나의 Q값을 줄이는 방법에 대해 분석 및 정리하고 본 원형 링슬롯 안테나의 복사기와 급전선사이에서 광대역이 일어나는 메커니즘에 대해서 연구하였다.

  • PDF

The Design of Kernel Mechanism for Multimedia Server (멀티미디어 서버의 커널 메커니즘 설계)

  • Nam, Sang-Jun;Lee, Byung-Rae;Chang, Kyung-Ah;Kim, Tai-Yun
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2001.04b
    • /
    • pp.763-766
    • /
    • 2001
  • 멀티미디어 서비스에 대한 사용자의 요구가 증가되고 있으나 서버 시스템은 이러한 멀티미디어 데이터에 대해 사용자들에게 효율적으로 공급하지 못한다. 본 논문에서는 기존의 운영체제에 멀티미디어 데이터 전송을 효율적으로 만족시키기 위한 방안으로 멀티미디어 데이터 처리를 SIO(Special Input/output)메커니즘을 커널에 내장하는 방법을 제안한다. SIO 메커니즘은 일반적인 서버 시스템에서 발생하는 사용자 모드와 커널 모드 사이의 데이터 복사와 문맥 교환을 줄이고, 효율적 멀티미디어 데이터 전송 구조를 지원한다.

  • PDF

The Effect of Dispersion Relations on the Determination of Surface Acoustical Wave Velocity (주파수 의존성이 표면탄성파의 속도 결정에 미치는 영향)

  • Kwon, Sung-D.;Yoon, Seok-S.;Lee, Seung-H.
    • Journal of the Korean Society for Nondestructive Testing
    • /
    • v.19 no.5
    • /
    • pp.340-346
    • /
    • 1999
  • Minimum reflection and backward radiation methods on liquid/solid interrace were used to determine the velocity dispersion relation of acoustical surface wave for brass and aluminum substrates and copper/stainless steel nickel/brass, and nickel/aluminum layered substrates. Dispersion data agreed to dispersion characteristics of a generalized Lamb wave. The difference between velocities determined by two phenomena was closely related to the dispersion characteristics. This correspondence was explained by considering the generation mechanism of surface waves and the concept of group velocity.

  • PDF

Analysis on Daily Variation Mechanism of Short-wave Radiation between Downtown and Suburban Area during Summer Season (하절기 도심과밀지역과 인근 교외지역의 단파복사 일변화 메커니즘에 대한 해석)

  • Choi, Dong-Ho;Lee, Bu-Yong;Jeong, Hyeong-Se
    • Journal of the Korean Solar Energy Society
    • /
    • v.34 no.4
    • /
    • pp.111-122
    • /
    • 2014
  • The purpose of this study is to understand daily variation of short-wave radiation trends according to the state of surface and observation of atmosphere conditions in downtown and suburban observation area. The followings are main results from this study. 1) We found out daily air temperature variation of downtown is less than that of suburban area because of bigger heat capacity of artificial elements such as massive buildings and pavements. 2) It is more effective to estimate of air condition by water vapor pressure than relative humidity in the atmosphere. 3) The difference of solar radiation ratio between downtown and suburban area is dependant on different atmosphere conditions at two observation stations.