• Title/Summary/Keyword: 주의집중 메커니즘

Search Result 10, Processing Time 0.024 seconds

A Joint Learning Model for Speech-act Analysis and Slot Filling Using Bidirectional GRU-CRF Based on Attention Mechanism (주의집중 메커니즘 기반의 양방향 GRU-CRF를 이용한 화행 분석과 슬롯 필링 공동 학습 모델)

  • Yoon, Jeongmin;Ko, Youngjoong
    • Annual Conference on Human and Language Technology
    • /
    • 2018.10a
    • /
    • pp.252-255
    • /
    • 2018
  • 화행 분석이란 자연어 발화를 통해 나타나는 화자의 의도를 파악하는 것을 말하며, 슬롯 필링이란 자연어 발화에서 도메인에 맞는 정보를 추출하기 위해 미리 정의되어진 슬롯에 대한 값을 찾는 것을 말한다. 최근 화행 분석과 슬롯 필링 연구는 딥 러닝 기반의 공동 학습을 이용하는 연구가 많이 이루어지고 있고 본 논문에서는 한국어 특허상담 도메인 대화 말뭉치를 이용하여 공동 학습 모델을 구축하고 개별적인 모델과 성능을 비교한다. 또한 추가적으로 공동 학습 모델에 주의집중 메커니즘을 적용하여 성능이 향상됨을 보인다. 최종적으로 주의집중 메커니즘 기반의 공동 학습 모델이 기준 모델과 비교하여 화행 분류와 슬롯 필링 성능이 각각 3.35%p, 0.54%p 향상되어 85.41%, 80.94%의 성능을 얻었다.

  • PDF

Attention based multimodal model for Korean speech recognition post-editing (한국어 음성인식 후처리를 위한 주의집중 기반의 멀티모달 모델)

  • Jeong, Yeong-Seok;Oh, Byoung-Doo;Heo, Tak-Sung;Choi, Jeong-Myeong;Kim, Yu-Seop
    • Annual Conference on Human and Language Technology
    • /
    • 2020.10a
    • /
    • pp.145-150
    • /
    • 2020
  • 최근 음성인식 분야에서 신경망 기반의 종단간 모델이 제안되고 있다. 해당 모델들은 음성을 직접 입력받아 전사된 문장을 생성한다. 음성을 직접 입력받는 모델의 특성상 데이터의 품질이 모델의 성능에 많은 영향을 준다. 본 논문에서는 이러한 종단간 모델의 문제점을 해결하고자 음성인식 결과를 후처리하기 위한 멀티모달 기반 모델을 제안한다. 제안 모델은 음성과 전사된 문장을 입력 받는다. 입력된 각각의 데이터는 Encoder를 통해 자질을 추출하고 주의집중 메커니즘을 통해 Decoder로 추출된 정보를 전달한다. Decoder에서는 전달받은 주의집중 메커니즘의 결과를 바탕으로 후처리된 토큰을 생성한다. 본 논문에서는 후처리 모델의 성능을 평가하기 위해 word error rate를 사용했으며, 실험결과 Google cloud speech to text모델에 비해 word error rate가 8% 감소한 것을 확인했다.

  • PDF

Coverage Modeling in Neural Machine Translation using Orthogonal Regularization (직교 정규화를 이용한 신경망 기계 번역에서의 커버리지 모델링)

  • Lee, Yo-Han;Kim, Young-Kil
    • Annual Conference on Human and Language Technology
    • /
    • 2018.10a
    • /
    • pp.561-566
    • /
    • 2018
  • 최근 신경망 번역 모델에 주의 집중 네트워크가 제안되어 기존의 기계 번역 모델인 규칙 기반 번역 모델, 통계적 번역 모델에 비해 높은 번역 성능을 보이고 있다. 그러나 주의 집중 네트워크가 잘못 모델링되는 경우 과소 번역 현상이 나타난다. 신경망 번역 모델에 커버리지 메커니즘을 추가하여 과소 번역 현상을 완화하는 연구가 진행되었으나 이는 모델의 구조를 변경해야하는 불편함이 있다. 본 논문에서는 신경망 번역 모델의 구조를 변경하지 않고 새로운 손실 함수를 정의하여 과소 번역 현상을 완화하는 방법을 제안한다. 한-영 번역 실험을 통해 제안한 주의 집중 네트워크의 정규화 방법이 커버리지 메커니즘의 목적을 효율적으로 달성함을 보인다.

  • PDF

Snoring sound detection method using attention-based convolutional bidirectional gated recurrent unit (주의집중 기반의 합성곱 양방향 게이트 순환 유닛을 이용한 코골이 소리 검출 방식)

  • Kim, Min-Soo;Lee, Gi Yong;Kim, Hyoung-Gook
    • The Journal of the Acoustical Society of Korea
    • /
    • v.40 no.2
    • /
    • pp.155-160
    • /
    • 2021
  • This paper proposes an automatic method for detecting snore sound, one of the important symptoms of sleep apnea patients. In the proposed method, sound signals generated during sleep are input to detect a sound generation section, and a spectrogram transformed from the detected sound section is applied to a classifier based on a Convolutional Bidirectional Gated Recurrent Unit (CBGRU) with attention mechanism. The applied attention mechanism improved the snoring sound detection performance by extending the CBGRU model to learn discriminative feature representation for the snoring detection. The experimental results show that the proposed snoring detection method improves the accuracy by approximately 3.1 % ~ 5.5 % than existing method.

Electroencephalogram-based emotional stress recognition according to audiovisual stimulation using spatial frequency convolutional gated transformer (공간 주파수 합성곱 게이트 트랜스포머를 이용한 시청각 자극에 따른 뇌전도 기반 감정적 스트레스 인식)

  • Kim, Hyoung-Gook;Jeong, Dong-Ki;Kim, Jin Young
    • The Journal of the Acoustical Society of Korea
    • /
    • v.41 no.5
    • /
    • pp.518-524
    • /
    • 2022
  • In this paper, we propose a method for combining convolutional neural networks and attention mechanism to improve the recognition performance of emotional stress from Electroencephalogram (EGG) signals. In the proposed method, EEG signals are decomposed into five frequency domains, and spatial information of EEG features is obtained by applying a convolutional neural network layer to each frequency domain. As a next step, salient frequency information is learned in each frequency band using a gate transformer-based attention mechanism, and complementary frequency information is further learned through inter-frequency mapping to reflect it in the final attention representation. Through an EEG stress recognition experiment involving a DEAP dataset and six subjects, we show that the proposed method is effective in improving EEG-based stress recognition performance compared to the existing methods.

Improved Deep Biaffine Attention for Korean Dependency Parsing (한국어 의존 구문 분석을 위한 개선된 Deep Biaffine Attention)

  • O, Dongsuk;Woo, Jongseong;Lee, Byungwoo;Kim, Kyungsun
    • Annual Conference on Human and Language Technology
    • /
    • 2018.10a
    • /
    • pp.608-610
    • /
    • 2018
  • 한국어 의존 구문 분석(Dependency Parsing)은 문장 어절의 중심어(head)와 수식어(modifier)의 의존관계를 표현하는 자연어 분석 방법이다. 최근에는 이러한 의존 관계를 표현하기 위해 주의 집중 메커니즘(Attention Mechanism)과 LSTM(Long Short Term Memory)을 결합한 모델들이 높은 성능을 보이고 있다. 본 논문에서는 개선된 Biaffine Attention 의존 구문 분석 모델을 제안한다. 제안된 모델은 기존의 Biaffine Attention에서 의존성과 의존 관계를 결정하는 방법을 개선하였고, 한국어 의존 구문 분석을 위한 입력 열의 형태소 표상을 확장함으로써 기존의 모델보다 UAS(Unlabeled Attachment Score)가 0.15%p 더 높은 성능을 보였다.

  • PDF

LVLN : A Landmark-Based Deep Neural Network Model for Vision-and-Language Navigation (LVLN: 시각-언어 이동을 위한 랜드마크 기반의 심층 신경망 모델)

  • Hwang, Jisu;Kim, Incheol
    • KIPS Transactions on Software and Data Engineering
    • /
    • v.8 no.9
    • /
    • pp.379-390
    • /
    • 2019
  • In this paper, we propose a novel deep neural network model for Vision-and-Language Navigation (VLN) named LVLN (Landmark-based VLN). In addition to both visual features extracted from input images and linguistic features extracted from the natural language instructions, this model makes use of information about places and landmark objects detected from images. The model also applies a context-based attention mechanism in order to associate each entity mentioned in the instruction, the corresponding region of interest (ROI) in the image, and the corresponding place and landmark object detected from the image with each other. Moreover, in order to improve the success rate of arriving the target goal, the model adopts a progress monitor module for checking substantial approach to the target goal. Conducting experiments with the Matterport3D simulator and the Room-to-Room (R2R) benchmark dataset, we demonstrate high performance of the proposed model.

민영화정책(民營化政策)의 핵심논쟁(核心論爭)에 관한 소고(小考)

  • Yu, Seung-Min
    • KDI Journal of Economic Policy
    • /
    • v.18 no.1
    • /
    • pp.149-215
    • /
    • 1996
  • 현행 민영화정책이 공기업의 효율성제고를 최우선 목표로 설정한 것은 타당한 선택이었음에도 불구하고, 경제력집중 심화에 대한 우려와 주식시장의 제약 등을 이유로 민영화정책은 그 추진실적이 부진하고 향후 지속 여부가 불투명한 것이 현실이다. 본(本) 논문(論文)은 우리나라 공기업민영화를 둘러싼 논쟁의 핵심인 경제력집중(經齊力集中), 경쟁도입(競爭導入), 주식시장여건(株式市場與件) 등이 공기업민영화와 관련하여 어떻게 이해되어야 할 것이며, 바람직한 정책대응(政策對應)은 무엇인지를 논의하고 있다. 재산권이론(財産權理論)을 동원하여 주인(主人) 있는 경영(經營)의 의미를 재해석할 때, 기업지배(企業支配) 통제구조(統制構造)의 정착이 요원한 우리 현실에서 민영화가 기업효율을 제고하려면 민간대주주(民間大株主)의 지배(支配)를 인정하는 방식이 최선책(最善策)이며, 소유가 분산되고 전문경영체제(專門經營體制)를 도입하는 민영화방식은 지배구조(支配構造)의 실패가능성(失敗可能性) 때문에 차선책(次善策)이라고 평가된다. 그러나 효율성 차원의 최선책은 경제력집중이라는 국민경제적 비용을 초래하므로, 정부로서는 경제력 집중이라는 비용(費用)과 효율성이라는 편익(便益)을 조화시키는 방안을 모색할 수밖에 없다. 이 경우 정부가 고려할 보완책(補完策)으로는 감자후(減資後) 민영화(民營化)와 분할민영화(分割民營化)가 있다. 한편 자연독점의 특성이 뚜렷한 일부 네트워크사업분야를 제외하면, 민영화시 경쟁도입(競爭導入)은 기업효율성과 국민경제의 배분효율성을 제고하므로 정부로서는 당연한 선택일 것이다. 경쟁은 공기업의 인수자격규제에 있어서도 새로운 기준을 제시하는데, 민영화를 정부(政府)와 민간(民間)사이의 M&A로 이해하고 경쟁제한적(競爭制限的) 기업결합(企業結合)을 규제하는 공정거래법(公正去來法)의 정신(精神)이 인수자격규제기준이 되어야 하며, 업종전문화(業種專門化) 발상(發想)에 근거한 인수자격규제는 득보(得)다 실(失)이 클 것이다. 아직도 자생적 성장기반이 취약한 주식시장의 제약에 따라 민영화일정의 탄력적인 조정은 불가피하지만, 정부는 상장(上場)의 필요성(必要性)을 재검토하고, 매각(賣却)의 우선순위(優先順位)를 조정하며, 무엇보다도 양질(良質)의 주식(柱式) 공급(供給)이 수요(需要)를 창출하는 메커니즘을 개발해야한다. 이와 함께 본(本) 논문(論文)은 현행 추진체계(推進體系)에 내재된 민영화의 지연가능성이 심각한 문제임을 지적하였고, 대규모 공기업의 민영화가 대기업(大企業)의 새로운 전형(典型)을 창출하여 한국자본주의(韓國資本主義)의 건전한 발전을 앞당기는 역사적 기회라는 점을 강조하고 있다. 마지막으로 재벌인수가 가능한 경우와 규제되어야 할 각각의 경우에 대하여 민영화정책(民營化政策)의 '체크리스트'를 제시하고 있다.

  • PDF

The Moderating Effects of Managerial Coaching between Job Characteristics and Job Performance (직무특성과 직무성과 간의 관계에 미치는 코칭 리더십의 조절효과)

  • Woo, Hyung-Rok
    • The Journal of the Korea Contents Association
    • /
    • v.15 no.10
    • /
    • pp.425-435
    • /
    • 2015
  • While managerial coaching has increased popularly as an effective leadership initiative in organization, the relationship between managerial coaching and its effects on performance has not been scholarly well defined. This study examined the role of managerial coaching as a moderator between job characteristics and job performance. Based on the sample of 453 employees in a financial firm, HLM was conducted to test the research model at multiple levels of organizational hierarchies. First, we found that managerial coaching has a direct impact on employee performance. Second, the strength of the relationship between job meaningfulness and job performance is positively related to the level of managerial coaching. Third, managerial coaching positively moderates the association between autonomy and job performance. However, any cross-level moderating effects of managerial coaching on the relationship between feedback and job performance is not observed. These results show that managerial coaching by managers could promote employees' performance through maximizing the impact of job characteristics on employees' motivation.

Usefulness of Meyerhold's 'Biomechanics' as an Alternative for a Method of Actor Training II - Focused on the Actual Training Program of 'Biomechanics' (배우 훈련 방법의 대안으로서 메이어홀드 '인체역학'의 효용성 II - '인체역학'의 실제 훈련 프로그램을 중심으로)

  • Cho, Han-Jun
    • The Journal of the Korea Contents Association
    • /
    • v.14 no.11
    • /
    • pp.89-101
    • /
    • 2014
  • The 'Biomechanics', which was devised to systematically train actor's material and medium, is evaluated as the first approach to an acting method in earnest with Stanislavsky's 'System'. Especially, due to the psycho-physical features of 'Biomechanics' that helps an actor to master a mechanism of human being such as stimulus, impulse and reaction, it was valued as an alternative for a naturalistic acting method that was excessively focused on the actor's emotional expression. However, the 'Biomechanics' is not utilized with activity in a field of actor training in Korea compared with Stanislavsky's 'The Method of Physical Action' which has a similar starting point as the psycho-physical feature. It is because of a political reason that a study for Meyerhold was officially forbidden in Russia until the mid-twentieth century. It is also because of a limit that incorporeal features of the 'Biomechanics' could not but be explained only by publications, especially translation. In this sense, as part of seeking for a new alternative of acting methods in Korea, this study will explore a possibility of applying the 'Biomechanics' to the actual actor training field through correct understanding of it.