• Title/Summary/Keyword: 신경망 결합

Search Result 476, Processing Time 0.024 seconds

Speciated Neural Networks Evolved by Fitness Sharing (적합도 공유에 의해 진화한 종분화 신경망)

  • 안준현;조성배
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2000.10b
    • /
    • pp.12-14
    • /
    • 2000
  • 기존 진화 신경망 연구는 마지막 세대에서 최적의 신경망을 찾는 연구가 대부분이었다. 하지만 이 방법은 마지막 세대의 다른 신경망들이 진화와 학습을 통해 얻은 정보를 모두 무시한다. 최근에는 가능한 많은 정보를 이용해서 보다 뛰어난 성능의 시스템을 구축하기 위해, 마지막 세대의 모든 신경망들의 정보를 결합하는 다중 신경망에 관한 연구가 진행되고 있다. 효과적인 다중 신경망을 구축하기 위해서는 다양한 신경망들이 다중 신경망을 구성해서 서로 보완해 주도록 하여야 하는데, 아직까지 효과적인 다중 신경망 구축 방법은 나오지 않고 있다. 본 연구는 유전자 연산에서 다양한 해를 찾기 위해 사용하는 종분화를 이용해서 다양한 신경망들이 생성되도록 하는 다중 신경망 구축방법을 제안하고 실험을 통해 이 방법의 효용성을 보인다.

  • PDF

Generative Korean Inverse Text Normalization Model Combining a Bi-LSTM Auxiliary Model (Bi-LSTM 보조 신경망 모델을 결합한 생성형 한국어 Inverse Text Normalization 모델)

  • Jeongje Jo;Dongsu Shin;Kyeongbin Jo;Youngsub Han;Byoungki Jeon
    • Annual Conference on Human and Language Technology
    • /
    • 2023.10a
    • /
    • pp.716-721
    • /
    • 2023
  • Inverse Text Normalization(ITN) 모델은 음성 인식(STT) 엔진의 중요한 후처리 영역 중 하나이며, STT 인식 결과의 가독성을 개선한다. 최근 ITN 모델에 심층신경망을 활용한 연구가 진행되고 있다. 심층 신경망을 사용하는 대부분의 선행연구는 문장 내 변환이 필요한 부분에 토큰 태깅을 진행하는 방식이다. 그러나 이는 Out-of-vocabulary(OOV) 이슈가 있으며, 학습 데이터 구축 시 토큰 단위의 섬세한 태깅 작업이 필요하다는 한계점이 존재한다. 더불어 선행 연구에서는 STT 인식 결과를 그대로 사용하는데, 이는 띄어쓰기가 중요한 한국어 ITN 처리에 변환 성능을 보장할 수 없다. 본 연구에서는 BART 기반 생성 모델로 생성형 ITN 모델을 구축하였고, Bi-LSTM 기반 보조 신경망 모델을 결합하여 STT 인식 결과에 대한 고유명사 처리, 띄어쓰기 교정 기능을 보완한 모델을 제안한다. 또한 보조 신경망을 통해 생성 모델 처리 여부를 판단하여 평균 추론 속도를 개선하였다. 실험을 통해 두 모델의 각 정량 성능 지표에서 우수한 성능을 확인하였고 결과적으로 본 연구에서 제안하는 두 모델의 결합된 방법론의 효과성을 제시하였다.

  • PDF

A Comparison on the Learning Effect of Simulated Nonlinear Data Using a Modified Generic and Backpropagation Algorithm (개선된 유전자 알고리즘과 역전파 신경망 알고리즘을 이용한 비선형 모의자료의 학습비교)

  • Yoon, Yeo-Chang
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2005.07b
    • /
    • pp.694-696
    • /
    • 2005
  • 본 논문에서는 개선된 유전자 알고리즘과 역전파 신경망 알고리즘의 특징을 살펴보고, 비선형 모의자료를 이용하여 개선된 유전자 알고리즘 기반의 신경망 학습 효과와 역전파 신경망 알고리즘을 이용한 신경망 학습 효과를 비교해 본다. 유전자 알고리즘을 이용한 신경망 학습에는 개선된 신경망 제어기를 이용한다. 역전파 알고리즘을 이용한 신경망 학습에는 일반화 성능향상을 위한 인자들의 결합효과를 이용한다. 모의실험을 통하여 두 가지의 학습에서 학습 수령의 정도와 학습 속도 등을 비교하는 모의실험 결과를 개선된 유전자 알고리즘과 신경망 알고리즘의 학습 결과와 항께 제시한다. 모의실험의 결과로서 유전자 알고리즘을 적용한 개선된 신경망 제어기를 통한 학습 결과가 일반 신경망 학습 결과보다 초기 가중값을 작은 범위에서 발생시킬 때 수렴 정확도 및 학습 속도에서 좋은 결과를 나타내 주고 있다.

  • PDF

인공신경망간의 결합에 의한 시계열 모형화에 관한 연구

  • 오상봉
    • Proceedings of the Korea Society for Industrial Systems Conference
    • /
    • 1998.10a
    • /
    • pp.665-670
    • /
    • 1998
  • 본 연구에서는 시계열자료의 ARMA 모형화를 위해 의사결정트리 분류기상에 존재하는 인공신경망의 구조를 개선하여 이들 각각의 인공신경망으로부터 도출된 결과를 Dempster's rule of combination을 이용하여 결합할 수 있는 방법론을 제시하고 있다. 인공신경망을 이용한 기존의 ARMA 모형화 방법과 비교한 결과, 본 연구에서는 제시한 방법이 주어진 ESACF 특성패턴에 대해 보다 정확하게 ARMA 모형화를 하는 것으로 나타났다.

A Method for ${\gamma}$-Spectrum Classification Based on Neural Networks for Neutron-Type Security Device (중성자 보안검색 장치를 위한 신경망 기반의 ${\gamma}$-스펙트럼 분류 방법)

  • Choi, Chang-Rak;Kim, Ji-Soo;Kim, Soo-Hyung;Sim, Cheul-Muu
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2007.10c
    • /
    • pp.451-454
    • /
    • 2007
  • 본 논문은 한국 원자력 연구소 중성자 스펙트럼 패턴을 분류하는 시스템에 신경망(Neural Networks)을 적용하였다. 중성자 스펙트럼 분석시 3개의 신경망을 하나로 결합하여 각 신경망의 인식률을 확인하였다. 신경망1은 폭발물 판별을, 신경망2는 폭발물의 종류를, 신경망3은 비 폭발물 종류를 구별하도록 시스템을 설계하였다. 중성자 스펙트럼을 통해 실험한 결과 신경망1은 83.48%를, 신경망2는 84.6%를, 신경망3은 91.67%의 인식률을 얻어 본 논문에서 제안한 시스템의 우수성을 입증하였다.

  • PDF

A study on performance improvement of neural network using output probability of HMM (HMM의 출력확률을 이용한 신경회로망의 성능향상에 관한 연구)

  • 표창수;김창근;허강인
    • Proceedings of the Korea Institute of Convergence Signal Processing
    • /
    • 2000.08a
    • /
    • pp.157-160
    • /
    • 2000
  • 본 논문은 HMM(Hidden Markov Model)을 이용하여 인식을 수행할 경우의 오류를 최소화 할 수 있는 후처리 과정으로 신경망을 결합시켜 HMM 단독으로 사용하였을 때 보다 높은 인식률을 얻을 수 있는 HMM과 신경망의 하이브리드시스템을 제안한다. HMM을 이용하여 학습한 후 학습에 참여하지 않은 데이터를 인식하였을 때 오인식 데이터를 정인식으로 인식하도록 HMM의 출력으로 얻은 각 출력확률을 후처리에 사용될 MLP(Multilayer Perceptrons)의 학습용으로 사용하여 MLP를 학습하여 HMM과 MLP을 결합한 하이브리드 모델을 만든다. 이와 같은 HMM과 신경망을 결합한 하이브리드 모델을 사용하여 단독 숫자음과 4연 숫자음 데이터에서 실험한 결과 HMM 단독으로 사용하였을 때 보다 각각 약 4.5%, 1.3%의 인식률 향상이 있었다. 기존의 하이브리드 시스템이 갖는 많은 학습시간이 소요되는 문제점과 실시간 음성인식시스템을 구현할 때의 학습데이터의 부족으로 인한 인식률 저하를 해결할 수 있는 방법임을 확인할 수 있었다.

  • PDF

Customer List Segmentation Using the Combined Response Modeling (결합 리스펀스 모델링을 이용한 고객리스트 세분화)

  • Eui-ho Seo;Kap-chel Noh;Eung-beom Lee
    • Asia Marketing Journal
    • /
    • v.1 no.2
    • /
    • pp.19-35
    • /
    • 1999
  • 데이터베이스 마케팅 전략을 수립하고 집행함에 있어서 고객에게 접근하기 위한 촉진 매체로써 직접우편(Direct Mail)과 텔레 마케팅 등의 직접반응매체를 주요 수단으로 하는 경우 이를 다이렉트 마케팅이라고 한다. 다른 마케팅 전략들과 마찬가지로 다이렉트 마케팅에서도 마케팅 자원이 효과적으로 사용될 수 있도록 고객 데이터베이스를 세분화하는 작업을 수행한다. 리스펀스 모델링(Response Modeling)은 다이렉트 마케팅분야에서 고객리스트를 세분화하고 각 세그멘트별로 고객의 반응(구매행위)을 예측하는 기법을 말하며 RFM(Recency, Frequency, Monetary), 로지스틱, 신경망은 리스펀스 모델링을 위해서 가장 널리 사용되고 있는 기법이다. 과거에 이들 방법은 고객 데이터베이스 전체에 단독 모델로 적용되어 왔으나 이러한 단독 모델을 고객 데이터베이스에 적용하는 것이 정당화 되려면 고객들이 동일한 방식으로 반응한다는 전제가 필요하다. 그러나 일반적으로 고객의 반응방식에는 상당한 이질성이 존재한다. 예컨대 직업, 나이, 소득, 성별 등이 같다고 해서 같은 구매패턴을 보이지는 않는다는 것이다. 즉 고객A의 구매행위는 회귀선에 의해서 잘 설명되는 반면에 고객B는 신경망이나 RFM으로 잘 설명될 수 있는 경우가 존재하는 것이다. 이러한 구매행위의 이질성을 반영하기 위해서 최근에는 두개 이상의 방법을 결합하여 사용하는 결합 리스펀스 모델링 방법도 시도 되어 왔다. 그러나 결합 리스펀스 모델링에 관한 기존 연구들은 상관관계가 낮은 모델들을 결합함으로써 세분화의 효과를 단독 모델을 사용할 때 보다 개선할 수 있다고는 하였으나 구체적으로 어떤 모델들이 서로 낮은 상관관계를 갖는지는 보여주지 못하였다. 본 논문에서는 RFM 방법을 모델 내에서 사용하는 변수와 이를 이용한 모델링 방법상의 차이로 인하여 다른 두 방법(로지스틱, 신경망)과 매우 낮은 상관관계를 갖는 방법으로 제시하고 RFM과 다른 두 방법간의 낮은 상관관계를 이용하여 결합하는 경우 모델의 예측효과를 상당히 개선할 수 있음을 사례분석을 통해서 보이고자 한다.

  • PDF

Isolated Digit Recognition Combined with Recurrent Neural Prediction Models and Chaotic Neural Networks (회귀예측 신경모델과 카오스 신경회로망을 결합한 고립 숫자음 인식)

  • Kim, Seok-Hyun;Ryeo, Ji-Hwan
    • Journal of the Korean Institute of Intelligent Systems
    • /
    • v.8 no.6
    • /
    • pp.129-135
    • /
    • 1998
  • In this paper, the recognition rate of isolated digits has been improved using the multiple neural networks combined with chaotic recurrent neural networks and MLP. Generally, the recognition rate has been increased from 1.2% to 2.5%. The experiments tell that the recognition rate is increased because MLP and CRNN(chaotic recurrent neural network) compensate for each other. Besides this, the chaotic dynamic properties have helped more in speech recognition. The best recognition rate is when the algorithm combined with MLP and chaotic multiple recurrent neural network has been used. However, in the respect of simple algorithm and reliability, the multiple neural networks combined with MLP and chaotic single recurrent neural networks have better properties. Largely, MLP has very good recognition rate in korean digits "il", "oh", while the chaotic recurrent neural network has best recognition in "young", "sam", "chil".

  • PDF

A Multiple SVM Classifier Combined With Neural Networks (신경망을 결합한 다중 SVM 분류기)

  • 고재필;김승태;김은주;변혜란
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2001.10b
    • /
    • pp.163-165
    • /
    • 2001
  • 최근 기계학습 분야에서 커널머신을 이용한 대표적 학습기로서 Support Vector Machine(SVM)이 주목받고 있다. SVM은 통계학자인 Vapnik에 의해 제안된 것으로 통계적 학습이론에 기반 하여 뛰어난 일반화 성능을 보여준다. 그러나. SVM은 2클래tm 분류기이므로 일반적인 다중 클래스 패턴인식 문제에 적용할 수 없다. 본 논문에서는 이를 해결하기 위해 SVM을 신경망과 결합하여 다중 클래스 분류기로 확장하는 방법을 새롭게 제안한다. 제안하는 분류기의 성능을 비교하기 위하여 ORL얼굴 데이터를 이용하여 제안하는 분류기와 기존의 대표적인 다중 SVM, 신경망, PCA를 적응한 얼굴인식 실험을 수행하였다. 실험결과 제안하는 분류기를 이용한 얼굴인식률이 기존의 다중 SVM을 이용한 경우보다 3%, 신경망을 이용한 경우보다 6% 높은 수치를 보였다.

  • PDF

Neural Network Model of Electron Temperature for Hemispherical Inductively Coupled Plasma Equipment (반구형 유도결합플라즈마 장비의 전자온도 신경망 모델)

  • Kim, Su-Yeon;Kim, U-Seok;Kim, Byeong-Hwan
    • Proceedings of the Korean Institute of Surface Engineering Conference
    • /
    • 2007.04a
    • /
    • pp.165-166
    • /
    • 2007
  • 신경망을 이용하여 반구형 유도결합형 플라즈마 장비에 대한 전자온도의 예측모델을 개발하였다. 신경망으로는 Radial Basis Function Network을 이용하였고, 신경망의 예측성능은 유전자 알고리즘을 이용하여 최적화하였다. 체계적인 모델링을 위해 $2^4$ 전 인자 (Full Factorial) 실험획법을 이용하여 $Cl_2$ 플라즈마에서의 데이터를 수집하였다. 최적화된 전자온도 모델의 예측성능은 0.143 eV이었다. 개발된 모델을 이용하여 공정변수에 따른 예측온도의 영향을 고찰하였다. 소스전력과 압력의 변화에 따른 전자온도의 변화는 작았다. 그러나 $Cl_2$ 유량과 특히 척위치의 증가에 따른 전자온도의 증가는 현저하였으며, 이는 고이온밀도의 형성에 기인하는 것으로 해석되었다.

  • PDF