• 전자공학회논문지B
• /
• 제32B권3호
• /
• pp.522-532
• /
• 1995

Multilayer neural networks with backpropagation learning algorithm are widely used for pattern classification problems. For many real applications, it is more important to reduce the misclassification rate than to increase the rate of successful classification. But multilayer perceptrons(MLP's) have drawbacks of slow learning speed and false convergence to local minima. In this paper, we propose a new method for character recognition problems with a single-layer network and double rejection mechanisms, which guarantees a very low misclassification rate. Comparing to the MLP's, it yields fast learning and requires a simple hardware architecture. We also introduce a new coding scheme to reduce the misclassification rate. We have prepared two databases: one with 135,000 digit patterns and the other with 117,000 letter patterns, and have applied the proposed method for printed character recognition, which shows that the method reduces the misclassification rate significantly without sacrificing the correct recognition rate.

• 대한공간정보학회지
• /
• 제4권2호
• /
• pp.137-147
• /
• 1996

본 논문에서는 통계적 분류방법인 최대유사 분류법(MLC: maximum likelihood classifier)과 신경회로망을 이용한 분류법인 다층퍼셉트론(MLP: multiayer perceptron) 분류법간의 분류성능을 비교 평가하였으며, 또한 MLP 분류법에서 문제가 되고 있는 학습률(learning rate), 운동량 상수(,momentum constant), 은닉층의 노드수에 따른 MLP 분류법의 분류성능을 평가하였다. 부산지역에 대한 실제 인공위성 화상데이타인 Landsat TM 화상데이타를 사용하여 MLP 분류법과 MLC 분류법의 성능을 비교한 결과 MLP 분류법의 성능이 더 우사함을 확인할 수 있었으며, 학습률, 운동량 상수 및 은닉층의 노드수에 따른 분류성능도 평가하였다.

• 대한의용생체공학회:의공학회지
• /
• 제17권3호
• /
• pp.379-386
• /
• 1996

This paper describes an approach for classifying myoelectric patterns using a multilayer perceptrons (MLP's) and hidden Markov models (HMM's) hybrid classifier. The dynamic aspects of EMG are important for tasks such as continuous prosthetic control or vari- ous time length EMG signal recognition, which have not been successfully mastered by the most neural approaches. It is known that the hidden Markov model (HMM) is suitable for modeling temporal patterns. In contrasts the multilayer feedforward networks are suitable for static patterns. Ank a lot of investigators have shown that the HMM's to be an excellent tool for handling the dynamical problems. Considering these facts, we suggest the combination of MLP and HMM algorithms that might lead to further improved EMG recognition systems.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 2001년도 하계학술대회 논문집 D
• /
• pp.2030-2032
• /
• 2001

In recent years, many attempts have been made to predict the behavior of bonds, currencies, stock, or other economic markets. Most previous experiments used multilayer perceptrons(MLP) for stock market forecasting. The Kospi 200 Index is modeled using different neural networks and fuzzy system predictions. In this paper, a multilayer perceptron architecture, a dynamic polynomial neural network(DPNN) and a fuzzy system are used to predict the Kospi 200 index. The results of prediction is compared with the root mean squared error(RMSE) and the scatter plot. Results show that both networks can be trained to predict the index. And the fuzzy system is performing slightly better than DPNN and MLP.

• 한국정보처리학회논문지
• /
• 제3권3호
• /
• pp.429-438
• /
• 1996

본 논문에서는 주어진 문제를 해결하기 위해 사용될 최적의 다충 퍼센트론을 구성 하기 위한 하나의 점진적 학습 방법을 제시한다. 고정된 크기의 트레이닝 패턴 집합을 반복적으로 사용하는 기존의 알고리즘들과는 달리, 제시되는 방법에서는 학습 패턴의 수를 점차 증가시키면서 전체 데이터를 학습하기 위해 필요하고도 충분한 은닉뉴런의 수를 찾는다. 이와 같이 신경망 크기의 최적화에 학습 패턴을 점차적으로 선택하여 늘려나감으로써 일반화 능력과 학습 속도가 기존의 방법에서보다 향상됨을 필기체 숫자인식 문제에 있어서 실험적으로 보여준다.

• 한국통신학회논문지
• /
• 제30권6C호
• /
• pp.505-511
• /
• 2005

인간을 상대하는 자율장치는 고객의 자발적인 협조를 얻기 위해 암시적인 신호에 포함된 감정과 태도를 인지할 수 있어야 한다. 인간에게 음성은 가장 쉽고 자연스럽게 정보를 교환할 수 있는 수단이다. 지금까지 감정과 태도를 이해할 수 있는 자동시스템은 발성문장의 피치와 에너지에 기반한 특징을 활용하였다. 이와 같은 기존의 감정인식 시스템의 성능은 문장의 특정한 억양구간이 감정과 태도와 관련을 갖는다는 언어학적 지식의 활용으로 보다 높은 향상이 가능하다. 본 논문에서는 한국어 문미억양에 대한 언어학적 지식을 피치기반 특징과 다층신경망을 활용하여 구현한 자동시스템에 적용하여 감정인식률을 향상시킨다. 한국어 감정음성 데이터베이스를 대상으로 실험을 실시한 결과 $4\%$의 인식률 향상을 확인하였다.

• 한국멀티미디어학회논문지
• /
• 제6권1호
• /
• pp.48-57
• /
• 2003

본 연구는 hidden Markov model(HMM)과 유전알고리 즘을 갖는 MLP(multilayer perceptron) 합성 분류기를 이용한 근전 신호의 인식에 관한 연구이다. 제안된 기법에서 유전알고리즘은 전역적인 탐색으로 신경회로망의 최적의 초기 연결강도를 선택하는데, 이로 인하여 학습속도 및 인식률이 향상되게 된다. 근전 신호의 동적 특성은 연속 운동 인식처럼 신호의 길이 및 시작점과 끝점이 일정치 않고 시변성이 큰 경우에 반드시 고려되어야 하나, 일반 신경회로망에서는 이의 적용이 용이하지 않다. 따라서, 본 연구에서는 신호의 동적 특성에 대한 적응성을 갖는 HMM과 MLP 신경회로망을 결합시킨 구조를 갖는 인식기를 제안한다. 이러한 구조는 인식기의 입장에서 볼 때 HMM의 신호의 동적 특성에 대한 적응성과, MLP의 정적인 신호에 대한 우수한 분류력이 결합되어 동적인 신호에도 높은 인식율을 갖는 특성을 갖는다.

• 한국정보통신학회:학술대회논문집
• /
• 한국해양정보통신학회 2003년도 추계종합학술대회
• /
• pp.1021-1026
• /
• 2003

MLP(multilayer perceptron)는 화자증명에 대한 응용에 있어 우수한 특질을 지니고 있지만 동시에 느린 학습속도의 문제를 안고 있다. 편리한 사용을 위해 MLP에 기반한 화자증명 시스템에서는 신속한 화자등록이 요구되며 이 문제는 MLP의 빠른 학습속도에 전적으로 의존한다. 이러한 시스템에서 실시간 등록을 달성하기 위해 지금까지 두 가지 측면에서 연구가 시도되었으며 각기 의도한 목적을 달성하였다. 본 논문에서는 이 두 방법이 상이한 최적화 원리에서 동작한다는 가정 하에 이들을 결합하고 이를 MLP 기반 화자증명 시스템에 적용한다. 이러한 결합이 화자등록 속도를 더욱 향상시킬 수 있다는 사실은 한국어 음성 데이터베이스를 이용한 실험결과에서 입증된다.

• 한국통신학회논문지
• /
• 제28권5C호
• /
• pp.452-460
• /
• 2003

본 논문에서는 optimal Bayesian equalization solution인 RBF(radial basis function)를 이용한 등화기 (RE)의 구조를 보다 단순화하고, 비선형 왜곡 등의 심각한 정보 신호의 손상에 대한 보상 능력을 향상시키기 위하여 비선형 다층 결합을 갖는 RBF측 이용한 등화기(RNE)를 새로이 제안한다. 기존의 RE는 RBF로 구성된 은닉층의 출력 값을 선형 결합하여 등화기 출력을 얻는다. 이와 달리 새로이 제안하는 RNE는 기존의 RE에서 RBF로 구성된 은닉층의 출력 값에 대한 결합 기법으로 perceptron을 이용한 비선형 다층 결합을 사용한다. 제안한 equalizer를 결정궤환 방식이 있는 경우와 없는 경우의 등화기로 각각 구현한다. 실험 결과 제안한 등화기는 선형 간섭이 존재하는 디지털 통신 시스템과 비선형 왜곡이 존재하는 자기기록 시스템에서보다 간단한 구조로 기존의 optimal Bayesian 등화기와 거의 같거나 우수한 비트 오류 화률 성능 및 MSE(men squared error) 수렴 특성을 나타내었다.

• Journal of the Korean Data and Information Science Society
• /
• 제23권5호
• /
• pp.1027-1035
• /
• 2012

This paper proposes a new Levenberg-Marquardt algorithm that is accelerated by adjusting a Jacobian matrix and a quasi-Hessian matrix. The proposed method partitions the Jacobian matrix into block matrices and employs the inverse of a partitioned matrix to find the inverse of the quasi-Hessian matrix. Our method can avoid expensive operations and save memory in calculating the inverse of the quasi-Hessian matrix. It can shorten the training time for fast convergence. In our results tested in a large application, we were able to save about 20% of the training time than other algorithms.