• Title/Summary/Keyword: 퍼셉트론

Search Result 383, Processing Time 0.025 seconds

Enhanced Fuzzy Single Layer Perceptron (개선된 퍼지 단층 퍼셉트론)

  • Lee, Jae-Eon;Her, Joo-Yong;Kim, Kwang-Baek
    • Proceedings of the Korean Institute of Information and Commucation Sciences Conference
    • /
    • v.9 no.1
    • /
    • pp.447-452
    • /
    • 2005
  • 기존의 단층 퍼셉트론은 출력 노드가 선형 분리 가능한 패턴들만을 분류할 수 있고 Exclusive OR와 같은 비선형 문제에 대해서는 분류할 수 없는 단점이 있다. 그러나 퍼지 단층 퍼셉트론은 퍼지소속 함수(fuzzy membership function)를 적용하여 단층 구조로 Exclusive OR 문제와 같은 고전적인 문제를 개선하였다. 그러나 퍼지 단층 퍼셉트론은 기존의 단층 퍼셉트론과 마찬가지로 결정 경계선이 진동하는 경우가 생기며 초기 가중치의 범위와 학습률에 따라 수렴성이 매우 낮아지는 단점이 있다. 따라서 본 논문에서는 바이어스항을 도입하여 결정 경계선이 진동하는 것을 방지하여 수렴성을 개선시키고 선형 활성화 함수를 제안하고 학습률과 모멘텀 개념을 도입하여 학습 시간을 단축시키는 개선된 퍼지 단층 퍼셉트론 알고리즘을 제안한다. 제안된 방법과 퍼지 단층 퍼셉트론간의 학습 성능을 분석하기 위하여 인공 신경망에서 벤치마크로 사용되는 exclusive OR 문제와 문자 패턴 분류에 적용하여 epoch 수와 수렴성을 비교한 결과, 제안된 방법이 기존의 퍼지 단층 퍼셉트론보다 학습 시간이 적게 소요되고 수렴성이 개선된 것을 확인하였다.

  • PDF

Hierarchical Architecture of Multilayer Perceptrons for Performance Improvement (다층퍼셉트론의 계층적 구조를 통한 성능향상)

  • Oh, Sang-Hoon
    • The Journal of the Korea Contents Association
    • /
    • v.10 no.6
    • /
    • pp.166-174
    • /
    • 2010
  • Based on the theoretical results that multi-layer feedforward neural networks with enough hidden nodes are universal approximators, we usually use three-layer MLP's(multi-layer perceptrons) consisted of input, hidden, and output layers for many application problems. However, this conventional three-layer architecture of MLP shows poor generalization performance in some applications, which are complex with various features in an input vector. For the performance improvement, this paper proposes a hierarchical architecture of MLP especially when each part of inputs has a special information. That is, one input vector is divided into sub-vectors and each sub-vector is presented to a separate MLP. These lower-level MLPs are connected to a higher-level MLP, which has a role to do a final decision. The proposed method is verified through the simulation of protein disorder prediction problem.

Design of Multilayer Perceptrons for Pattern Classifications (패턴인식 문제에 대한 다층퍼셉트론의 설계 방법)

  • Oh, Sang-Hoon
    • The Journal of the Korea Contents Association
    • /
    • v.10 no.5
    • /
    • pp.99-106
    • /
    • 2010
  • Multilayer perceptrons(MLPs) or feed-forward neural networks are widely applied to many areas based on their function approximation capabilities. When implementing MLPs for application problems, we should determine various parameters and training methods. In this paper, we discuss the design of MLPs especially for pattern classification problems. This discussion includes how to decide the number of nodes in each layer, how to initialize the weights of MLPs, how to train MLPs among various error functions, the imbalanced data problems, and deep architecture.

An Enhanced Fuzzy Single Layer Perceptron With Linear Activation Function (선형 활성화 함수를 이용한 개선된 퍼지 단층 퍼셉트론)

  • Park, Choong-Shik;Cho, Jae-Hyun;Kim, Kwang-Baek
    • Journal of the Korea Institute of Information and Communication Engineering
    • /
    • v.11 no.7
    • /
    • pp.1387-1393
    • /
    • 2007
  • Even if the linearly separable patterns can be classified by the conventional single layer perceptron, the non-linear problems such as XOR can not be classified by it. A fuzzy single layer perceptron can solve the conventional XOR problems by applying fuzzy membership functions. However, in the fuzzy single layer perception, there are a couple disadvantages which are a decision boundary is sometimes vibrating and a convergence may be extremely lowered according to the scopes of the initial values and learning rates. In this paper, for these reasons, we proposed an enhanced fuzzy single layer perceptron algorithm that can prevent from vibration the decision boundary by introducing a bias term and can also reduce the learn time by applying the modified delta rule which include the learning rates and the momentum concept and applying the new linear activation function. Consequently, the simulation results of the XOR and pattern classification problems presented that the proposed method provided the shorter learning time and better convergence than the conventional fuzzy single layer perceptron.

A Possibilistic Perceptron Algorithm for Pattern Recognition (패턴 인식을 위한 Possibilistic 퍼셉트론 알고리즘)

  • 김미경;이정훈
    • Proceedings of the Korean Institute of Intelligent Systems Conference
    • /
    • 2001.12a
    • /
    • pp.303-306
    • /
    • 2001
  • 패턴 인식에서 선형 분류 가능한 경계면을 찾아 패턴을 분류하는 방법 중 가장 기본적인 방법은 퍼셉트론이라고 볼 수 있다. 하지만 선형 분류 불가능한 패턴에 대해서는 유용한 결과를 보여주지 못하였다. 먼저 제안된 퍼지 퍼셉트론은 베타영역 설정에 의해 수렴하지 못하는 특성을 보완하였다. 그러나 패턴의 순수한 전형성을 고려해 주지 못하는 단점이 있다. 이에 Crisp의 선형분류 특성과 퍼지의. 수렴특성을 합성하고자 Possibilistic 퍼셉트론을 제시한다.

  • PDF

Training of Hypothyroid Using Multilayer Perceptrons (다층 퍼셉트론에 의한 갑상선 질환 학습 방법 비교)

  • Oh, Sang-Hoon
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2015.05a
    • /
    • pp.65-66
    • /
    • 2015
  • 다층퍼셉트론은 학습성능이 우수하여 많은 패턴인식 문제에 응용되고 있다. 그 응용문제 중 하나인 갑상선 질환 진단 문제는 학습이 어려운 문제이다. 이 논문에서는 다층퍼셉트론으로 갑상선 진단 질환을 학습하는 여러 방법을 비교하고, 성능이 좋지 않은 원인을 토대로 성능 향상을 위한 방법을 제시하겠다.

  • PDF

Visualization of Multi Layer Perceptron Backpropagation Learning (다층 퍼셉트론 신경망의 역전파 학습 시각화)

  • Oh, Ju-Min;Choi, Yong-Suk
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2017.01a
    • /
    • pp.19-20
    • /
    • 2017
  • 인공지능이 사회적으로 대두되면서 많은 양의 관련 연구가 시작되고 있다. 본 논문에서는 다층 퍼셉트론 신경망에서 역전파 학습의 진행 과정을 시각화 하는 것을 목표로 하고 있다. 다층 퍼셉트론 신경망은 학습의 진행 과정과 그 방식은 잘 알려져 있으나 각 신경의 값이 어떻게 변화되어 가는 지는 눈에 보이지 않는다. 이러한 과정에 대해 시각화를 통해 값이 변하는 과정을 눈으로 쉽게 관찰할 수 있도록 하는 것이 이 논문의 목표이다. 본 연구결과는 향후 다층 퍼셉트론 신경망을 기반으로 하는 다른 모델의 시각화에 대한 기초자료로 활용될 수 있을 것이다.

  • PDF

A Study on the design and Structure of Multi-Layer Perceptron for Effective Classifying Objects (객체의 분류를 위한 효율적인 다층퍼셉트론의 설계 및 구조에 관한 연구)

  • Lee, Yong-Kyu;Ko, Hyeong-il;Lee, Yillbyung
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2014.11a
    • /
    • pp.803-805
    • /
    • 2014
  • 다층 퍼셉트론 분류기는 그 패턴 분류 성능이 훌륭하여 오랜 기간 동안 여러 응용분야에서 사용되어 왔다. 그러나 다른 분류기보다 학습시간이 오래 소요된다는 점이 문제로 지적받아 왔다. 따라서 본 논문은 회전하는 객체의 분류를 위하여 다층 퍼셉트론의 학습시간을 줄이는 효율적인 신경망 시스템을 제안한다. 주성분 분석법을 이용하여 원 데이터의 정보를 가장 잘 잘 나타내도록 변환한 뒤, 그 결과를 다층 퍼셉트론 분류기의 입력으로 사용하였다. 제안하는 시스템은 기존 다층 퍼셉트론 분류기와 비교하였을 때 학습시간을 줄이면서 좀 더 높은 인식률을 보였다.

An Interval Type-2 Fuzzy Perceptron for Finding Linear Decision Boundaries (선형분류 경계면을 찾기위한 Interval 제2종 퍽지퍼셉트론)

  • Hwang, Cheul;Rhee, Frank Chung-Hoon
    • Journal of the Korean Institute of Intelligent Systems
    • /
    • v.12 no.4
    • /
    • pp.294-299
    • /
    • 2002
  • This paper presents an interval type-2 fuzzy perceptron algorithm that is an extension of the type-1 fuzzy perceptron algorithm proposed in [1]. In our proposed method, the membership values for each pattern vector are extended as interval type-2 fuzzy memberships by assigning uncertainty to the type-1 memberships. By doing so, the decision boundary obtained by interval type-2 fuzzy memberships can converge to a more desirable location than the boundary obtained by crisp and type-1 fuzzy perceptron methods. Experimental results are given to show the effectiveness of our method.

Pattern Recognition of Hard Disk Defect Distribution Using Multi-Layer Perceptron Network (다층 퍼셉트론 신경망을 이용한 하드 디스크 결함 분포의 패턴 인식)

  • Moon, Un-Chul;Lee, Jae-Du
    • Journal of the Korean Institute of Illuminating and Electrical Installation Engineers
    • /
    • v.21 no.6
    • /
    • pp.94-101
    • /
    • 2007
  • In the Hard Disk Drive(HDD) production, the detect pattern or defective HDD set is important information to diagnosis of defective HDD set. This paper proposes a pattern recognition neural network for the defect distribution of HDD. In this paper, 5 characteristics are determined for the classification to six standard defect pattern classes. A multi-layer perceptron is trained for the pattern classification the inputs of which are 5 characteristic values and the 6 outputs are the nodes of standard patterns. The experiment with proposed neural network shows satisfactory results.