• Title/Summary/Keyword: 다층퍼셉트론

Search Result 302, Processing Time 0.055 seconds

Hierarchical Architecture of Multilayer Perceptrons for Performance Improvement (다층퍼셉트론의 계층적 구조를 통한 성능향상)

  • Oh, Sang-Hoon
    • The Journal of the Korea Contents Association
    • /
    • v.10 no.6
    • /
    • pp.166-174
    • /
    • 2010
  • Based on the theoretical results that multi-layer feedforward neural networks with enough hidden nodes are universal approximators, we usually use three-layer MLP's(multi-layer perceptrons) consisted of input, hidden, and output layers for many application problems. However, this conventional three-layer architecture of MLP shows poor generalization performance in some applications, which are complex with various features in an input vector. For the performance improvement, this paper proposes a hierarchical architecture of MLP especially when each part of inputs has a special information. That is, one input vector is divided into sub-vectors and each sub-vector is presented to a separate MLP. These lower-level MLPs are connected to a higher-level MLP, which has a role to do a final decision. The proposed method is verified through the simulation of protein disorder prediction problem.

Design of Multilayer Perceptrons for Pattern Classifications (패턴인식 문제에 대한 다층퍼셉트론의 설계 방법)

  • Oh, Sang-Hoon
    • The Journal of the Korea Contents Association
    • /
    • v.10 no.5
    • /
    • pp.99-106
    • /
    • 2010
  • Multilayer perceptrons(MLPs) or feed-forward neural networks are widely applied to many areas based on their function approximation capabilities. When implementing MLPs for application problems, we should determine various parameters and training methods. In this paper, we discuss the design of MLPs especially for pattern classification problems. This discussion includes how to decide the number of nodes in each layer, how to initialize the weights of MLPs, how to train MLPs among various error functions, the imbalanced data problems, and deep architecture.

Training of Hypothyroid Using Multilayer Perceptrons (다층 퍼셉트론에 의한 갑상선 질환 학습 방법 비교)

  • Oh, Sang-Hoon
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2015.05a
    • /
    • pp.65-66
    • /
    • 2015
  • 다층퍼셉트론은 학습성능이 우수하여 많은 패턴인식 문제에 응용되고 있다. 그 응용문제 중 하나인 갑상선 질환 진단 문제는 학습이 어려운 문제이다. 이 논문에서는 다층퍼셉트론으로 갑상선 진단 질환을 학습하는 여러 방법을 비교하고, 성능이 좋지 않은 원인을 토대로 성능 향상을 위한 방법을 제시하겠다.

  • PDF

A Study on the design and Structure of Multi-Layer Perceptron for Effective Classifying Objects (객체의 분류를 위한 효율적인 다층퍼셉트론의 설계 및 구조에 관한 연구)

  • Lee, Yong-Kyu;Ko, Hyeong-il;Lee, Yillbyung
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2014.11a
    • /
    • pp.803-805
    • /
    • 2014
  • 다층 퍼셉트론 분류기는 그 패턴 분류 성능이 훌륭하여 오랜 기간 동안 여러 응용분야에서 사용되어 왔다. 그러나 다른 분류기보다 학습시간이 오래 소요된다는 점이 문제로 지적받아 왔다. 따라서 본 논문은 회전하는 객체의 분류를 위하여 다층 퍼셉트론의 학습시간을 줄이는 효율적인 신경망 시스템을 제안한다. 주성분 분석법을 이용하여 원 데이터의 정보를 가장 잘 잘 나타내도록 변환한 뒤, 그 결과를 다층 퍼셉트론 분류기의 입력으로 사용하였다. 제안하는 시스템은 기존 다층 퍼셉트론 분류기와 비교하였을 때 학습시간을 줄이면서 좀 더 높은 인식률을 보였다.

Increasing Output Nodes for Performance Improvement of Multilayer Perceptrons (다층퍼셉트론의 성능향상을 위한 출력노드 수 증가)

  • Oh, Sang-Hoon
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2006.11a
    • /
    • pp.13-15
    • /
    • 2006
  • When we use multilayer perceptron model for pattern classification probmems, we allocate one output node for each class. In this paper, we increase the number of output nodes for each class and investigate the performance of multilayer perceptrons through the simulation of isolated-word recognition problems.

  • PDF

Performance Improvement of Multilayer Perceptrons with Increased Output Nodes (다층퍼셉트론의 출력 노드 수 증가에 의한 성능 향상)

  • Oh, Sang-Hoon
    • The Journal of the Korea Contents Association
    • /
    • v.9 no.1
    • /
    • pp.123-130
    • /
    • 2009
  • When we apply MLPs(multilayer perceptrons) to pattern classification problems, we generally allocate one output node for each class and the index of output node denotes a class. On the contrary, in this paper, we propose to increase the number of output nodes per each class for performance improvement of MLPs. For theoretical backgrounds, we derive the misclassification probability in two class problems with additional outputs under the assumption that the two classes have equal probability and outputs are uniformly distributed in each class. Also, simulations of 50 isolated-word recognition show the effectiveness of our method.

Traffic Sign Recognition Using Color Information and Neural Network with Multi-layer Perceptron (컬러정보와 다층퍼셉트론 신경망을 이용한 교통표지판 인식)

  • Bang, Gul-Won;Kang, Dea-Yook;Kim, Byung-Ki;Cho, Wan-Hyun
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2007.05a
    • /
    • pp.305-308
    • /
    • 2007
  • 본 논문은 교통표지판을 자동으로 인식하는 방법에 관한 연구로 기존의 교통표지판 인식시스템에서는 인식하는데 걸리는 시간이 길고 잡음환경에서 인식률이 저하되며 변경된 교통표지판은 인식하지 못하는 문제점이 있다. 본 논문에서는 이와 같은 문제점을 해결하기위해 컬러정보를 이용하여 교통표지판 영역을 추출하고 추출된 이미지를 인식하는데 다층퍼셉트론 신경망 알고리즘을 적용하여 교통표지판 인식시스템을 제안한다. 제안된 방법은 교통표지판의 컬러를 분석하여 영상에서 교통표지판 영역을 추출한다. 영역을 추출하는 방법은 RGB 컬러 공간으로부터 YUV, YIQ, CMYK 컬러 공간이 가지는 특성을 이용한다. 형태처리는 교통표지판의 기하학적 특성을 이용하여 군집화한다. 교통표지판 인식은 학습이 가능한 다층퍼셉트론의 오류역전파알고리즘을 적용하여 인식한다. 다층퍼셉트론 신경망 알고리즘은 패턴인식 분야에서 우수한 성능이 입증 되었다.

  • PDF

Visualization of Multi Layer Perceptron Backpropagation Learning (다층 퍼셉트론 신경망의 역전파 학습 시각화)

  • Oh, Ju-Min;Choi, Yong-Suk
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2017.01a
    • /
    • pp.19-20
    • /
    • 2017
  • 인공지능이 사회적으로 대두되면서 많은 양의 관련 연구가 시작되고 있다. 본 논문에서는 다층 퍼셉트론 신경망에서 역전파 학습의 진행 과정을 시각화 하는 것을 목표로 하고 있다. 다층 퍼셉트론 신경망은 학습의 진행 과정과 그 방식은 잘 알려져 있으나 각 신경의 값이 어떻게 변화되어 가는 지는 눈에 보이지 않는다. 이러한 과정에 대해 시각화를 통해 값이 변하는 과정을 눈으로 쉽게 관찰할 수 있도록 하는 것이 이 논문의 목표이다. 본 연구결과는 향후 다층 퍼셉트론 신경망을 기반으로 하는 다른 모델의 시각화에 대한 기초자료로 활용될 수 있을 것이다.

  • PDF

Fuzzy Multilayer Perceptron by Using Self-Generation (자가 생성을 이용한 퍼지 다층 퍼셉트론)

  • 백인호;김광백
    • Proceedings of the Korea Inteligent Information System Society Conference
    • /
    • 2003.05a
    • /
    • pp.469-473
    • /
    • 2003
  • 다층 구조 신경망에서 널리 사용되는 오류 역전파 알고리즘은 초기 가중치와 불충분한 은닉층의 노드수로 인하여 지역 최소화에 빠질 가능성이 있다. 따라서 본 논문에서는 오류 역전파 알고리즘에서 은닉층의 노드 수를 설정하는 문제와 ARTI에서 경계 변수의 설정에 따라 인식률이 저하되는 문제점을 개선하기 위하여 ARTI과 Max-Min 신경망을 결합한 퍼지 다층 퍼셉트론을 제안한다. 제안된 자가 생성을 이용한 퍼지 다층 퍼셉트론은 입력층에서 은닉층으로 노드를 생성시키는 방식은 ARTI을 적용하였고, 가중치 조정은 특정 패턴에 대한 저장 패턴을 수정하도록 하는 winner-take-all 방식을 적용하였다. 제안된 학습 방법의 성능을 평가하기 위하여 학생증 영상을 대상으로 실험한 결과, 기존의 오류 역전파 알고즘보다 연결 가중치들이 지역 최소화에 위치할 가능성이 줄었고 학습 속도 및 정체 현상이 개선되었다.

  • PDF

Hidden Node Pruning of Multilayer Perceptrons (다층퍼셉트론의 중간층 노드 수 축소 방법)

  • Oh, Sang-Hoon
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2010.05a
    • /
    • pp.3-4
    • /
    • 2010
  • 다층퍼셉트론의 구조를 결정할 때 중간층 노드 수를 정하는 부분이 성능에 큰 영향을 미친다. 이 논문에서는 처음에 중간층 노드수를 임의로 크게 설정한 다음, 학습의 진행에 따라 중간층 노드 수를 축소시키는 방법을 제안한다. 제안한 방법은 중간층 노드들 간의 상관관계를 활용한 방법으로 이전의 방법들보다 훨씬 간단하다.

  • PDF