• 제목/요약/키워드: multi multi-layer neural networks

검색결과 225건 처리시간 0.026초

퍼지 결합 다항식 뉴럴 네트워크 기반 패턴 분류기 설계 (The Design of Pattern Classification based on Fuzzy Combined Polynomial Neural Network)

  • 노석범;장경원;안태천
    • 전기학회논문지
    • /
    • 제63권4호
    • /
    • pp.534-540
    • /
    • 2014
  • In this paper, we propose a fuzzy combined Polynomial Neural Network(PNN) for pattern classification. The fuzzy combined PNN comes from the generic TSK fuzzy model with several linear polynomial as the consequent part and is the expanded version of the fuzzy model. The proposed pattern classifier has the polynomial neural networks as the consequent part, instead of the general linear polynomial. PNNs are implemented by stacking the simple polynomials dynamically. To implement one layer of PNNs, the various types of simple polynomials are used so that PNNs have flexibility and versatility. Although the structural complexity of the implemented PNNs is high, the PNNs become a high order-multi input polynomial finally. To estimate the coefficients of a polynomial neuron, The weighted linear discriminant analysis. The output of fuzzy rule system with PNNs as the consequent part is the linear combination of the output of several PNNs. To evaluate the classification ability of the proposed pattern classifier, we make some experiments with several machine learning data sets.

입자화 중심 자기구성 다항식 신경 회로망의 새로운 설계 (A new Design of Granular-oriented Self-organizing Polynomial Neural Networks)

  • 오성권;박호성
    • 전기학회논문지
    • /
    • 제61권2호
    • /
    • pp.312-320
    • /
    • 2012
  • In this study, we introduce a new design methodology of a granular-oriented self-organizing polynomial neural networks (GoSOPNNs) that is based on multi-layer perceptron with Context-based Polynomial Neurons (CPNs) or Polynomial Neurons (PNs). In contrast to the typical architectures encountered in polynomial neural networks (PNN), our main objective is to develop a methodological design strategy of GoSOPNNs as follows : (a) The 1st layer of the proposed network consists of Context-based Polynomial Neuron (CPN). In here, CPN is fully reflective of the structure encountered in numeric data which are granulated with the aid of Context-based Fuzzy C-Means (C-FCM) clustering method. The context-based clustering supporting the design of information granules is completed in the space of the input data while the build of the clusters is guided by a collection of some predefined fuzzy sets (so-called contexts) defined in the output space. (b) The proposed design procedure being applied at each layer of GoSOPNN leads to the selection of preferred nodes of the network (CPNs or PNs) whose local characteristics (such as the number of contexts, the number of clusters, a collection of the specific subset of input variables, and the order of the polynomial) can be easily adjusted. These options contribute to the flexibility as well as simplicity and compactness of the resulting architecture of the network. For the evaluation of performance of the proposed GoSOPNN network, we describe a detailed characteristic of the proposed model using a well-known learning machine data(Automobile Miles Per Gallon Data, Boston Housing Data, Medical Image System Data).

Reinforcement Learning Control using Self-Organizing Map and Multi-layer Feed-Forward Neural Network

  • Lee, Jae-Kang;Kim, Il-Hwan
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 2003년도 ICCAS
    • /
    • pp.142-145
    • /
    • 2003
  • Many control applications using Neural Network need a priori information about the objective system. But it is impossible to get exact information about the objective system in real world. To solve this problem, several control methods were proposed. Reinforcement learning control using neural network is one of them. Basically reinforcement learning control doesn't need a priori information of objective system. This method uses reinforcement signal from interaction of objective system and environment and observable states of objective system as input data. But many methods take too much time to apply to real-world. So we focus on faster learning to apply reinforcement learning control to real-world. Two data types are used for reinforcement learning. One is reinforcement signal data. It has only two fixed scalar values that are assigned for each success and fail state. The other is observable state data. There are infinitive states in real-world system. So the number of observable state data is also infinitive. This requires too much learning time for applying to real-world. So we try to reduce the number of observable states by classification of states with Self-Organizing Map. We also use neural dynamic programming for controller design. An inverted pendulum on the cart system is simulated. Failure signal is used for reinforcement signal. The failure signal occurs when the pendulum angle or cart position deviate from the defined control range. The control objective is to maintain the balanced pole and centered cart. And four states that is, position and velocity of cart, angle and angular velocity of pole are used for state signal. Learning controller is composed of serial connection of Self-Organizing Map and two Multi-layer Feed-Forward Neural Networks.

  • PDF

신경망이론을 이용한 폴리우레탄 코팅포 촉감의 예측 (Using Neural Networks to Predict the Sense of Touch of Polyurethane Coated Fabrics)

  • 이정순;신혜원
    • 한국감성과학회:학술대회논문집
    • /
    • 한국감성과학회 2001년도 춘계학술대회 논문집
    • /
    • pp.280-285
    • /
    • 2001
  • 폴리우레탄 코팅포의 촉감을 예측하기 위하여 신경망 이론이 사용되었다. 본 연구에서는 Neural Connection의 MLP(Multi Layer Perceptron)를 신경망 분석에 사용하였으며, 학습 알고리즘은 백프로파게인션(Backpropagation)을 이용하였다. 사용된 변수는 KES-FB시스템에서 측정된 17가지 역학적 특성치를 설명변수, 촉감치를 목표변수로 하였다. 폴리우레탄 코팅포의 촉감을 정확하게 예측할 수 있는 신경망 모델을 찾기 위해, 은닉층의 노드수를 8에서 34로 변화시켜 보았다. 또한 MLP적용함수로 선형함수, 비선형 시그모이드함수, 탄젠트 함수를 사용하여 목표변수를 예측하여 모형의 정확도를 살펴보았다. 구축된 신경망모델은 17가지 역학적특성치 자료를 이용하여 학습되었으며 학습 완료 후 학습에 사용되지 않은 시료를 시스템에 적용하여 학습된 신경망 시스템이 촉감을 평가하게 한 후 주관적으로 평가된 촉감치와 비교하여 본 시스템의 판단의 정확성을 평가하도록 하였다. 은닉층의 노드수와 MLP적용함수는 촉감예측에 영향을 미치는 것으로 나타났는데, 촉감 예측에 가장 적절한 모형은 MLP 적용함수가 탄젠트 함수이고 노드수가 22인 것으로 나타났다. 신경망을 통한 폴리우레탄 코팅포의 촉감 예측력은 선행연구에서 이용된 통계적 방법보다 높게 나타나 폴리우레탄 코팅포의 촉감예측에 신경망의 이용은 효과적인 것으로 밝혀졌다.

  • PDF

Movie Box-office Prediction using Deep Learning and Feature Selection : Focusing on Multivariate Time Series

  • Byun, Jun-Hyung;Kim, Ji-Ho;Choi, Young-Jin;Lee, Hong-Chul
    • 한국컴퓨터정보학회논문지
    • /
    • 제25권6호
    • /
    • pp.35-47
    • /
    • 2020
  • 박스 오피스 예측은 영화 이해관계자들에게 중요하다. 따라서 정확한 박스 오피스 예측과 이에 영향을 미치는 주요 변수를 선별하는 것이 필요하다. 본 논문은 영화의 박스 오피스 예측 정확도 향상을 위해 다변량 시계열 데이터 분류와 주요 변수 선택 방법을 제안한다. 연구 방법으로 한국 영화 일별 데이터를 KOBIS와 NAVER에서 수집하였고, 랜덤 포레스트(Random Forest) 방법으로 주요 변수를 선별하였으며, 딥러닝(Deep Learning)으로 다변량 시계열을 예측하였다. 한국의 스크린 쿼터제(Screen Quota) 기준, 딥러닝을 이용하여 영화 개봉 73일째 흥행 예측 정확도를 주요 변수와 전체 변수로 비교하고 통계적으로 유의한지 검정하였다. 딥러닝 모델은 다층 퍼셉트론(Multi-Layer Perceptron), 완전 합성곱 신경망(Fully Convolutional Neural Networks), 잔차 네트워크(Residual Network)로 실험하였다. 결과적으로 주요 변수를 잔차 네트워크에 사용했을 때 예측 정확도가 약 93%로 가장 높았다.

Modal parameters based structural damage detection using artificial neural networks - a review

  • Hakim, S.J.S.;Razak, H. Abdul
    • Smart Structures and Systems
    • /
    • 제14권2호
    • /
    • pp.159-189
    • /
    • 2014
  • One of the most important requirements in the evaluation of existing structural systems and ensuring a safe performance during their service life is damage assessment. Damage can be defined as a weakening of the structure that adversely affects its current or future performance which may cause undesirable displacements, stresses or vibrations to the structure. The mass and stiffness of a structure will change due to the damage, which in turn changes the measured dynamic response of the system. Damage detection can increase safety, reduce maintenance costs and increase serviceability of the structures. Artificial Neural Networks (ANNs) are simplified models of the human brain and evolved as one of the most useful mathematical concepts used in almost all branches of science and engineering. ANNs have been applied increasingly due to its powerful computational and excellent pattern recognition ability for detecting damage in structural engineering. This paper presents and reviews the technical literature for past two decades on structural damage detection using ANNs with modal parameters such as natural frequencies and mode shapes as inputs.

센서퓨젼 기반의 인공신경망을 이용한 드릴 마모 모니터링 (Sensor Fusion and Neural Network Analysis for Drill-Wear Monitoring)

  • ;권오양
    • 한국공작기계학회논문집
    • /
    • 제17권1호
    • /
    • pp.77-85
    • /
    • 2008
  • The objective of the study is to construct a sensor fusion system for tool-condition monitoring (TCM) that will lead to a more efficient and economical drill usage. Drill-wear monitoring has an important attribute in the automatic machining processes as it can help preventing the damage of tools and workpieces, and optimizing the drill usage. In this study, we present the architectures of a multi-layer feed-forward neural network with Levenberg-Marquardt training algorithm based on sensor fusion for the monitoring of drill-wear condition. The input features to the neural networks were extracted from AE, vibration and current signals using the wavelet packet transform (WPT) analysis. Training and testing were performed at a moderate range of cutting conditions in the dry drilling of steel plates. The results show good performance in drill- wear monitoring by the proposed method of sensor fusion and neural network analysis.

심층 신경회로망 모델을 이용한 일별 주가 예측 (Daily Stock Price Forecasting Using Deep Neural Network Model)

  • 황희수
    • 한국융합학회논문지
    • /
    • 제9권6호
    • /
    • pp.39-44
    • /
    • 2018
  • 심층 신경회로망은 적합한 수학적 모델에 대한 어떠한 가정 없이 데이터로부터 유용한 정보를 추출해서 예측에 필요한 입출력 관계를 정의할 수 있기 때문에 최근 시계열 예측 분야에서 주목 받고 있다. 본 논문에서는 주가의 일별 종가를 예측하기 위한 심층 신경회로망 모델을 제안한다. 제안된 심층 신경회로망은 예측 정밀도를 높이기 위해 단일 층의 오토인코더와 4층의 신경회로망이 결합된 구조를 갖는다. 오토인코더 층은 주가 예측에 필요한 최적의 입력 특징을 추출하고 4층의 신경회로망은 추출된 특징을 사용해 주가 예측에 필요한 동특성을 반영하여 주가를 출력한다. 제안된 심층 신경회로망의 학습은 층별로 단계적으로 이뤄지며 최종 단계에서 전체 심층 신경회로망에 대해 한 번 더 학습이 실행된다. 본 논문에 제안된 방법으로 KOrea composite Stock Price Index (KOSPI) 일별 종가를 예측하는 심층 신경회로망을 구현하고 기존 방법과 예측 정확도를 비교, 평가한다.

사각형 특징 기반 분류기와 PCA기반 MLNN을 이용한 실시간 얼굴검출 및 인식 (Real Time Face Detection and Recognition using Rectangular Feature Based Classifier and PCA-based MLNN)

  • 김종민;이기준
    • 디지털콘텐츠학회 논문지
    • /
    • 제11권4호
    • /
    • pp.417-424
    • /
    • 2010
  • 본 논문은 사각형 특징 기반 분류기를 제안하여 실시간으로 얼굴 영역을 검출하며, 계산의 효율성과 검출 성능을 동시에 만족시키는 강인한 검출 알고리즘을 제안하였다. 또한 검출한 얼굴영역은 인식의 입력 영상으로 사용하여 PCA와 지능형 분류기법의 하나인 다층 신경망을 결합한 얼굴 인식 방법을 제안하고 성능을 평가 하였다. 이 방법은 입력된 얼굴 영상에 대해 전처리 과정으로서 PCA을 통하여 고유얼굴을 산출하고 이를 기본 벡터로 하여 훈련 영상들을 표현한다. 각 영상들은 기본벡터에 대한 가중치의 집합을 특징벡터로 함과 동시에 영상의 차원을 줄인 다음에 다층신경망에 입력하여 얼굴인식을 수행한다. 실험 결과 기존의 방식인 Euclidean과 Mahananobis방법과 비교한 결과 제안한 방법이 잘못된 매칭이나 매칭 실패에서 향상된 인식 성능을 보였다. 또한 학습률에 따른 인식률에 변화를 실험하여 가장 최적의 학습률의 값을 도출하였다.

A New Effective Learning Algorithm for a Neo Fuzzy Neuron Model

  • Yamakawa, Takeshi;Kusanagi, Hiroaki;Uchino, Eiji;Miki, Tsutomu
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 1993년도 Fifth International Fuzzy Systems Association World Congress 93
    • /
    • pp.1017-1020
    • /
    • 1993
  • This paper describes a neo fuzzy neuron which was produced by a fusion of fuzzy logic and neuroscience. Some learning algorithms are presented. The guarantee for the global minimum on the error-weight space is proved by a reduction to absurdity. Enhanced is that the learning speed of the neo fuzzy neuron exceeds 100,000 times of that of conventional multi-layer neural networks.

  • PDF