• 제목/요약/키워드: Back Propagation Training Algorithm

검색결과 185건 처리시간 0.034초

인공 신경망(ANN)에 의한 하수처리장의 유입 유량 및 유입 성분 농도의 예측 (Prediction of Influent Flow Rate and Influent Components using Artificial Neural Network (ANN))

  • 문태섭;최재훈;김성희;차재환;염훈식;김창원
    • 한국물환경학회지
    • /
    • 제24권1호
    • /
    • pp.91-98
    • /
    • 2008
  • This work was performed to develop a model possible to predict the influent flow and influent components, which are one of main disturbances causing process problems at the operation of municipal wastewater treatment plant. In this study, artificial neural network (ANN) was used in order to develop a model that was able to predict the influent flow, $COD_{Mn}$, SS, TN 1 day-ahead, 2day-ahead and 3 day ahead. Multi-layer feed-forward back-propagation network was chosen as neural network type, and tanh-sigmoid function was used as activation function to transport signal at the neural network. And Levenberg-Marquart (LM) algorithm was used as learning algorithm to train neural network. Among 420 data sets except missing data, which were collected between 2005 and 2006 at field plant, 210 data sets were used for training, and other 210 data sets were used for validation. As result of it, ANN model for predicting the influent flow and components 1-3day ahead could be developed successfully. It is expected that this developed model can be practically used as follows: Detecting the fault related to effluent concentration that can be happened in the future by combining with other models to predict process performance in advance, and minimization of the process fault through the establishment of various control strategies based on the detection result.

단순신경회로망의 설계 및 구현 (A Design And Implementation Of Simple Neural Networks System In Turbo Pascal)

  • 우원택
    • 한국정보시스템학회:학술대회논문집
    • /
    • 한국정보시스템학회 2000년도 추계학술대회
    • /
    • pp.1.2-24
    • /
    • 2000
  • 본연구에서는 단순신경망의 구조와 특성을 이해하기 위해 신경회로망의 알고리듬을 이론적으로 분석하고 이를 토대로 프로그램을 설계 실행하여 신경망의 학습과정을 실험하였다. 본연구에서 채택한 학습알고리듬은 3계층구조의 역전파알고리듬이며 신경망의 모형은 단순의료전문가시스템모형을 입력치로 채택하였다. 계층수, 노드수, 학습사이클 수, 학습율, 모멘텀항등의 모수를 입력한 실험의 결과는 입력치에 대한 출력이 기대목표와 거의 일치하였다.

  • PDF

산란계의 전염성 기관지염을 예측하기 위한 인공신경망 모형의 개발 (Development an Artificial Neural Network to Predict Infectious Bronchitis Virus Infection in Laying Hen Flocks)

  • 박선일;권혁무
    • 한국임상수의학회지
    • /
    • 제23권2호
    • /
    • pp.105-110
    • /
    • 2006
  • 2003년 5월부터 2005년 11월까지 산란계의 전염성기관지염(IB) 예찰 프로그램에 등록한 농장에 대한 역학조사에서 얻은 자료에 근거하여 IB 감염을 확인할 수 있는 모형을 구축하기 위하여 16개의 입력 뉴런, 3 개의 은닉 뉴런, 1개의 출력 뉴런으로 구성된 3층 인공신경망 모형을 개발하였다. 총 86개의 계군 중 77개는 훈련자료에 할당하고 나머지 9개는 검정자료로 무작위로 할당하여 back-propagation algorithm으로 신경망 훈련을 수행하였다. 입력 뉴런은 산란계군의 특성, 사양관리, 계군의 크기 등 16개의 역학조사 항목을 사용하였으며 출력 뉴런은 IB 감염의 유무로 투입하였다. 훈련된 신경망을 검정자료에 적용하여 민감도와 특이도를 산출하였으며 진단의 정확도는 receiver operating characteristic (ROC) 곡선을 사용하여 곡선 밑의 면적(AUC)을 계산하여 평가하였다. 입력 뉴런의 특성과 훈련모수를 변경하면서 다양한 신경망을 구성하였으며 최적의 신경망으로 확인된 IBV_D1 신경망의 경우 훈련자료에 대하여 77건 중 73건을 올바르게 판단하여 94.8%의 정확도를 보였다. 민감도와 특이도는 각각 95.5% (42/44, 95% CI, 84.5-99.4)와 93.9% (31/33, 95% CI, 79.8-99.3)로 나타났다. 훈련된 신경망을 검정자료에 적용하여 ROC 곡선을 작성한 결과 AUC는 전체의 94.8% (SE=0.086, 95% CI 0.592-0.961)를 차지하는 우수한 모형으로 나타났다. ROC 곡선에서 기준을 0.7149 이상으로 판단할 때 진단의 정확도가 88.9%로 가장 높았으며 100%의 민감도를 달성하였다. 이러한 민감도와 특이도에서 44%의 IB 유병률을 가정할 때 IBV_D1 모형은 80%의 양성예측도와 100%의 음성예측도를 보였다. 이러한 소견에 근거할 때 본 연구에서 구축한 신경망 모형은 산란계군에서 IB의 존재를 확인하기 위한 목적에 성공적으로 응용될 수 있을 것으로 판단되었다.

Radial Basis 함수를 이용한 동적 - 단기 전력수요예측 모형의 개발 (The Development of Dynamic Forecasting Model for Short Term Power Demand using Radial Basis Function Network)

  • 민준영;조형기
    • 한국정보처리학회논문지
    • /
    • 제4권7호
    • /
    • pp.1749-1758
    • /
    • 1997
  • 전력수요의 예측은 예측기간에 따라 중장기 전력수요 예측과 단기 부하 예측으로 구분할 수 있다. 기존의 단기 부하예측은 주로 역전파 알고리즘(back propagation algorithm)다층퍼셉트론을 이용하여 예측을 하였으나 이는 학습시간이 많이 걸릴 뿐만 아니라 학습도중에 지역최소점(local minima)에 빠져 학습이 계속되지 못한다는 문제가 있다. 본 논문은 이러한 역전파 알고리즘의 문제점을 해결할 수 있는 방법으로 Radial Basis 함수(Radial Basis Function)를 이용하여 동적 단기부하 예측 모형을 제안한다. Radial Basis 함수는 하나의 은닉층(hidden layer)을 갖고 있으며, 전방향(feed-forward)학습을 한다는 특징이 있다. 본 논문에서 제안한 단기 부하 예측모형은 학습을 하기 위하여 시간대별 부하량을 클러스터링 하고, 이 클러스터의 중심값을 Radial Basis 함수의 은닉층으로 하여 학습을 한 다음 예측하고자 하는 패턴을 한 단위로 하여 시단대별로 예측하였다. 기존의 연구에서의 클러스터링 방법으로는 통계학의 K-Means 방법이나 Kohonen의 LVQ(Learning Vector Quantization)을 주로 이용하였으나 본 논문에서는 패턴의 분류에 있어서 다른 알고리즘보다 편차가 작은 Pal, et. al.의 GLVQ(Generalized LVQ) 알고리즘을 이용하였다. 본 논문에서 이용한 데이타는 1995년 3월 1일-3일, 6월 1일-3일, 7월 1일-3일, 9월 1일-3일, 11월 1일-3일의 72시간 데이타를 입력하여 월별 4일의 24시간의 예측시간으로 예측하였다. 실험결과 월별 1일과 3일까지의 학습데이타로 1시간 후의 부하량을 24시간동안 예측한 결과 1.3795%의 평균 오차율로 예측하였다.

  • PDF

Artificial Neural Network for Quantitative Posture Classification in Thai Sign Language Translation System

  • Wasanapongpan, Kumphol;Chotikakamthorn, Nopporn
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 2004년도 ICCAS
    • /
    • pp.1319-1323
    • /
    • 2004
  • In this paper, a problem of Thai sign language recognition using a neural network is considered. The paper addresses the problem in classifying certain signs conveying quantitative meaning, e.g., large or small. By treating those signs corresponding to different quantities as derived from different classes, the recognition error rate of the standard multi-layer Perceptron increases if the precision in recognizing different quantities is increased. This is due the fact that, to increase the quantitative recognition precision of those signs, the number of (increasingly similar) classes must also be increased. This leads to an increase in false classification. The problem is due to misinterpreting the amount of quantity the quantitative signs convey. In this paper, instead of treating those signs conveying quantitative attribute of the same quantity type (such as 'size' or 'amount') as derived from different classes, here they are considered instances of the same class. Those signs of the same quantity type are then further divided into different subclasses according to the level of quantity each sign is associated with. By using this two-level classification, false classification among main gesture classes is made independent to the level of precision needed in recognizing different quantitative levels. Moreover, precision of quantitative level classification can be made higher during the recognition phase, as compared to that used in the training phase. A standard multi-layer Perceptron with a back propagation learning algorithm was adapted in the study to implement this two-level classification of quantitative gesture signs. Experimental results obtained using an electronic glove measurement of hand postures are included.

  • PDF

인간의 정보처리 방법에 기반한 특징추출 및 필기체 문자인식에의 응용 (Feature extraction motivated by human information processing method and application to handwritter character recognition)

  • 윤성수;변혜란;이일병
    • 인지과학
    • /
    • 제9권1호
    • /
    • pp.1-11
    • /
    • 1998
  • 본 논문에서는 인간의 정보처리 과정에 관한 심리학적 실험에 바탕을 두고 인간이 사용하고 있는 것으로 생각되는 특징을 이용하여 이를 문자 인식에 적용하였다. 인간의 경우 화소단위의 정보뿐만 아니라 일정지역의 정보를 함께 처리하는 경향이 있다. 그러므로 일정지역에 대한 정보를 표시하는 영역 특징을 정의하고 정의된 이 영역 특징과 기존의 화소단위 특징들을 결합하였다. 사용한 특징으로는 영역 특징에 기반 한 초등 적 분석결과, 영역특징을 포함한 망 특징, 교차거리와 특징 그리고 기울기 특징들이다. 성능 평가 실험은 필기 한글자모, 숫자 그리고 대소영문자를 대상으로 하였으며, 인식기는 역전과 학습 방법을 이용한 신경망 인식기를 사용하였다. 각각의 인식 결과는 90.27∼93.25%, 98.00% 그리고 79.73∼85.75였다. 영역 특징과 유사한 UDLRH 특징을 대상으로 비교한 결과 전체적으로 1∼2% 정도 인식률 향상이 있었으며 인간이 판단하기에 보다 납득하기 쉬운 오 인식 성향을 보였다.

  • PDF

계층적 신경망을 이용한 객체 영상 분류 (Object Image Classification Using Hierarchical Neural Network)

  • 김종호;김상균;신범주
    • 한국산업정보학회논문지
    • /
    • 제11권1호
    • /
    • pp.77-85
    • /
    • 2006
  • 본 논문에서는 내용기반 영상 분류를 위한 방법론으로써 신경망을 이용한 계층적 분류 방법을 제안한다. 분류 대상 영상은 인터넷상의 다양한 영상들 중에서 전경과 배경의 구분이 있는 객체 영상이다. 전처리 과정에서 영역 분할을 이용하여 영상 내에서 배경을 제거하고 객체 영역을 추출한다. 분류를 위한 특징으로는 웨이블릿 변환 후 추출된 형태 특징과 질감 특징을 이용한다. 추출된 특징 값들을 Principal Component Analysis(PCA)와 K-means를 이용해서 군집화 시키고 유사한 군집들을 묶으면서, 5단계의 계층적 분류기를 구성한다. 계층적 분류기는 BP를 학습 알고리즘으로 사용하는 59개의 신경망분류기로 구성된다. 배경을 제거하고 질감특징 중 가장 높은 분류율을 보이는 대각 모멘트를 사용하여 실험하였을 때, 100종류에서 각 10개씩, 총 1000개의 학습 데이터와 1000개의 테스트 데이터에 대하여 각각 81.5%와 75.1%의 정분류율을 보였다.

  • PDF

유도전동기의 고성능 제어를 위한 적응 퍼지-뉴로 제어기 (Adaptive Fuzzy-Neuro Controller for High Performance of Induction Motor)

  • 정동화;최정식;고재섭
    • 조명전기설비학회논문지
    • /
    • 제20권3호
    • /
    • pp.53-61
    • /
    • 2006
  • 본 논문은 유도전동기 드라이브의 고성능 제어를 위한 적응 퍼지-뉴로 제어기를 제시한다. 이 알고리즘의 설계는 퍼지제어와 신경회로망을 사용하는 퍼지-신경회로망 제어기에 기초한다. 적응 퍼지-뉴로 제어기는 신경회로망의 학습패턴과 같은 퍼지 룰을 사용하고 또한 지령값과 실제값 사이의 오차를 최소화하기 위하여 신경회로망의 뉴런사이의 하중을 역전파 알고리즘 방법을 사용하여 조절한다. 적응 기준 모델 설계는 기준모델의 출력과 전동기 속도 사이의 오차와 오차 변화분을 기초로 한 퍼지 로직에 의하여 실행되는 적응 메카니즘을 제시한다. 적응 퍼지-뉴로 제어기의 제어 성능은 다양한 동작 상태에 대한 분석으로 평가한다. 제안한 제어시스템의 실험 결과는 고성능과 파리미터 변동과 정상상태 정확성, 순시응답의 강인성을 가진다.

WSN기반의 인공지능기술을 이용한 위치 추정기술 (Localization Estimation Using Artificial Intelligence Technique in Wireless Sensor Networks)

  • 시우쿠마;전성민;이성로
    • 한국통신학회논문지
    • /
    • 제39C권9호
    • /
    • pp.820-827
    • /
    • 2014
  • One of the basic problems in Wireless Sensor Networks (WSNs) is the localization of the sensor nodes based on the known location of numerous anchor nodes. WSNs generally consist of a large number of sensor nodes and recording the location of each sensor nodes becomes a difficult task. On the other hand, based on the application environment, the nodes may be subject to mobility and their location changes with time. Therefore, a scheme that will autonomously estimate or calculate the position of the sensor nodes is desirable. This paper presents an intelligent localization scheme, which is an artificial neural network (ANN) based localization scheme used to estimate the position of the unknown nodes. In the proposed method, three anchors nodes are used. The mobile or deployed sensor nodes request a beacon from the anchor nodes and utilizes the received signal strength indicator (RSSI) of the beacons received. The RSSI values vary depending on the distance between the mobile and the anchor nodes. The three RSSI values are used as the input to the ANN in order to estimate the location of the sensor nodes. A feed-forward artificial neural network with back propagation method for training has been employed. An average Euclidian distance error of 0.70 m has been achieved using a ANN having 3 inputs, two hidden layers, and two outputs (x and y coordinates of the position).

다중 판별자를 가지는 동적 삼차원 뉴로 시스템 (A Dynamic Three Dimensional Neuro System with Multi-Discriminator)

  • 김성진;이동형;이수동
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제34권7호
    • /
    • pp.585-594
    • /
    • 2007
  • 오류역전파 방법을 이용하는 신경망들은 패턴들의 학습시간이 매우 오래 걸리고 또한 추가학습과 반복학습의 한계를 가지며, 이런 단점을 보완할 수 있는 이진신경망(Binary Neural Network, BNN)이 Aleksander에 의해 제안되었다. 그러나 BNN도 반복학습에 있어서는 단점을 가지고 있으며, 일반화 패턴을 추출하기 어렵다. 본 논문에서는 BNN의 구조를 개선하여 반복학습과 추가학습이 가능할 뿐 아니라, 특징점들까지 추출할 수 있는 다중 판별자를 가지는 삼차원 뉴로 시스템을 제안한다. 제안된 모델은 기존의 BNN을 기반으로 하여 만들어진 이차원 특징을 가지는 Single Layer Network(SLN)에 귀환회로가 추가되어 특징점들을 누적할 수 있는 삼차원 신경망이다. 학습을 통해 누적된 정보는 판별자의 각 신경세포에 임계치를 조정함으로써 일반화 패턴을 추출할 수 있다. 그리고 생성된 일반화 패턴을 인식에 재사용함으로써 반복학습의 효율성을 높였다. 최종 판정 단계에서는 Maximum Response Detector(MRD)를 이용하였다. 본 논문에서 제안한 시스템을 평가하기 위하여 NIST에서 제공하는 숫자 자료를 이용하였으며, 99.3%의 인식률을 얻었다.