• Title/Summary/Keyword: 다층 신경망 구조

Search Result 114, Processing Time 0.03 seconds

Pattern Classification Using Hybrid Monte Carlo Neural Networks (변종 몬테 칼로 신경망을 이용한 패턴 분류)

  • Jeon, Seong-Hae;Choe, Seong-Yong;O, Im-Geol;Lee, Sang-Ho;Jeon, Hong-Seok
    • The KIPS Transactions:PartB
    • /
    • v.8B no.3
    • /
    • pp.231-236
    • /
    • 2001
  • 일반적인 다층 신경망에서 가중치의 갱신 알고리즘으로 사용하는 오류 역전과 방식은 가중치 갱신 결과를 고정된(fixed) 한 개의 값으로 결정한다. 이는 여러 갱신의 가능성을 오직 한 개의 값으로 고정하기 때문에 다양한 가능성들을 모두 수용하지 못하는 면이 있다. 하지만 모든 가능성을 확률적 분포로 표현하는 갱신 알고리즘을 도입하면 이런 문제는 해결된다. 이러한 알고리즘을 사용한 베이지안 신경망 모형(Bayesian Neural Networks Models)은 주어진 입력값(Input)에 대해 블랙 박스(Black-Box)와같은 신경망 구조의 각 층(Layer)을 거친 출력값(Out put)을 계산한다. 이 때 주어진 입력 데이터에 대한 결과의 예측값은 사후분포(posterior distribution)의 기댓값(mean)에 의해 계산할 수 있다. 주어진 사전분포(prior distribution)와 학습데이터에 의한 우도함수(likelihood functions)에 의해 계산한 사후확률의 함수는 매우 복잡한 구조를 가짐으로 기댓값의 적분계산에 대한 어려움이 발생한다. 따라서 수치해석적인 방법보다는 확률적 추정에 의한 근사 방법인 몬테 칼로 시뮬레이션을 이용할 수 있다. 이러한 방법으로서 Hybrid Monte Carlo 알고리즘은 좋은 결과를 제공하여준다(Neal 1996). 본 논문에서는 Hybrid Monte Carlo 알고리즘을 적용한 신경망이 기존의 CHAID, CART 그리고 QUEST와 같은 여러 가지 분류 알고리즘에 비해서 우수한 결과를 제공하는 것을 나타내고 있다.

  • PDF

A Study of the Automatic Berthing System of a Ship Using Artificial Neural Network (인공신경망을 이용한 선박의 자동접안 제어에 관한 연구)

  • Bae, Cheol-Han;Lee, Seung-Keon;Lee, Sang-Eui;Kim, Ju-Han
    • Journal of Navigation and Port Research
    • /
    • v.32 no.8
    • /
    • pp.589-596
    • /
    • 2008
  • In this paper, Artificial Neural Network(ANN) is applied to automatic berthing control for a ship. ANN is suitable for a maneuvering such as ship's berthing, because it can describe non-linearity of the system. Multi-layer perceptron which has more than one hidden layer between input layer and output layer is applied to ANN. Using a back-propagation algorithm with teaching data, we trained ANN to get a minimal error between output value and desired one. For the automatic berthing control of a containership, we introduced low speed maneuvering mathematical models. The berthing control with the structure of 8 input layer units in ANN is compared to 6 input layer units. From the simulation results, the berthing conditions are satisfied, even though the berthing paths are different.

A Robust Propagation Algorithm for Function Approximation (함수근사를 위한 로버스트 역전파 알고리즘)

  • Kim, Sang-Min;Hwang, Chang-Ha
    • The Transactions of the Korea Information Processing Society
    • /
    • v.4 no.3
    • /
    • pp.747-753
    • /
    • 1997
  • Function approximation from a set of input-output parirs has numerous applications in scientiffc and engineer-ing areas.Multiayer feedforward neural networks have been proposed as a good approximator of noninear function.The back propagation (BP) algorithm allows muktiayer feedforward neural networks oro learn input-output mappongs from training samples.However, the mapping acquired through the BP algorithm nay be cor-rupt when errorneous trauning data are employed.In this paper we propose a robust BP learning algorithm that is resistant to the errormeous data and is capable of rejecting gross errors during the approximation process.

  • PDF

Flow Forecasting using Neural Networks Model in Nakdong River Basin (신경망 모형을 이용한 낙동강 유역에서의 유량 예측)

  • Han, Kun-Yeun;Kim, Dong-Il;Son, Ah-Long;Kim, Ji-Eun
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2009.05a
    • /
    • pp.314-318
    • /
    • 2009
  • 본 연구의 목적은 강우-유출자료 및 댐 방류량 자료의 비선형적인 특정을 가장 잘 반영할 수 있는 신경망모형을 적용하여 수질정책의 기초자료를 제공하기 위하여 신뢰성 있는 유량자료를 산정하는 모형을 개발하였고 이를 낙동강 유역에 적용하는 것이다. 이를 위해서 낙동강물환경연구소의 8일 측정 유량이 가지는 정확성을 이용하면서 상류 댐의 일 방류량자료와 유역별 강우자료 및 국토해양부 수위관측소의 수위자료를 연계하여 유량을 보간할 수 있는 유량 보간 신경망 모형을 개발하였다. 신경망 모형의 출력값은 낙동강물환경 연구소에서 측정하지 않은 기간에 대하여 유량을 보간할 수 있도록 구성하였으며 신경망 모형의 구조는 입력층과 출력층 사이에 하나의 은닉층이 존재하는 다층 신경망으로 구성하였으며, 학습단계에서는 오류 역전파 알고리듬 학습방법 중 모멘텀법을 사용하였다. 본 연구를 통하여 낙동강 전 유역에 대하여 유량 보간 모형을 적용한 결과 댐 방류량과 강우자료 및 상류 수위 관측소의 유량 자료를 이용한 유량 보간 신경망모형의 일 유량결과의 적용가능성을 검증할 수 있으며, 제시된 모형은 지속적인 수문자료의 질적 향상과 유출패턴의 축적으로 그 성능을 향상시킬 수 있을 것이며 또한 홍수기의 더 정확한 유량예측을 위한 적용사례의 확장 및 SWAT을 이용한 모형의 적용에 대한 연구가 병행되어야 할 것이다.

  • PDF

Efficient Learning Algorithm using Structural Hybrid of Multilayer Neural Networks and Gaussian Potential Function Networks (다층 신경회로망과 가우시안 포텐샬 함수 네트워크의 구조적 결합을 이용한 효율적인 학습 방법)

  • 박상봉;박래정;박철훈
    • The Journal of Korean Institute of Communications and Information Sciences
    • /
    • v.19 no.12
    • /
    • pp.2418-2425
    • /
    • 1994
  • Although the error backpropagation(EBP) algorithm based on the gradient descent method is a widely-used learning algorithm of neural networks, learning sometimes takes a long time to acquire accuracy. This paper develops a novel learning method to alleviate the problems of EBP algorithm such as local minima, slow speed, and size of structure and thus to improve performance by adopting other new networks. Gaussian Potential Function networks(GPFN), in parallel with multilayer neural networks. Empirical simulations show the efficacy of the proposed algorithm in function approximation, which enables us to train networks faster with the better generalization capabilities.

  • PDF

Site Application of Artificial Neural Network for Tunnel Construction (인공신경망을 이용한 터널시공에서 현장 적용성)

  • Song, Joohyeon;Chae, Hwiyoung;Chun, Byungsik
    • Journal of the Korean GEO-environmental Society
    • /
    • v.13 no.8
    • /
    • pp.25-33
    • /
    • 2012
  • Although it is important to reflect the accurate information of the ground condition in the tunnel design, the analysis and design are conducted by limited information because it is very difficult to consider various geographies and geotechnical conditions. When the tunnel is under construction, examination of accurate safety and prediction of behavior are overcome the limits of predicting behavior by Artificial Neural Network in this study. First, construct the suitable structure after the data of field was made sure by the multi-layer back propagation, then apply with algorithm. Employ the result of measured data from database, and consider the influence factor of tunnel, like supporting pattern, RMR, Q, the types of rock, excavation length, excavation shape, excavation over, to carry out the reliable analysis through field applicability of Artificial Neural Network. After studying, using the ANN model to predict the shearing displacement, convergence displacement, underground displacement, Rock bolt output follow the excavation over of tunnel construction field, then determine the field applicability with ANN through field measured value and comparison analysis when tunnel is being constructed.

The intelligent warning method for the water pollution accident (수질오염사고를 위한 지능형 경보 기법)

  • Yeon, In-Sung;Lee, Jae-Kyung;Lee, Jae-Kwan;Ahn, Sang-Jin
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2007.05a
    • /
    • pp.1043-1047
    • /
    • 2007
  • 수질오염사고로 발생할 수 있는 시나리오를 통해서 스스로 수질오염사고를 판단할 수 있는 지능형 알고리즘들을 검토하였다. 지능형 알고리즘의 학습을 위해 개발된 기준축과 학습지표는 적절한 결과를 유도하는데 유용하였다. 다층신경망, 뉴로-퍼지 알고리즘은 TOC와 DO의 이상 수질에 대하여 안정, 주의, 경고 상태를 적합하게 구별하는 것으로 나타났으며, 다중퍼셉트론 알고리즘은 모호한 자료에 대해서는 판단능력이 부족한 것으로 나타났다. 구조가 단순하지만 양방향 연산을 수행하는 BAM(Bidirectional Associative Memory) 알고리즘은 다층신경망과 뉴로-퍼지 알고리즘과 비교할 때, 학습 및 구동시간이 짧을 뿐만아니라 결과 또한 안정적인 것으로 나타났다.

  • PDF

다층퍼셉트론 신경망 모형을 이용한 한반도 가뭄 예측성 평가

  • Jeong, Min-Soo;Jang, Ho-Won;Lee, Joo-Heon;Moon, Young-Il
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2016.05a
    • /
    • pp.86-86
    • /
    • 2016
  • 본 연구는 가뭄 예측에 대한 오차를 알고리즘과 결합하여 다층 퍼셉트론 (Multi-layer Perceptron, MLP) 네트워크 구조를 인공신경망 모형에 적용하고, 표준강수지수(Standard Precipitation Index, SPI)를 입 력 및 출력 변수로 구성하여 가뭄예측을 시도하였다. 예측모델을 평가하기 위해 기상청 산하의 59개 관측소에 대한 1980년부터 2015년까지의 기상자료를 적용하였으며, 수립된 자료를 활용하여 한반도 전역의 가뭄에 대한 시공간적인 분석을 수행하였다. 단기가뭄 예측성능을 평가하기 위해 2000년에서 2015년까지 16년간의 모의결과를 ROC 분석을 통하여 시공간적 단기가뭄 예측성능을 평가하고 혼동행렬(Conversion Matrix) 구성에 대한 조건적 확률의 다각적 검토를 통해 모델 예측에 대한 정확성(Accuracy), 신뢰성(Precision) 등 다양한 예측성능에 대한 평가를 수행하고 2016년 가뭄전망을 제시하고자 한다.

  • PDF

Improving Probability of Precipitation of Meso-scale NWP Using Precipitable Water and Artificial Neural Network (가강수량과 인공신경망을 이용한 중규모수치예보의 강수확률예측 개선기법)

  • Kang, Boo-Sik;Lee, Bong-Ki
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2008.05a
    • /
    • pp.1027-1031
    • /
    • 2008
  • 본 연구는 한반도 영역을 대상으로 2001년 7, 8월과 2002년 6월로 홍수기를 대상으로 RDAPS 모형, AWS, 상층기상관측(upper-air sounding)의 자료를 이용하였다. 또한 수치예보자료를 범주적 예측확률로 변환하고 인공신경망기법(ANN)을 이용하여 강수발생확률의 예측정확성을 향상시키는데 있다. 신경망의 예측인자로 사용된 대기변수는 500/ 750/ 1000hpa에서의 지위고도, 500-1000hpa에서의 층후(thickness), 500hpa에서의 X와 Y의 바람성분, 750hpa에서의 X와 Y의 바람성분, 표면풍속, 500/ 750hpa/ 표면에서의 온도, 평균해면기압, 3시간 누적 강수, AWS관측소에서 관측된 RDAPS모형 실행전의 6시간과 12시간동안의 누적강수, 가강수량, 상대습도이며, 예측변수로는 강수발생확률로 선택하였다. 강우는 다양한 대기변수들의 비선형 조합으로 발생되기 때문에 예측인자와 예측변수 사이의 복잡한 비선형성을 고려하는데 유용한 인공신경망을 사용하였다. 신경망의 구조는 전방향 다층퍼셉트론으로 구성하였으며 역전파알고리즘을 학습방법으로 사용하였다. 강수예측성과의 질을 평가하기 위해서 $2{\times}2$ 분할표를 이용하여 Hit rate, Threat score, Probability of detection, Kuipers Skill Score를 사용하였으며, 신경망 학습후의 강수발생확률은 학습전의 강수발생확률에 비하여 한반도영역에서 평균적으로 Kuipers Skill Score가 0.2231에서 0.4293로 92.39% 상승하였다.

  • PDF

A Study on the design and Structure of Multi-Layer Perceptron for Effective Classifying Objects (객체의 분류를 위한 효율적인 다층퍼셉트론의 설계 및 구조에 관한 연구)

  • Lee, Yong-Kyu;Ko, Hyeong-il;Lee, Yillbyung
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2014.11a
    • /
    • pp.803-805
    • /
    • 2014
  • 다층 퍼셉트론 분류기는 그 패턴 분류 성능이 훌륭하여 오랜 기간 동안 여러 응용분야에서 사용되어 왔다. 그러나 다른 분류기보다 학습시간이 오래 소요된다는 점이 문제로 지적받아 왔다. 따라서 본 논문은 회전하는 객체의 분류를 위하여 다층 퍼셉트론의 학습시간을 줄이는 효율적인 신경망 시스템을 제안한다. 주성분 분석법을 이용하여 원 데이터의 정보를 가장 잘 잘 나타내도록 변환한 뒤, 그 결과를 다층 퍼셉트론 분류기의 입력으로 사용하였다. 제안하는 시스템은 기존 다층 퍼셉트론 분류기와 비교하였을 때 학습시간을 줄이면서 좀 더 높은 인식률을 보였다.