• 제목/요약/키워드: Perceptron Neural Network

검색결과 434건 처리시간 0.026초

지하수위 예측을 위한 경사하강법과 화음탐색법의 결합을 이용한 다층퍼셉트론 성능향상 (Improvement of multi layer perceptron performance using combination of gradient descent and harmony search for prediction of ground water level)

  • 이원진;이의훈
    • 한국수자원학회논문집
    • /
    • 제55권11호
    • /
    • pp.903-911
    • /
    • 2022
  • 물을 공급하기 위한 자원 중 하나인 지하수는 다양한 자연적 요인에 의해 수위의 변동이 발생한다. 최근, 인공신경망을 이용하여 지하수위의 변동을 예측하는 연구가 진행되었다. 기존에는 인공신경망 연산자 중 학습에 영향을 미치는 Optimizer로 경사하강법(Gradient Descent, GD) 기반 Optimizer를 사용하였다. GD 기반 Optimizer는 초기 상관관계 의존성과 해의 비교 및 저장 구조 부재의 단점이 존재한다. 본 연구는 GD 기반 Optimizer의 단점을 개선하기 위해 GD와 화음탐색법(Harmony Search, HS)를 결합한 새로운 Optimizer인 Gradient Descent combined with Harmony Search(GDHS)를 개발하였다. GDHS의 성능을 평가하기 위해 다층퍼셉트론(Multi Layer Perceptron, MLP)을 이용하여 이천율현 관측소의 지하수위를 학습 및 예측하였다. GD 및 GDHS를 사용한 MLP의 성능을 비교하기 위해 Mean Squared Error(MSE) 및 Mean Absolute Error(MAE)를 사용하였다. 학습결과를 비교하면, GDHS는 GD보다 MSE의 최대값, 최소값, 평균값 및 표준편차가 작았다. 예측결과를 비교하면, GDHS는 GD보다 모든 평가지표에서 오차가 작은 것으로 평가되었다.

다층회귀예측신경망의 음성인식성능에 관한 연구 (A Study on the Speech Recognition Performance of the Multilayered Recurrent Prediction Neural Network)

  • 안점영
    • 한국정보통신학회논문지
    • /
    • 제3권2호
    • /
    • pp.313-319
    • /
    • 1999
  • 4층구조의 다층퍼셉트론을 변형하여 3 종류의 다층회귀예측신경망을 구성하고, 예측차수, 두 은닉층의 뉴런개수, 연결세기의 초기치 및 전달함수 변화에 따른 각 망의 음성인식성능을 실험을 통해 각각 비교 분석한다. 실험결과에 의하면, 다층회귀신경망이 다층퍼셉트론에 비해 음성인식성능이 우수하다. 그리고 구조적으로는 상위은닉층의 출력을 하위은닉층으로 회귀할 때 인식성능이 가장 우수하며, 각 망 공히 상, 하위은닉층의 뉴런 10 혹은 15개, 예측차수 3 혹은 4차일 때 인식률이 양호하다. 학습시 연결세기의 초기치를 -0.5에서 0.5사이로 설정하고, 하위은닉층에서 단극성 시그모이드 전달함수를 사용할 때 인식성능이 더욱 향상된다.

  • PDF

신경망을 이용한 MODIS NDVI의 자동화 변화탐지 기법 (Automatic Change Detection of MODIS NDVI using Artificial Neural Networks)

  • 정명희
    • 전자공학회논문지CI
    • /
    • 제49권2호
    • /
    • pp.83-89
    • /
    • 2012
  • 지구의 중요한 천연자원인 산림을 포함한 자연 식생환경은 지난 1세기 동안 많은 변화를 겪으며 기후에도 영향을 미치게 되어 현재 지구적 차원의 관심 속에서 다양한 연구가 진행되고 있다. 원격탐사는 분광적 특성을 이용하여 식생의 특성을 탐지할 수 있어 식생자원을 모니터링하는데 매우 효율적인 수단이다. 이러한 연구에서는 보통 원격탐사 측정을 분석하여 관찰된 화소가 식생을 포함하고 있는 정도를 나타내는 식생지수가 사용되고 있는데 NDVI가 이중 가장 많이 사용되는 식생지수이다. 본 논문에서는 MODIS NDVI 시계열 자료를 이용하여 자동으로 식생의 변화를 탐지해 가는 방법론이 제안되어 있다. 변화탐지를 위해 비모수 방법의 신경망 모형이 사용되었고 특성벡터로는 한 화소에서 다중 시기의 NDVI 차이와 더불어 NDVI 시계열 자료의 시간상의 관계가 함께 고려될수 있도록 제안되었다. 사용된 모형의 테스트를 위해 2006년부터 2011년까지 한반도 지역에 대한 MODIS MYD13Q1 자료가 사용되었다.

모노스태틱 RCS와 바이스태틱 RCS의 표적 구분 성능 분석 (Performance Comparison for Radar Target Classification of Monostatic RCS and Bistatic RCS)

  • 이성준;최인식
    • 한국전자파학회논문지
    • /
    • 제21권12호
    • /
    • pp.1460-1466
    • /
    • 2010
  • 본 논문은 바이스태틱 RCS와 모노스태틱 RCS를 이용하여 각각 표적 구분 실험을 수행하고 그 성능을 비교 분석하였다. 모노스태틱 및 바이스태틱 RCS로부터 특성을 추출하기 위하여 시간-주파수 영역 해석법인 STFT와 CWT를 이용하였으며, 다중 퍼셉트론 신경망을 구분기로 이용하였다. 실험 결과, 모노스태틱과 바이스태틱 RCS 모두 CWT가 STFT보다 더 나은 구분 성능을 보여주었다. 또한, STFT에서는 바이스태틱 RCS를 이용했을 때, CWT에서는 모노스태틱 RCS를 이용하였을 때 대체적으로 더 좋은 성능을 나타내었다. 결과적으로 본 논문을 통하여 바이스태틱 RCS도 모노스태틱 RCS처럼 표적 구분에 똑같이 적용할 수 있다는 것을 알 수 있었다.

A Computational Intelligence Based Online Data Imputation Method: An Application For Banking

  • Nishanth, Kancherla Jonah;Ravi, Vadlamani
    • Journal of Information Processing Systems
    • /
    • 제9권4호
    • /
    • pp.633-650
    • /
    • 2013
  • All the imputation techniques proposed so far in literature for data imputation are offline techniques as they require a number of iterations to learn the characteristics of data during training and they also consume a lot of computational time. Hence, these techniques are not suitable for applications that require the imputation to be performed on demand and near real-time. The paper proposes a computational intelligence based architecture for online data imputation and extended versions of an existing offline data imputation method as well. The proposed online imputation technique has 2 stages. In stage 1, Evolving Clustering Method (ECM) is used to replace the missing values with cluster centers, as part of the local learning strategy. Stage 2 refines the resultant approximate values using a General Regression Neural Network (GRNN) as part of the global approximation strategy. We also propose extended versions of an existing offline imputation technique. The offline imputation techniques employ K-Means or K-Medoids and Multi Layer Perceptron (MLP)or GRNN in Stage-1and Stage-2respectively. Several experiments were conducted on 8benchmark datasets and 4 bank related datasets to assess the effectiveness of the proposed online and offline imputation techniques. In terms of Mean Absolute Percentage Error (MAPE), the results indicate that the difference between the proposed best offline imputation method viz., K-Medoids+GRNN and the proposed online imputation method viz., ECM+GRNN is statistically insignificant at a 1% level of significance. Consequently, the proposed online technique, being less expensive and faster, can be employed for imputation instead of the existing and proposed offline imputation techniques. This is the significant outcome of the study. Furthermore, GRNN in stage-2 uniformly reduced MAPE values in both offline and online imputation methods on all datasets.

신경 회로망을 이용한 연속 음성에서의 keyword spotting 인식 방식에 관한 연구 (A study on the Method of the Keyword Spotting Recognition in the Continuous speech using Neural Network)

  • 양진우;김순협
    • 한국음향학회지
    • /
    • 제15권4호
    • /
    • pp.43-49
    • /
    • 1996
  • 본 논문은 keyword spotting 기술을 이용한 247개의 DDD 지역명을 인식 대상으로 하여 화자 독립의 한국어 연속 음성인식을 위한 시스템을 제안하였다. 적용된 인식 알고리즘은 음성에서 시간축의 변화와 스펙트럼의 왜곡을 흡수할 수 있는 모델로 DP와 MLP로 구성된 동적 프로그래밍 신경회로망(DPNN)을 사용하였다. 이와 같은 실험을 위해 단어 모델을 만들고 이에 대한 단어 모델을 keyword 모델과 non-keyword 모델로 구분하여 성능을 향상시킬 수 있도록 하였다. 또한 잘못된 결과를 출력시키지 않기 위해서 후처리 과정을 두고 실험을 하였다. 실험결과, 단독어에 대한 화자 종속 실험은 93.45%의 결과를 보였고, 단독어에 대한 화자 독립 실험은 84.05%의 실험결과를 보였으며, 가장 중요한 간단한 대화체 문장의 keyword spotting 실험은 화자 종속으로 77.34%의 결과를 보였으며, 화자 독립 실험은 70.63%의 결과를 얻었다.

  • PDF

바이스태틱 레이다 측정 신호를 이용한 표적 인식에 관한 연구 (A Study on the Target Recognition Using Bistatic Measured Radar Signals)

  • 이성준;이승재;최인식
    • 한국전자파학회논문지
    • /
    • 제23권8호
    • /
    • pp.1002-1009
    • /
    • 2012
  • 본 연구는 미시간 주립대(Michigan State University)의 바이스태틱 레이다 시스템을 통하여 수집한 측정 데이터를 이용한 표적 구분에 관한 연구 결과이다. 본 연구에서는 먼저 F-14, Mig-29, F-22 스케일 모델에 대하여 $30^{\circ}$, $60^{\circ}$, $90^{\circ}$ 바이스태틱 각도에서의 측정을 수행하였다. 측정한 데이터로부터 시간-주파수 영역 해석법인 단시간 퓨리에 변환(Short Time Fourier Transform)과 연속 웨이브릿 변환(Continous Wavelet Transform)을 이용하여 특성 벡터를 추출하고, 신경망 구분기를 통하여 표적 구분 실험을 수행하였다. 실험 결과, 바이스태틱 각도에 따라 표적 구분 성능에 많은 변화가 있으며, 특히, $60^{\circ}$ 바이스태틱 각도에서 가장 좋은 구분 성능을 가짐을 알 수 있었다.

인공신경망을 이용한 금강 유역 하천 수위예측 적용성 평가 (Application Assessment of water level prediction using Artificial Neural Network in Geum river basin)

  • 유완식;김선민;김연수;황의호;정관수
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2018년도 학술발표회
    • /
    • pp.424-424
    • /
    • 2018
  • 인공신경망(Artificial Neural Network; ANN)은 뇌에 존재하는 생물학적 신경세포와 이들의 신호처리 과정을 수학적으로 묘사하여 뇌가 나타내는 지능적 형태의 반응을 구현한 것이다. 인공신경망은 학습(training)을 통해 입력과 출력으로 구성되는 하나의 시스템을 병렬적이고 비선형적으로 구축할 수 있으며, 유연한 모델링 특성으로 인하여 시스템 예측, 패턴인식, 분류 및 공정제어 등의 다양한 분야에서 활용되고 있다. 인공신경망에 대한 최초의 이론은 Muculloch and Pitts(1943)가 제안한 Perceptron에서 시작 되었으며, 기본적인 학습기법인 오차역전파 기법(back-propagation Algorithm) 이 1980년대에 들어 수학적으로 정립된 이후 여러 분야에서 활용되기 시작하였다). 본 연구에서는 하도추적, 구체적으로는 상류단의 복수의 수위관측을 이용하여 하류단의 수위를 예측하기 위하여 인공신경망 모델을 구성하였다. 대상하도는 금강유역의 용담댐과 대청댐 사이의 본류이며, 상류단 입력자료로써 본류에 있는 수통, 호탄 관측소 관측수위와 지류인 송천 관측소 관측수위를 고려하였다. 출력 값으로는 하류단의 옥천 관측소 수위를 3시간 및 6시간의 선행시간으로 예측하도록 인공신경망 모형을 구성하였다. 인공신경망의 학습(testing), 시험(testing), 검증(validation)을 위해 2000년부터 2012년까지 13년간의 시수위자료를 이용하여 학습을 진행하였으며, 2013년부터 2014년의 2년간의 수위자료를 이용한 시험을 통해 최적의 모형을 선정하였다. 또한 선정된 최적의 모형을 이용하여 2015년부터 2016년까지의 수위예측을 수행하였다.

  • PDF

분포형 모형과 인공신경망을 활용한 유출 예측 (Run-off Forecasting using Distributed model and Artificial Neural Network model)

  • 김원진;이용관;정충길;김성준
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2019년도 학술발표회
    • /
    • pp.35-35
    • /
    • 2019
  • 본 연구에서는 분포형 수문 모형 Drying Stream Assessment Tool and Water Flow Tracking (DrySAT-WTF)을 활용해 우리나라의 1976년부터 2015년까지의 유출량을 산정하고, 이를 다층퍼셉트론(Multi Layer Perceptron) 인경신경망 모형(Artificial Neural Network Model)에 적용해 미래 유출을 예측하였다. DrySAT-WFT은 전국 표준 유역을 대상으로 하천 건천화 원인 추적 및 평가를 위해 개발된 모형으로 유출모의를 위한 기상자료 외에 건천화 영향 요소를 고려하기 위한 산림 높이, 도로망, 지하수 이용량, 토지이용, 토심 변화에 대한 DB를 적용 가능한 것이 특징이다. DrySAT-WFT를 위한 기상자료로 모의 기간에 대한 일별 강우량, 상대습도, 평균풍속, 평균 및 최고, 최저 기온, 일조시간을 구축하였으며, 연대별 건천화 영향 요소 DB를 구축하여 적용하였다. 전국 다목적 댐 보 12지점의 유량을 활용해 모형의 보정(2005-2010) 및 검증(2011-2015)을 실시한 결과, 평균 결정계수(Coefficient of determination, $R^2$)는 0.76, 모형효율성계수(Nash-Sutcliffe efficiency, NSE)는 0.62, 평균제곱근오차(average root mean square error, RMSE)는 3.09로 신뢰성 있는 유출 모의 결과를 나타내었다. 미래 유출량 예측을 위한 MLP-ANN은 1976년부터 2015년까지의 유출 모의 결과를 Training Set으로 훈련하여 $R^2$가 0.5 이상이 되어 신뢰성을 확보하였고, 2016년부터 2018년까지의 기간을 1개월 단위로 실제 유출량과 예측 유출량을 비교하며 적용성을 검증 및 향상시켰다.

  • PDF

타브 숫자 인식을 위한 기계 학습 알고리즘의 성능 비교 (Performance Comparison of Machine Learning Algorithms for TAB Digit Recognition)

  • 허재혁;이현종;황두성
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제8권1호
    • /
    • pp.19-26
    • /
    • 2019
  • 본 논문에서는 기타 타브 악보에서 추출한 프렛 번호를 대상으로 학습 알고리즘의 분류 성능을 비교한다. 타브 악보로부터 세그먼트를 통해 추출된 타브 숫자 데이터는 타브 선과 악보 기호가 포함하기 때문에 레이블링 기법과 비선형 필터를 이용하여 프렛 숫자를 추출한다. 추가적인 데이터 확보를 위해 전처리가 수행된 데이터에 대해 4 방향으로 이동 연산을 수행한다. 선택된 학습 모델은 베이지안 분류기, 지지벡터기기, 프로토타입 기반 학습, 다층 신경망 그리고 합성곱 신경망 모델 등이다. 실험 결과 베이지안 분류기는 85.0% 평균 정확도를 보였고 나머지 분류기는 99.0% 이상의 평균 정확도를 보였다. 일반화 성능과 전처리 단계를 고려 시 합성곱 신경망이 다른 학습 모델들보다 우수하다.