• Title/Summary/Keyword: 다층퍼셉트론 신경망

Search Result 151, Processing Time 0.029 seconds

Regularized Neural Network Training Algorithm Using Line Search Tunneling and It's Application to Option Pricing (선형탐색 터널링을 이용한 정규화 신경망 학습 알고리즘과 옵션가격결정에의 응용)

  • Kim, Bo-Hyeon;Jeong, Gyu-Hwan;Choe, Hyeong-Jun;Lee, Jae-Uk
    • Proceedings of the Korean Operations and Management Science Society Conference
    • /
    • 2005.05a
    • /
    • pp.746-752
    • /
    • 2005
  • 본 논문에서는 다층 퍼셉트론 신경망 학습을 위한 새로운 두 단계 학습방법을 제안하고 이를 옵션 가격결정 모형에 응용하였다. 제안된 신경망 학습 알고리즘의 첫번째 단계는 Levenberg-Marquardt 알고리즘을 이용하여 빠르게 국소최적해를 찾는 것이고 두 번째 단계는 첫 번째 단계에서 찾은 국소최적해가 원하는 수준에 미치지 못할 경우 선형탐색 터널링을 이용해서 더 나은 해를 찾는 것이다. 이 두 단계를 반복적으로 수행함으로써 연결가중치 공간에서 구하고자 하는 해를 빠르고 안정적으로 찾을 수 있다. 현재 옵션가격결정 모형으로 많이 이용되고 있는 Black-Scholes 모형의 문제점을 극복하기 위해서 제안된 신경망 모형을 옵션가격결정 문제에 사용하였다. 이 모형을 KOSPI200 옵션 데이터로 실험한 결과 Black-Scholes 모형에 비해 검증오차를 60% 가량 줄일 수 있었다.

  • PDF

A Study on the Symmetric Neural Networks and Their Applications (대칭 신경회로망과 그 응용에 관한 연구)

  • 나희승;박영진
    • Transactions of the Korean Society of Mechanical Engineers
    • /
    • v.16 no.7
    • /
    • pp.1322-1331
    • /
    • 1992
  • The conventional neural networks are built without considering the underlying structure of the problems. Hence, they usually contain redundant weights and require excessive training time. A novel neural network structure is proposed for symmetric problems, which alleviate some of the aforementioned drawback of the conventional neural networks. This concept is expanded to that of the constrained neural network which may be applied to general structured problems. Because these neural networks can not be trained by the conventional training algorithm, which destroys the weight structure of the neural networks, a proper training algorithm is suggested. The illustrative examples are shown to demonstrate the applicability of the proposed idea.

Pattern Recognition of Hard Disk Defect Distribution Using Multi-Layer Perceptron Network (다층 퍼셉트론 신경망을 이용한 하드 디스크 결함 분포의 패턴 인식)

  • Moon, Un-Chul;Lee, Jae-Du
    • Journal of the Korean Institute of Illuminating and Electrical Installation Engineers
    • /
    • v.21 no.6
    • /
    • pp.94-101
    • /
    • 2007
  • In the Hard Disk Drive(HDD) production, the detect pattern or defective HDD set is important information to diagnosis of defective HDD set. This paper proposes a pattern recognition neural network for the defect distribution of HDD. In this paper, 5 characteristics are determined for the classification to six standard defect pattern classes. A multi-layer perceptron is trained for the pattern classification the inputs of which are 5 characteristic values and the 6 outputs are the nodes of standard patterns. The experiment with proposed neural network shows satisfactory results.

Improvement of multi layer perceptron performance using combination of gradient descent and harmony search for prediction of groundwater level (지하수위 예측을 위한 경사하강법과 화음탐색법의 결합을 이용한 다층퍼셉트론 성능향상)

  • Lee, Won Jin;Lee, Eui Hoon
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2022.05a
    • /
    • pp.186-186
    • /
    • 2022
  • 강수 및 침투 등으로 발생하는 지하수위의 변동을 예측하는 것은 지하수 자원의 활용 및 관리에 필수적이다. 지하수위의 변동은 지하수 자원의 활용 및 관리뿐만이 아닌 홍수 발생과 지반의 응력상태 등에 직접적인 영향을 미치기 때문에 정확한 예측이 필요하다. 본 연구는 인공신경망 중 다층퍼셉트론(Multi Layer Perceptron, MLP)을 이용한 지하수위 예측성능 향상을 위해 MLP의 구조 중 Optimizer를 개량하였다. MLP는 입력자료와 출력자료간 최적의 상관관계(가중치 및 편향)를 찾는 Optimizer와 출력되는 값을 결정하는 활성화 함수의 연산을 반복하여 학습한다. 특히 Optimizer는 신경망의 출력값과 관측값의 오차가 최소가 되는 상관관계를 찾는 연산자로써 MLP의 학습 및 예측성능에 직접적인 영향을 미친다. 기존의 Optimizer는 경사하강법(Gradient Descent, GD)을 기반으로 하는 Optimizer를 사용했다. 하지만 기존의 Optimizer는 미분을 이용하여 상관관계를 찾기 때문에 지역탐색 위주로 진행되며 기존에 생성된 상관관계를 저장하는 구조가 없어 지역 최적해로 수렴할 가능성이 있다는 단점이 있다. 본 연구에서는 기존 Optimizer의 단점을 개선하기 위해 지역탐색과 전역탐색을 동시에 고려할 수 있으며 기존의 해를 저장하는 구조가 있는 메타휴리스틱 최적화 알고리즘을 이용하였다. 메타휴리스틱 최적화 알고리즘 중 구조가 간단한 화음탐색법(Harmony Search, HS)과 GD의 결합모형(HS-GD)을 MLP의 Optimizer로 사용하여 기존 Optimizer의 단점을 개선하였다. HS-GD를 이용한 MLP의 성능검토를 위해 이천시 지하수위 예측을 실시하였으며 예측 결과를 기존의 Optimizer를 이용한 MLP 및 HS를 이용한 MLP의 예측결과와 비교하였다.

  • PDF

Predicting the Future Price of Export Items in Trade Using a Deep Regression Model (딥러닝 기반 무역 수출 가격 예측 모델)

  • Kim, Ji Hun;Lee, Jee Hang
    • KIPS Transactions on Software and Data Engineering
    • /
    • v.11 no.10
    • /
    • pp.427-436
    • /
    • 2022
  • Korea Trade-Investment Promotion Agency (KOTRA) annually publishes the trade data in South Korea under the guidance of the Ministry of Trade, Industry and Energy in South Korea. The trade data usually contains Gross domestic product (GDP), a custom tariff, business score, and the price of export items in previous and this year, with regards to the trading items and the countries. However, it is challenging to figure out the meaningful insight so as to predict the future price on trading items every year due to the significantly large amount of data accumulated over the several years under the limited human/computing resources. Within this context, this paper proposes a multi layer perception that can predict the future price of potential trading items in the next year by training large amounts of past year's data with a low computational and human cost.

New Two Phases Training Algorithm for Multilayer Perceptrons (다층 퍼셉트론의 새로운 두 단계 학습 알고리즘)

  • Choi Hyoungjoon;Lee Jaewook
    • Proceedings of the Korean Operations and Management Science Society Conference
    • /
    • 2003.05a
    • /
    • pp.849-856
    • /
    • 2003
  • 본 논문에서는 다층 퍼셉트론의 학습을 위한 새로운 두 단계 학습방법을 제안하였다. 첫 번째 단계는 국소최적해로 빨리 수렴하기 위해 Levenberg-Marquardt 알고리즘을 이용한 국소 탐색 단계이다. 두 번째 단계는 첫 번째 단계에서 찾은 국소최적해가 원하는 수준에 미치지 못할 경우 새로운 국소최적해로 벗어나기 위한 선형탐색을 기반의 터널링 단계이다. 이 방법은 연결가중치 공간에서 전역최적해를 빠르게 찾을 수 잇는 새로운 방법을 제공한다. 4가지 벤치마크 문제에 기존의 다층 퍼셉트론의 학습 알고리즘과 비교 실험을 통해, 제안된 알고리즘이 빠른 수렴 속도와 낮은 오차값을 가짐을 알 수 있었다.

  • PDF

Efficient Combining Methods for a Collaborative Recommendation (협력적 추천을 위한 효율적인 통합 방법)

  • 도영아;김종수;류정우;김명원
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2001.10b
    • /
    • pp.130-132
    • /
    • 2001
  • 신경망을 이용한 추천 기술은 항목이나 사용자간의 가중치를 학습할 수 있고, 자료 유형에 상관없이 데이터 처리가 용이하다. 또한 최근 연구를 통해서 그 우수성이 입증되고 있다. 그러나 사용자간의 상관관계로 추천하는 사용자 신경망 모델과 항목간의 상관관계로 추천하는 항목 신경망 모델이 서로 다른 관점으로 다른 선호도를 제시한 경우에 선택한 모델의 선호도에 따라 시스템의 성능이 좌우된다. 그러므로 효율적이고 성능이 우수한 추천 시스템을 위해 사용자와 항목 신경망 모델의 통합 방법을 제안한다. 두 모델 사이에 우선 순위를 결정하여 통합하는 순차적 통합 방법과 두 모델을 동시에 고려하는 병렬적 통합방법을 제안한다. 그러나 두 통합 방법은 선호도 예측 기준에 있어서 정적이고, 문제에 대한 적응성이 없다. 그러므로 신경망(퍼셉트론, 다층 퍼셉트론)을 이용한 통합 방법을 제안한다. 또한 퍼지의 소속함수를 이용하여 퍼지 추론를 적용한 통합 방법을 제안하고, 패턴 인식 분야에서 사용하는 BKS 방법을 적응하여 두 신경망 모델을 통합하여 실험한다. 본 논문에서는 사용자와 항목 신경망 모델을 통합함으로써 기존의 추천 기술인 연관 규칙과 단일 신경망 모델을 이용한 추천보다 우수함을 보이고 있다.

  • PDF

다층퍼셉트론 신경망 모형을 이용한 한반도 가뭄 예측성 평가

  • Jeong, Min-Soo;Jang, Ho-Won;Lee, Joo-Heon;Moon, Young-Il
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2016.05a
    • /
    • pp.86-86
    • /
    • 2016
  • 본 연구는 가뭄 예측에 대한 오차를 알고리즘과 결합하여 다층 퍼셉트론 (Multi-layer Perceptron, MLP) 네트워크 구조를 인공신경망 모형에 적용하고, 표준강수지수(Standard Precipitation Index, SPI)를 입 력 및 출력 변수로 구성하여 가뭄예측을 시도하였다. 예측모델을 평가하기 위해 기상청 산하의 59개 관측소에 대한 1980년부터 2015년까지의 기상자료를 적용하였으며, 수립된 자료를 활용하여 한반도 전역의 가뭄에 대한 시공간적인 분석을 수행하였다. 단기가뭄 예측성능을 평가하기 위해 2000년에서 2015년까지 16년간의 모의결과를 ROC 분석을 통하여 시공간적 단기가뭄 예측성능을 평가하고 혼동행렬(Conversion Matrix) 구성에 대한 조건적 확률의 다각적 검토를 통해 모델 예측에 대한 정확성(Accuracy), 신뢰성(Precision) 등 다양한 예측성능에 대한 평가를 수행하고 2016년 가뭄전망을 제시하고자 한다.

  • PDF

Site Application of Artificial Neural Network for Tunnel Construction (인공신경망을 이용한 터널시공에서 현장 적용성)

  • Song, Joohyeon;Chae, Hwiyoung;Chun, Byungsik
    • Journal of the Korean GEO-environmental Society
    • /
    • v.13 no.8
    • /
    • pp.25-33
    • /
    • 2012
  • Although it is important to reflect the accurate information of the ground condition in the tunnel design, the analysis and design are conducted by limited information because it is very difficult to consider various geographies and geotechnical conditions. When the tunnel is under construction, examination of accurate safety and prediction of behavior are overcome the limits of predicting behavior by Artificial Neural Network in this study. First, construct the suitable structure after the data of field was made sure by the multi-layer back propagation, then apply with algorithm. Employ the result of measured data from database, and consider the influence factor of tunnel, like supporting pattern, RMR, Q, the types of rock, excavation length, excavation shape, excavation over, to carry out the reliable analysis through field applicability of Artificial Neural Network. After studying, using the ANN model to predict the shearing displacement, convergence displacement, underground displacement, Rock bolt output follow the excavation over of tunnel construction field, then determine the field applicability with ANN through field measured value and comparison analysis when tunnel is being constructed.

A Study on Construction of Back-propagation Architecture for ARMA data (ARMA 데이터에 대한 Back-propagation 신경망의 구조)

  • 김나영;김희영
    • Proceedings of the Korean Statistical Society Conference
    • /
    • 2000.11a
    • /
    • pp.17-22
    • /
    • 2000
  • 시계열 자료를 분석할 때 쉽게 접근하는 통계적 방법은 ARMA 모형이며 신경망 학습 방법 중에서는 다층 퍼셉트론에서의 Back-propagation 알고리즘이 일반적이다. Back-propagation을 비롯한 신경망 학습의 구조는 자료의 특성에 따라 경험적으로 결정하는 것으로 알려져 있다. 그러나 바로 이 점이 신경망 학습방법의 이용을 어렵게 하는 요인이기도 하다. 본 연구는 ARMA 모형 중 몇 개 유형의 자료에 대하여 Back-propagation 알고리즘을 적용함에 있어 어떠한 구조로 학습하는 것이 효율적인가를 입력층과 은닉층의 크기, 활성화 함수를 중심으로 검토하였다.

  • PDF