• Title/Summary/Keyword: 일반 회귀 신경망

Search Result 36, Processing Time 0.029 seconds

Performance Improvement of General Regression Neural Network by Reducing Dimensionality of Independent Variables (독립변수의 차원 감소에 의한 일반회귀 신경망의 성능개선)

  • 조용현
    • Journal of the Korean Institute of Intelligent Systems
    • /
    • v.10 no.6
    • /
    • pp.533-541
    • /
    • 2000
  • 본 논문에서는 독립변수들의 차원을 감소시켜 일반회귀 신경망의 성능을 개선하는 방법을 제안하였다. 제안된 방법에서는 적응적 학습 알고리즘의 주요성분분석 기법을 이용하여 독립변수 패턴의 특징을 추출하고 이를 일반회귀 신경망의 학습데이터로 이용하였다. 이는 주요성분분석 기법이 가지는 대용량의 입력 데이터를 통계적으로 독립인 특징들의 집합으로 변환시키는 속성을 살려 학습데이터의 차원을 감소시킴으로서 고차원의 학습데이터에 따른 일반회귀 신경망이 가지는 제약을 해결하기 위함이다. 제안된 기법의 일반회귀 신경망을 3개의 독립변수 패턴을 가진 암모니아 제조공정문제와 10개의 독립변수 패턴을 가진 자동차 연비문제에 각각 적용하여 시뮬레이션한 결과, 기존의 일반회귀 신경망에 의한 결과와 비교할 때 더욱 우수한 학습성능과 회귀성능이 있음을 확인할 수 있었다. 그리고 커널함수의 평활요소 설정 면에서도 우수한 특성이 있음을 확인할 수 있었다.

  • PDF

Performance Improvement of General Regression Neural Network Using Principal Component Analysis (주요성분분석에 의한 일반회귀 신경망의 성능개선)

  • Cho, Yong-Hyun
    • The Transactions of the Korea Information Processing Society
    • /
    • v.7 no.11
    • /
    • pp.3408-3416
    • /
    • 2000
  • This paper proposes an efficient method for improving the performance of a general regression neural network by using the feature to the independent variables as the center for partern-layer neurons. The adaptive principal component analysis is applied for extracting, efficiently the fcarures by reducing the dimension of given independent variables. In can acluevc a supertor property of the principal component analysis that converts input data into set of statistically independent features and the general regression neuralnetwork, espedtively. The proposed general regression neural network has been applied to regress the Solow's economy(2-independent variable set) and the wie elephone(1-independent vanable set). The simulation results show that the proposed meural networks have better performances of the regressionfor the lest data, in comparison with those using the means or the weighted means of independent variables. Also,it is affected less by the number of neurons and the scope of the smoothing factor.

  • PDF

Korean-English Non-Autoregressive Neural Machine Translation using Word Alignment (단어 정렬을 이용한 한국어-영어 비자기회귀 신경망 기계 번역)

  • Jung, Young-Jun;Lee, Chang-Ki
    • Annual Conference on Human and Language Technology
    • /
    • 2021.10a
    • /
    • pp.629-632
    • /
    • 2021
  • 기계 번역(machine translation)은 자연 언어로 된 텍스트를 다른 언어로 자동 번역 하는 기술로, 최근에는 주로 신경망 기계 번역(Neural Machine Translation) 모델에 대한 연구가 진행되었다. 신경망 기계 번역은 일반적으로 자기회귀(autoregressive) 모델을 이용하며 기계 번역에서 좋은 성능을 보이지만, 병렬화할 수 없어 디코딩 속도가 느린 문제가 있다. 비자기회귀(non-autoregressive) 모델은 단어를 독립적으로 생성하며 병렬 계산이 가능해 자기회귀 모델에 비해 디코딩 속도가 상당히 빠른 장점이 있지만, 멀티모달리티(multimodality) 문제가 발생할 수 있다. 본 논문에서는 단어 정렬(word alignment)을 이용한 비자기회귀 신경망 기계 번역 모델을 제안하고, 제안한 모델을 한국어-영어 기계 번역에 적용하여 단어 정렬 정보가 어순이 다른 언어 간의 번역 성능 개선과 멀티모달리티 문제를 완화하는 데 도움이 됨을 보인다.

  • PDF

회귀모형과 신경망모형을 이용한 아파트 가격 모형에 관한 연구

  • Hong, Han-Guk;Seo, Bo-Ra;Kim, Tae-Hun
    • Proceedings of the Korean Society for Quality Management Conference
    • /
    • 2006.04a
    • /
    • pp.506-512
    • /
    • 2006
  • 다양한 아파트 특성들을 이용하여 아파트 가격을 추정하고 예측하는 연구 또한 많이 존재하고 있는 실정이다. 그렇지만 이러한 연구들 대부분이 회귀모형에 지나치게 의존하고 있는 실정이다 그러나 회귀모형은 단점보다 장점이 많은 모형이다. 본 연구는 회귀모형을 부정하기보다는 새로운 모형을 도입하여, 회귀모형의 문제점들을 극복하고 회귀모형과 상호보완적인 모형을 도입할 필요성에 의해서 본 연구를 수행한 것이다. 다양한 아파트 특성들에 대하여 신경망모형을 이용하여 아파트 가격을 예측하고, 기존의 회귀모형과 비교하는 것이 본 연구의 주목적이다 또한 회귀모형과 신경망모형의 상호 보완적인 측면을 규명하는 것은 본 연구의 부차적인 목적이 된다 아파트 특성들은 주변에서 쉽게 이용 가능한 데이터를 위주로 하였다. 2004년 6월 기준으로 서울시 송파구와 도봉구의 아파트 매매가격들과 12개의 아파트 특성들을 수집하였다. 아파트 매매가격들 (즉, 매매 하한가, 일반 거래가, 매매 상한가) 을 새로운 측정방법을 이용하여 하나의 매매가격으로 추정하였으며, 대표성을 가지도록 하였다. 신경망모형을 도입하여 아파트 특성들을 이용하여 아파트 가격을 정밀하고 유효하게 예측하고, 기존의 회귀모형들과 비교하는 것은 아파트 가격에 대한 연구 분야에 큰 의미가 있다 하겠다. 그리고 주택에 관한 기존의 연구와 신규 연구에 신경망모형이 활용될 수 있으리라 판단된다.

  • PDF

신경망 모형의 초기가중치 최적화 방법에 관한 연구

  • Jo, Yong-Jun;Lee, Yong-Gu
    • Proceedings of the Korean Statistical Society Conference
    • /
    • 2003.05a
    • /
    • pp.19-24
    • /
    • 2003
  • 신경망은 적용 다양성과 제약조건의 최소성, 강력한 예측성, 범용성, 근사성 등 많은 장점을 지니고 있으나 초기 가중치의 할당에 따라 모델 생성의 Performance와 예측의 결과가 달라지게 되는 단점을 지니고 있다. 이런 신경망의 초기 가중치에 따른 단점을 보안하기 위해 통계적 알고리즘의 접목을 통해 Hybrid된 신경망 보완 알고리즘을 제시하고자 하였다. 논문을 위한 기본 가정으로 신경망의 가장 기본인 SLP 알고리즘을 바탕으로 활성함수에 가장 일반적으로 사용되는 Sigmoid 활성함수를 이용하였을 때, 초기 가중치로 기존의 임의 난수 생성 방식이 아닌 통계적 로지스틱 회귀분석의 계수값(mle)을 제시하여 이를 초기치로 사용한 경우와 그렇지 않은 경우의 예측 정확성과 수렴의 Performance정도를 비교하여 가장 효과적인 초기치 방법을 제시하고자 하였다.

  • PDF

A Class of Recurrent Neural Networks for the Identification of Finite State Automata (회귀 신경망과 유한 상태 자동기계 동정화)

  • Won, Sung-Hwan;Song, Iick-Ho;Min, Hwang-Ki;An, Tae-Hun
    • The Journal of Korea Institute of Information, Electronics, and Communication Technology
    • /
    • v.5 no.1
    • /
    • pp.33-44
    • /
    • 2012
  • A class of recurrent neural networks is proposed and proven to be capable of identifying any discrete-time dynamical system. The applications of the proposed network are addressed in the encoding, identification, and extraction of finite state automata. Simulation results show that the identification of finite state automata using the proposed network, trained by the hybrid greedy simulated annealing with a modified error function in the learning stage, exhibits generally better performance than other conventional identification schemes.

A Study on the Forecasting of Container Volume using Neural Network (신경망을 이용한 컨테이너 물동량 예측에 관한 연구)

  • Park, Sung-Young;Lee, Chul-Young
    • Journal of Navigation and Port Research
    • /
    • v.26 no.2
    • /
    • pp.183-188
    • /
    • 2002
  • The forecast of a container traffic has been very important for port and development. Generally, Statistic methods, such as moving average method, exponential smoothing, and regression analysis have been much used for traffic forecasting. But, considering various factors related to the port affect the forecasting of container volume, neural network of parallel processing system can be effective to forecast container volume based on various factors. This study discusses the forecasting of volume by using the neural, network with back propagation learning algorithm. Affected factors are selected based on impact vector on neural network, and these selected factors are used to forecast container volume. The proposed the forecasting algorithm using neural network was compared to the statistic methods.

A study on Forecasting The Operational Continuous Ability in Battalion Defensive Operations using Artificial Neural Network (인공신경망을 이용한 대대전투간 작전지속능력 예측)

  • Shim, Hong-Gi;Kim, Sheung-Kown
    • Journal of Intelligence and Information Systems
    • /
    • v.14 no.3
    • /
    • pp.25-39
    • /
    • 2008
  • The objective of this study is to forecast the operational continuous ability using Artificial Neural Networks in battalion defensive operation for the commander decision making support. The forecasting of the combat result is one of the most complex issue in military science. However, it is difficult to formulate a mathematical model to evaluate the combat power of a battalion in defensive operation since there are so many parameters and high temporal and spatial variability among variables. So in this study, we used company combat power level data in Battalion Command in Battle Training as input data and used Feed-Forward Multilayer Perceptrons(MLP) and General Regression Neural Network (GRNN) to evaluate operational continuous ability. The results show 82.62%, 85.48% of forecasting ability in spite of non-linear interactions among variables. We think that GRNN is a suitable technique for real-time commander's decision making and evaluation of the commitment priority of troops in reserve.

  • PDF

Development of Traffic Accident Frequency Prediction Model in Urban Signalized Intersections with Fuzzy Reasoning and Neural Network Theories (퍼지 및 신경망이론을 이용한 도시부 신호교차로 교통사고예측모형 개발)

  • Kang, Young-Kyun;Kim, Jang-Wook;Lee, Soo-Il;Lee, Soo-Beom
    • International Journal of Highway Engineering
    • /
    • v.13 no.1
    • /
    • pp.69-77
    • /
    • 2011
  • This study is to suggest a methodology to overcome the uncertainty and lack of reliability of data. The fuzzy reasoning model and the neural network model were developed in order to overcome the potential lack of reliability which may occur during the process of data collection. According to the result of comparison with the Poisson regression model, the suggested models showed better performance in the accuracy of the accident frequency prediction. It means that the more accurate accident frequency prediction model can be developed by the process of the uncertainty of raw data and the adjustment of errors in data by learning. Among the suggested models, the performance of the neural network model was better than that of the fuzzy reasoning model. The suggested models can evaluate the safety of signalized intersections in operation and/or planning, and ultimately contribute the reduction of accidents.

Forecasting algorithm using an improved genetic algorithm based on backpropagation neural network model (개선된 유전자 역전파 신경망에 기반한 예측 알고리즘)

  • Yoon, YeoChang;Jo, Na Rae;Lee, Sung Duck
    • Journal of the Korean Data and Information Science Society
    • /
    • v.28 no.6
    • /
    • pp.1327-1336
    • /
    • 2017
  • In this study, the problems in the short term stock market forecasting are analyzed and the feasibility of the ARIMA method and the backpropagation neural network is discussed. Neural network and genetic algorithm in short term stock forecasting is also examined. Since the backpropagation algorithm often falls into the local minima trap, we optimized the backpropagation neural network and established a genetic algorithm based on backpropagation neural network for forecasting model in order to achieve high forecasting accuracy. The experiments adopted the korea composite stock price index series to make prediction and provided corresponding error analysis. The results show that the genetic algorithm based on backpropagation neural network model proposed in this study has a significant improvement in stock price index series forecasting accuracy.